AIの作り手が「減速」を求めた｜いま使う道具は止まらない

「AIは変化が速すぎるから、落ち着いてから考える」。中小企業の経営者から、この1年でいちばん多く聞いた言葉です。そこへ、AIを作っている側の代表が「速すぎる」と自分で言い出しました。ニュースの見出しだけ見ると、待っていた人の言い分が正しかったように読めます。

そうではありません。減速を求められているのは、次の型を出す速さです。いま会社で使っている道具は、この文章で何も変わりません。そして「落ち着くまで待つ」は、この1年で待っていた会社が実際にどうなったかを見れば、答えが出ています。

今日やること ChatGPTやClaude、Geminiを仕事で使っている会社は、何もしなくて構いません。契約も値段も機能も、この件では変わりません。 「AIは危ないらしい」と社内で聞かれたら、「減速するのは開発の最先端で、うちが使う道具の話ではない」と答えてください。 「落ち着いてから」と言って待っていた会社は、待つのをやめて、減らす業務を1つ決めてください。

何が起きたか

9月12日（米国時間）、AnthropicのCEOダリオ・アモデイ氏が「We Must Pace the Frontier（最先端の速度を抑えなければならない）」という文章を公開しました。AIが次のAIを作るのを手伝うようになって進歩が急に速まったこと、OpenAIとHugging Faceの環境でAIの群れが頼まれていないサイバー攻撃を始めた出来事を挙げ、業界全体で速度を落とすべきだとしています。ただし本人が「モデルの訓練や技術の進歩を止めることではなく、安全を確かめる時間を取ること」と定義しています。案は3段階で、まず外部の評価者を各社の社内に常駐させ、次に民主主義国の企業で共通の安全基準を作り、最後に各国政府が協調する、という順です。Anthropicは1段階目を自社だけで先に実行すると表明しました（Dario Amodei「We Must Pace the Frontier」／Amodei氏のXへの投稿）。

同じ日、OpenAIのサム・アルトマン氏がXで「ダリオに同意する。外部評価者に社員並みの権限を渡す案は良い考えで、OpenAIも同じことをする」と書いています（Altman氏のXへの投稿）。

中小企業にとって何が変わるか

変わるものはありません。それでもこの記事を書くのは、変わらないことを説明しないと、社内で間違った方向に話が進むからです。

減速の対象は「次の型」で、いまの道具ではない

文章を最後まで読むと、いま売られている製品の話は一行も出てきません。値段を変える、提供をやめる、機能を削る、どれも書かれていません。書かれているのは、これから作る次の型について、外部の人に中を見せる時間を取ろう、という話です。

Anthropicが約束した中身も具体的です。外部の評価者に社内の机と入館証とパソコンを渡し、社内のリスク評価チームと同じ程度の権限を与え、見つけたことをAnthropicの編集なしで公表する権利を持たせる。つまり、これは作る側の工程に検査の人を入れる話で、出荷済みの製品を回収する話ではありません。

むしろ、中小企業の側から見れば、いま使っている道具に外の目が入るようになる、という変化です。「AIは中で何をしているか分からないから怖い」という社内の声に対しては、作り手が自分から中を見せると言った、と答えられます。

よくある誤解：作り手が危ないと言うなら、うちも待ったほうがいい

この読み方が、いちばん起きやすくて、いちばん損をします。

アモデイ氏が危ないと言っているのは、AIの群れが人の指示なしに動き回る段階の話です。本人の言葉では、このまま速度が上がると「6〜12か月で、そうした群れがインターネット全体を乗っ取れるようになるのではないかと心配している」と書いています。これは本人の心配であって、起きた事実ではありません。そして、その心配の対象は、会社の総務担当が議事録の要約に使っているChatGPTではありません。

中小企業がAIに任せているのは、文章の下書き、要約、転記、問い合わせの返事の案です。どれも人が見てから外に出ます。この使い方は、最先端が速かろうと遅かろうと、去年から何も変わっていません。変わっていないものを、最先端の議論を理由に止める意味がありません。

「落ち着いてから」の落とし穴は、もう1つあります。落ち着いた日は来ない、ということです。この1年、新しい型が出るたびに「まだ変わるから」と先送りした会社と、去年の型で1業務だけ減らして続けている会社があります。後者は、型が新しくなっても指示文を貼り替えるだけで済んでいます。前者は、まだ白紙です。待っている間に減った仕事は、ありません。

うちは当てはまるのか

いま何をすべきか／何もしなくていいか

やらなくていいことから書きます。契約を見直す必要も、使うのをやめる必要も、社内に通達を出す必要もありません。やることがある会社は、1種類だけです。「落ち着いてから」を理由に、まだ何も始めていない会社です。

減らす業務を1つ決める。型が変わっても続くのは、業務の選び方のほうです。

型の性能がどう動いても、会社側でやることは指示文を少し直す程度です。最初に決める「どの業務を減らすか」は、型が変わっても変わりません。最初の90日を「決める30日・通す30日・見極める30日」に区切って、1業務だけ最後まで通す進め方は、AI導入の進め方｜中小企業が最初の90日でやることに書きました。減速のニュースが出た今日も、この順番は同じです。

もう1つ。「危ないらしい」という声が社内で出たときに効くのは、通達ではなく線引きです。入れていい情報、出てきたものを確認する人、使うツールの3つを先に決めておけば、最先端で何が起きても、社内の使い方は揺れません。法律はまだ何も強制していない段階で、それでも決めておく理由は、生成AIの社内ルールは3つで足りる｜急ぐ義務はまだないに書いたとおりです。

AIに詳しくなる必要はありません。覚えるのは、減速するのは次の型の話で、いまの道具は止まらない、の1点です。

関連するもっと詳しい話

• AI導入の進め方｜中小企業が最初の90日でやること — 「落ち着いてから」をやめた会社が、最初の90日で何を決めて、何を1つだけ通すか。型が変わっても変わらない順番
• 生成AIの社内ルールは3つで足りる｜急ぐ義務はまだない — 「AIは危ないらしい」の声に通達で応えず、入れていい情報・確認する人・使うツールの3つで応える決め方

「うちの使い方はこの話に関係あるのか」「社内にどう説明すればいいか」というご相談はお問い合わせからどうぞ。