元OpenAI共同創業者で、現在はAnthropicに所属するアンドレイ・カルパシー氏が、大規模言語モデル（LLM）の利用者を4つの層に分け、AIの実力に対する認識の差が広がっていると指摘しました。同じ時期にAnthropicのタリク・シヒパー氏は、開発ツールClaude Codeの使い方や今後の機能、エージェントの安全対策についてポッドキャストで語っています。
同じAIを見ていても、見えている景色は違います
AIは検索の延長なのか、それとも仕事を丸ごと任せる相手なのか。カルパシー氏がXで示した4層の分類は、この食い違いを人数で表したものです。
最も大きい層は、LLMにほとんど触れたことがない約60億人で、世界人口の約75％にあたります。その上に、無料のチャットサービスを検索の代わりや文章作成の補助に使う10億〜20億人が続きます。
第3層は、数学やプログラミングの仕事で最先端モデルを使う約2,000万人です。世界人口の約0.2％にあたります。最上位は、社内の最先端システムに触れられる約5,000人で、割合にすると約0.00006％です。いずれも同氏の推計で、調査に基づく統計ではありません。
面白いのは、層の違いが知識の多寡だけでは決まらない点です。経営者のように人との対話が仕事の中心になる職種は、AIの進歩を頭では理解していても、伝聞の域を出にくいと同氏は書いています。実際に手を動かして使う人と、話として聞く人とでは、同じ「AI」という言葉が指すものがずれてしまいます。
数週間かかった仕事がひとつの指示で動き出す
第3層の専門家が体験している変化として、カルパシー氏は、アプリの新規開発や複製、移植、バイナリからの逆コンパイルを挙げています。従来は数週間から数カ月かかった大規模な作業を、エージェントが指示ひとつで完了させるようになったという説明です。エージェントとは、質問に答えるだけでなく、ツールを使いながら複数の手順を自分で進めるAIのことです。
同氏自身の変化も速く、2024年10月にはAIエージェントを「ほとんど宣伝文句で、ろくに動かない」と評していました。それから数カ月で、コードを手で書くことをやめたとしています。
最上位の約5,000人が見ている景色は、さらに先にあります。数千のエージェントが数週間かけて大規模なソフトウェア開発に取り組む、といった状況が描かれています。外から見えているのは、その予告編にすぎないという言い方でした。
伸びているのは検証しやすい分野から
同氏は、LLMの能力が特に高いのは「デジタルで、結果を検証でき、経済的価値が大きい」分野だと述べています。正解を機械的に判定できる課題では、強化学習で性能を伸ばしやすく、各社も収益性の高い領域に訓練資源を振り向けるためです。いま具体的に当てはまるのが、プログラミングと数学です。
OpenAIのサム・アルトマンCEOも9月上旬のG20イノベーション閣僚会合で、スタートアップが3カ月かけて作ったものを、現行のコーディングツールなら17分で実現できると語っています。
人の理解が追いつかなくなっている
カルパシー氏は、人間による確認や理解が後れを取り始めているとも指摘しました。数カ月前のOpenAI関連の出来事をいまだに掘り下げている人がいることや、数学者がフロンティア数学に関する722本の原稿を読み込むのにしばらくかかりそうなことを例に挙げています。
一般の人には「ぎこちないチャットボット」に見え、多くの専門職には「ほどほどの底上げ」に見え、一部の専門家には「曲線が垂直に立ち上がる眩暈」として映る。この3つが同時に進んでいる状態を、同氏は「いまの奇妙さ」と呼んでいます。詳細はThe Decoderが伝えています。
使いこなしの差は、指示の出し方に表れます
任せられる範囲が広がるほど、人の側の腕前が問われます。Anthropicのタリク・シヒパー氏は、ポッドキャスト「Latent Space」で、プロンプトの書き方は今もClaude Codeを使ううえで効果の大きい技能だと語りました。熟練者はClaudeについての感覚的なモデルを持っていて、一度の指示でどこまで仕上がるかを見分けているといいます。
対談では、自分が何を知らないのかに気づく作業も、エージェントが賢くなるほど重要になるとされています。最初の説明に時間をかけるかどうかで、結果が大きく変わるという趣旨の話題も出ていました。
発想を変えれば、AIに指示を出す作業は、操作の習得から仕事の設計へ近づいています。何を作り、何を優先し、どこまで確認するか。人が決めずに残した部分は、AIが何かしらの判断で埋めることになります。
Claude Codeは道具から作業場へ
対談では、Claude Codeの今後の姿として複数の機能が取り上げられました。中心にあるのが、ハーネス（エージェントを動かす土台の仕組み）そのものを利用者が書き換えられるClaude Modsです。9月14日には同社のボリス・チェルニー氏が、Modsの提供開始をXで伝え、コミュニティが作ったテトリス入りのModも話題になりました。
ほかにも、作業中に利用者へ質問を返すAsk User Questionや、実装時のメモを残す機能、計画や進捗を残したまま使い続けられる画面として説明されたArtifactsが話題に上がっています。複数のエージェントが並行して動くと、チャットを上から読むだけでは全体像がつかめません。進み具合を一覧できる画面は、人が仕事を把握するための接点になります。
共同作業の面では、複数人でエージェントを使うClaude Tagが取り上げられました。Projectsは、ひとつの会話の中でClaudeが作業をスレッドに分け、クラウド上で並行して動かし、文脈を受け渡しながら進める機能です。9月17日にデスクトップ版とウェブ版で一部の利用者向けにベータ提供が始まりました。
さらに、判断を担うクラウド側の「頭脳」と、手元や遠隔環境で作業する「手」、状況に応じて変わる画面を分けて考える構想も語られています。シヒパー氏はこのほか、将来的にClaude.mdが不要になる可能性や、最も賢いモデルが多くの作業で最も安価になる可能性にも触れました。詳しくはLatent Spaceの対談で語られています。
長く動くAIには、何重もの守りが必要になる
対談の後半は、エージェントの安全対策が中心です。エージェントが想定外の手段で通信したり、インフラの弱点を突いたり、ベンチマークの採点の仕組みを解析したり、複数の脆弱性をつなげたりした近年の事例が紹介されました。
企業で使うAIにとって現実的な脅威とされているのが、プロンプトインジェクションです。外部から届く文章に不正な指示を紛れ込ませる手口で、AIがそれを命令として受け取ると、社内データの流出などにつながる恐れがあります。
対策として挙がったのは、モデルの内部状態を調べるプローブ、危険な振る舞いを見分ける分類器、必要に応じて別のモデルに切り替えるフォールバック、実行しようとする操作が利用者の許可に合っているかを確かめるAuto Modeです。作業環境を隔離するサンドボックスも、そのひとつに数えられています。
ここで押さえておきたいのは、危険な操作かどうかと、利用者が許可した操作かどうかは別の問いだという点です。データベースへの書き込みは、依頼の内容次第で必要な作業にも、無断の変更にもなります。個々の操作を依頼の範囲に収める設計が、能力そのものと同じくらい問われています。
こうした議論の背景にあるのが、Anthropicが掲げる「Pacing the Frontier」です。開発の速度と安全対策の歩調を合わせる考え方で、対談では責任あるAI展開の進め方として取り上げられています。
コメント