AIの線引きは、禁止より安全性テストで。Anthropicの立場

1. Anthropicが言い切った、ひとつのこと

声明の芯は、驚くほど短い一文です。Anthropicは、オープンウェイトモデルというカテゴリーそのものの禁止を、これまで一度も主張していない。中国製モデルの利用禁止が米国で検討されていると報じられ、「自社を守るための禁止論では」と疑う声まで出たなかで、Dario Amodei CEOは誤解の余地を残さない書き方を選びました。

01 発端は、中国製モデルをめぐる議論

ここ数日、オープンウェイトモデル、とりわけ中国発のモデルをめぐる議論が広がりました。一部の米国当局者が、米国企業による中国製オープンウェイトモデルの利用禁止を検討しているという報道が出たためです。これに対し、多くのテック企業がオープンウェイトモデルを支持する書簡に署名しました。

その流れのなかで、Anthropicは自社のビジネスを守るために禁止を望んでいるのではないか、という批判も向けられました。声明はその疑いに正面から答えるものです。過去の文章を読めば分かるはずだと前置きしつつ、疑いが残らないよう、あらためて言葉にしています。

02 危険な力を持たないAIは、みんなの財産

声明は、危険な能力を持たないオープンウェイトモデルを「公共財」と呼びます。動かすための計算資源のほかにはお金がかからず、企業にも、開発者にも、研究者にも価値をもたらすからです。道路や図書館のように、使う人を選ばない土台だという見方です。

ここで大事なのは「危険な能力を持たない」という条件です。開かれていること自体を悪とはしていない。一方で、力の強さによっては話が変わる、という含みも残しています。この条件付きの肯定が、声明全体を読み解く鍵になります。

2. 怖いのは、開かれていることではない

Amodei CEOが恐れているのは、モデルが公開されているかどうかではありません。誰が、どれほど強いAIを持ち、何に使うか。声明が挙げる2つの「悪夢のシナリオ」は、どちらも米国企業の利用を禁じても防げない種類のものです。禁止論と安全保障の話が、実はかみ合っていないことが見えてきます。

01 第一の悪夢は、権威主義国家の強いAI

最大の懸念は、権威主義的な政府が米国より強力なAIを作り、恒久的な軍事的優位や、自国民への深い抑圧に使うことです。対象は中国共産党に限らないとしつつ、最も能力の高い脅威は中国共産党だと明言しています。この見方が米国政府内で広く共有されていることを、Vance副大統領の発言や情報機関の脅威評価を引いて示しています。

そのうえで声明は、こう続けます。そうしたモデルがオープンウェイトで公開されるかどうかは関係がない。米国企業が使うかどうかは、なおさら関係がない。むしろ最も危険なのは、秘密裏に学習され、人民解放軍のドローンや国家安全部の監視にだけ渡されるモデルである可能性がある、と。

02 第二の悪夢は、悪用と、制御の難しさ

もうひとつの懸念は、強力なAIがサイバー攻撃や生物学的な攻撃に悪用されること、そしてアライメント、つまりAIが人の意図どおりに振る舞うかという点に深刻な問題を抱えることです。ここで声明は、オープンウェイトモデルがクローズドなモデルより高いリスクを持ちうると率直に認めています。ガードレールをかけにくく、使われ方も見えにくい。一度公開した重みは取り戻せないからです。

ただし、出どころが中国でもほかの国でも、そのリスクは同じだと声明は言います。そして、悪意を持つ人たちが正規の米国企業である見込みは低い。だから米国企業の利用を禁じても、このリスクには届かない。守られるのは米国のAI企業の競争上の立場で、それは一度も目標にしてこなかった、と結んでいます。

3. 禁止の代わりに示された、3つの線引き

では何をすべきか。声明が支持するのは、強力なチップを中国に渡さないこと、産業規模の蒸留を取り締まること、そして十分に高性能なモデルすべてに安全性テストを課すことの3つです。いずれもAnthropicが以前から主張してきた内容で、「開いているか、閉じているか」ではなく「どれだけ強いか」で線を引く発想に貫かれています。

01 強力なチップを、渡さない

1つ目は、強力なチップや半導体製造装置を中国に販売しないこと、そして横行する密輸や抜け道を取り締まることです。中国は国内の生産能力が限られているため、スケーリング則に照らせば、米国製チップなしに米国より強いモデルは作れない、というのが声明の見立てです。

これは第一の悪夢を防ぐ、最も効率的で直接的な方法だと位置づけられています。さらに、米国の法律が届かないモデルの学習を妨げることで、第二の悪夢にも間接的に役立つとしています。AIの力の源を、計算資源という蛇口で管理する考え方です。

02 産業規模の蒸留を、止める

2つ目は、産業規模で行われる蒸留への対策です。蒸留は、モデルをゼロから学習させるよりはるかに少ない計算資源で済む手法で、チップの数から想定される以上のモデルを作ることを可能にします。つまり、チップ規制を部分的にすり抜ける道になりうる、ということです。

声明によれば、蒸留で米国と同等以上の能力は得られないものの、中国の最先端を米国の数か月後まで近づけることはできる。こうした活動を行う企業の多くがオープンウェイトモデルを公開しているのは事実だとしつつ、問題の本質は背後に権威主義国家がいることだと指摘します。求めるのは抑止のための政策で、一律禁止ではありません。

03 強いモデルは、公開前にテストする

3つ目は、十分に高性能なモデルに、オープンかクローズドかを問わず安全性テストを義務づけることです。サイバー、生物、アライメントのリスクを、公開前に直接確かめる。オープンモデルのリスクが高いかどうか、それを抑えられるかどうかは、先に決めつけるのではなく、テストから浮かび上がるべきだと述べています。

声明は、この考えがほぼ合意に近いと見ています。トランプ政権がここ数か月でこの方向に動いたこと、出身国や公開形態を問わず最も高性能なモデルにテストを適用し、スタートアップや学術機関のような能力の低いモデルは免除する業界提案が出ていることを挙げます。効果を持たせるには世界規模で、中国共産党も加わる必要があるとも付け加えています。

4. 開かれたAIと、これからどう付き合うか

この声明を読むかぎり、Anthropicが望んでいるのは、開かれたAIを取り上げることではありません。線引きの物差しを「どこの国のモデルか」から「どれだけ強く、テストを通ったか」へ移そうとしている。使う側から見ると、これは地に足のついた話です。あとは、米国での議論がどこに着地するかを見ておけばいい。

01 手元でAIを動かす人は、テストの行方を見る

PCや社内のサーバーでオープンウェイトモデルを試している人にとって、気になるのは「いつか使えなくなるのか」でしょう。声明は、危険な能力を持たないモデルを公共財と呼び、スタートアップや学術機関のような能力の低いモデルは免除する業界提案にも触れています。開かれたAIをまるごと締めつける話としては書かれていません。

見ておきたいのは、どのくらいの能力から「十分に高性能」とみなされ、テストの対象になるのかという線です。ここが見えてくれば、自分の使っているモデルがどちら側にあるかが分かる。道具を選ぶ目が、国名から、テストという中身へ変わっていく。これは使い手にとって、なかなか悪くない変化です。

02 公開書簡との違いが、考えるきっかけになる

声明は、テック企業が署名した公開書簡の多くに同意しています。オープンウェイトはAI経済への参加を広げ、一部の用途では競争を強め、利用者により大きな主導権を与える。蒸留への懸念は、的を絞った法的・商業的な枠組みで扱うべきだという点も同じです。

一方で、オープンウェイトなら安全策を作りやすくなる、広く力を配れば守る側が有利になる、という主張には同意していません。生物学では、十分に高性能なモデルが入手しやすい材料でパンデミック級のウイルスを兵器化しうるのに対し、防御は最善でも数年がかりになると、Operation Warp Speedを例に挙げています。便利さと怖さを、両方テーブルに載せて考える。その読み方がちょうどいい。

5. よくある質問

6. まとめ