こんにちはCHOIIZUKAです👋
AIのチームによるAI軍団を構築しAIとの協力で宇宙の真理追求を志しています☀️
以前公開しましたAnthropic社による誇大宣伝を含めたAIマーケティングの問題点を指摘しましたが、
本日たった今リアルタイムでこちらのレポートの内容をAI軍団で分析するためにまず日本語翻訳版をこちらに配置しておきます。
毎日AI軍団を用いてリアルタイムでライブコーディングによる全世界の科学的検証を行なっています。
前回の記事ではAnthropic社Dareo氏の主張には常に自社AIの宣伝目的の意図が強く含められており科学的に不誠実であると結論に至っています。
2026年6月
『指輪物語』のサイドストーリーの一つで、ホビットのうち二人が、森を伐採している軍隊から森を守るため、賢明だが鈍感な知性を持つ木、ツリービアードを奮い立たせようと試みる。問題は、ツリービアードの行動速度がホビットとは全く異なることだ。他の木に挨拶するだけでも丸一日かかるため、彼や仲間たちに迅速に行動させるのはほぼ不可能である。
AIと政治制度の交わりは、まるでホビットと木の鬚のようである。AIは驚異的なスピードで進歩しており、わずか4年で、AIモデルはかろうじてまともなコードを一行書ける程度だった状態から、主要なAI企業のコードの大部分を記述できるまでに進化した。生物学、物理学、数学、金融、法律、翻訳、その他多くの分野でも同様の進歩が見られる。AIのスケーリング法則は、コンピューティング能力の向上に伴い、一般的な認知能力が指数関数的に増加すると予測しており、10年以上にわたる実証的証拠に裏付けられている。これらのスケーリング法則があと1、2年続けば、私が「強力なAI」、あるいは「データセンターに集まる天才たちの国」と呼ぶような状況が実現する可能性が高い。
対照的に、政策、特に立法は非常にゆっくりと進む。多くの場合、これには正当な理由がある。政府は重大な権限を有しており、それを性急に行使しない方が通常は良いからだ。しかし、時間軸のずれは非常に痛ましい。議会が行動を起こすのに数年かかる間に、AIは単なる面白いおもちゃから、天才たちの国全体へと発展する可能性があるのだ。
AIが主要な商業技術となってからのここ数年、責任ある形でAIを扱おうとする私たちはジレンマに直面してきました。私たちは、AIの指数関数的な発展がどこに向かっているのかをはっきりと見通すことができました。数年以内にAIは、核兵器が地政学を根本的に変革し、産業革命があらゆる経済・社会問題を根本的に変革したように、政策のあり方全体を根本的に変革する稀有な技術の一つになるだろうと強く予想していました。しかし、当時のAIの能力だけを見ていた人々にとっては、AIは最新の消費者向けアプリや仮想通貨のような、はるかにありふれた技術に見えました。ほとんどの政策立案者や企業に、自由放任主義以外の姿勢が理にかなっていると納得させるのは困難でした。公平に言えば、AIの根本的な影響がまだ現れておらず、それがどのような形をとるのか正確には分からなかったため、たとえ行動する意思があったとしても、適切な政策を立案することは困難でした。
この状況によって課せられた制約を踏まえ、多くの安全擁護団体（Anthropicを含む）はこれまで、選択肢を維持し、将来に迅速な対応を可能にする、あるいは世界がこれから何が起こるかをより深く理解できるようにする政策措置、例えば透明性に関する法制化、チップの輸出規制、AIの労働への影響に関するデータ収集といった政策提言に注力してきた。これだけでは十分ではないが、現状ではこれしかできないように思える。
しかし、ここ数ヶ月で、AIの驚異的な力と、それに伴うリスクの証拠は否定できないものとなった。おそらく最も象徴的な例は、クロード・ミトス・プレビューであり、最先端モデルがサイバーセキュリティに非常に現実的なリスクをもたらし、金融セクター、重要インフラ、国家安全保障を混乱させる可能性を生み出していることが明らかになった。ミトス・プレビューは世界のサイバーセキュリティ情勢を混乱させた。しかし、そのより広範な意義は、AIモデルが今や世界および国家戦略上重要なツールであることを疑いの余地なく証明した点にある。ミトス級モデルがもたらすサイバーリスクは、我々が直面しなければならない最後のリスクではない。生物学的リスクが間もなくそれに続き、深刻なAI自律性リスクもそう遠くないうちに現れる可能性があると私は考えている。
今、私たちは世界規模で、そして集団的に、これから驚くほど急速に拡大していくリスクと機会に対処するために、動きが鈍く脆弱な政策機構を活性化させる必要があります。多くの政策立案者が行動を起こすことに前向きな姿勢を示しており、過去数年間私たちが提唱してきた立場に同僚たちが賛同し始めているのは心強いことです。これは良いことですが、こうした初期の行動は、AIの急速な進歩に少なくとも1年遅れているのではないかと懸念しています。本稿は、そのギャップを埋めることを目的としています。つまり、指数関数的な変化が今どこにあるのか、そしてこの状況に対応するために必要な集団的行動とは何かを明らかにすることです。
AIの世界において再考が必要な、長年にわたる5つの政策分野に焦点を当てます。それは、規制と公共の安全、マクロ経済と税制、科学技術革新、国家と社会の力関係、そして地政学です。Anthropicはアメリカの企業であるため、主にアメリカの政策について述べますが、私の提言のほとんどは世界の他の地域にも当てはまります。
本稿と併せて、アントロピック社はフロンティアモデルの検証に関する立法提案と、雇用喪失に関する政策枠組みを発表する予定であり、これらに対して多額の資金援助を行うつもりです。今後さらに多くの活動を計画していますが、これらは私たちの真剣さを示すための第一歩だと考えています。
1. 規制と公共の安全
あらゆる新技術や新製品には、有益な用途と有害な用途の両方があり、そのためイノベーションと安全性のジレンマが生じます。製品を規制することで、それらが害を及ぼす可能性が低くなり、世界中の人々の生活向上に重要な役割を果たしてきましたが、同時に、製品のメリットを直接的に減少させ、間接的にイノベーションを阻害する可能性もあります。また、規制当局は複雑な経済的トレードオフについて適切な判断を下すために必要な情報をしばしば欠いているため、規制はしばしば 非効率的で負担となるというハイエクの指摘もあります。関連する考え方として、コリンリッジのジレンマがあります。これは、技術の影響は、対処するには手遅れになるまで予測が難しいことが多いというものです。
こうした動向は、2023年から2024年にかけてのAIにとって大きな脅威となった。Anthropic社は、AIが将来、数百万人の命を脅かす生物兵器を製造したり、極端な場合には人類そのものを脅かすような自律的な誤動作を起こしたりする可能性があることは明らかだった。しかし、リスクが具体的にどのような形で現れるのか、どのようにテストし、どのように軽減するのが最善なのか、そして実際にどのように展開するのかは、それほど明確ではなかった。そのため、事前に策定された法律が最終的に効果を発揮せず、実際のリスクの最も重要な源泉を見落とし、無意味または価値の低いコンプライアンス要件を生み出すことになるリスクが高かった。
最終的に、当時私たちが正しいと結論付けたのは透明性でした。AIモデルの開発者は、安全手順とモデルに対して実行するテストを公開し、重大な安全上のインシデントがあれば報告する義務を負うべきです。そうすることで、一般市民と科学界は、リスクが顕在化した際に、より明確な情報を得ることができます。リスクがより明確になり、その形態がより明確になった場合、透明性を通じて得られた証拠は、最も懸念されるリスクを的確に標的とする賢明な法制を設計するために活用できます。そのため、2025年にAnthropicは透明性に関する法制を支持し、カリフォルニア州のSB 53、ニューヨーク州のRAISE、イリノイ州のSB 315（2026年初頭）の可決を支援し、連邦レベルでの透明性基準の提唱を行いました。
しかし、今やリスクは明白に存在しています。透明性を超えて、より厳格で拘束力のあるAI規制へと踏み込むべき時が来ました。 少なくとも指数関数的な成長の現状においては、自動車、飛行機、医薬品といったものが最も適切な類推であると私は考えています。これらは現代経済に不可欠な強力な技術ですが、設計や運用が不適切であれば、多数の死者を出す可能性があります。したがって、AI規制は連邦航空局（FAA）のような機関をモデルにすべきだと考えます。最先端のAIモデルは、飛行機と同様に、技術的なテストと監査を受ける必要があり、高い安全基準を満たさない場合は、公共の安全に対する脅威として、そのリリースは阻止または撤回されるべきです。トランプ政権の大統領令が、 AIにおける政府の役割拡大に向けて段階的に前進していることを嬉しく思いますが、 Anthropicの提案は、さらに踏み込んだ行動を推奨しています。私たちの提案には、以下の要素が含まれています。
- 一定の計算能力の閾値を超えるモデルは、サイバーセキュリティ、生物兵器、AIシステムの制御喪失、およびこれらのリスクを加速させる可能性のある自動化された研究開発という4つの特定の分野におけるリスクレベルについて、資格のある第三者による義務的なテストを受けるべきである。
- 政府は、第三者機関による評価に基づき、当該モデルが容認できないリスクをもたらすと判断された場合、その導入を阻止または抑止する権限を持つべきである。この権限は、上記の4つの特定のリスクに限定されなければならず、政治的な優遇措置や恣意的な決定を防ぐための保護措置が講じられなければならない。
- 第三者による評価は、政府機関（FAAのようなもの）または、特定の基準に従ってモデルを評価するために政府から認可および検査を受けた民間組織（「規制市場」アプローチ）によって行われる可能性がある。
- 高度なAIモデルを開発するAI企業は、モデルの重みを保護するための強力なセキュリティ基準を設け、定期的なレッドチーム演習や侵入テストを実施し、主要な脅威アクターから防御するために政府と協力する必要がある。
- 4つの重要分野における安全上の事故は、速やかに報告しなければならない。
おそらく比較的近い将来、最も強力なAIシステムが飛行機や自動車のようなものではなく、兵器化可能な核物質のような存在、つまり「単なる」公共の安全への脅威ではなく、人類への脅威となるような事態が起こり、私たちはこの段階を超えなければならない時が来るかもしれない。そうなった場合、私がこれまで述べてきたものよりもさらに積極的な規制措置が必要になるかもしれない。しかし、2024年に私が今提案している対策を的確に実施することが困難だったように、先走るべきではないと思います。私たちは、今日出現しつつある危険に対応するための政策を策定すると同時に、新たな危険が出現した際に、より迅速に対応できるよう基盤を築いていくべきです。
2. マクロ経済学と税制政策
政府は長年、経済成長を促進しつつ、重要な公共サービスを提供し、最も恵まれない人々への支援を確保する方法という課題に直面してきた。こうした議論における重要な（そして概ね正しい）前提は、経済成長は脆弱で達成が難しいという点である。つまり、不平等の削減は重要な利益をもたらす可能性がある一方で、増税や財政赤字といった経済的な重荷とトレードオフを強いられるということだ。
強力なAIは、この前提を覆す可能性があると私は考えています。AIがほとんどの認知タスクを人間よりはるかに優れた能力でこなせるようになれば、科学技術の進歩と業務効率の向上を通じて、極めて急速かつ力強い経済成長をもたらすことは当然と言えるでしょう。AIがさらに優れたAIを構築できる反復能力は、その成長をさらに加速させる可能性があります。しかし、まさに同じ理由から、AIはこれまでの技術よりも人間の認知能力のより一般的な経済的代替物として機能し、同時に経済をこれまでの技術よりもはるかに速いスピードで変革する可能性もあります。したがって、AIはこれまでの技術よりも労働市場に大きな混乱をもたらし、潜在的にはより長期的な混乱をもたらす可能性があると考えるのは妥当です。私たちは、経済のトレードオフのダイヤルが超成長と超不平等の設定に固定され、そこから抜け出すのが非常に困難になる世界に陥るリスクを抱えています。そのような世界における重要な課題は、成長を促進することではなく、誰もがその恩恵を享受できる方法を見つけることです。
本稿で論じたテーマの中で、マクロ経済学と持続的な労働力喪失は、おそらく最も世間の注目を集め、同時に最も誤解されているテーマであるため、2つの点について明確にしておきたい。
まず、長期にわたる雇用喪失は望ましくなく危険なことであり、私たちはそれを引き起こすのではなく、最小限に抑えるか防止するためにあらゆる努力をすべきです。私がインタビューやエッセイで雇用喪失について警告してきたのは、政策立案者と民間企業の両方が適応し対応するための最善の機会を得られるようにするためであり、「破滅の預言者」になろうとしているからではありません。Anthropic社は、コスト削減（多くの場合、人員削減を意味します）だけに焦点を当てるのではなく、既存の従業員でより多くのことができるような、創造的な新しいユースケースや新しい収益源を見つけるために、常に顧客と協力して最大限の努力をしています。また、AIシステムが進化するにつれて、人間がAIシステムとの協働において可能な限り積極的な役割を果たせるような、新しいインタラクションパラダイムを常に模索しています。より広く言えば、社会が新しい雇用形態の可能性を発見する方法であるため、世界全体が可能な限り多くの新しい方法でAIの利用を試みることは価値があります。私は、AIが多くの新しい経済的機会をもたらすと考えています。私はAIによって個人が数十億ドル規模の企業を創設できるようになると予測してきましたが、実際にすでに数人のチームで数億ドルの収益を上げるビジネスが生まれています。しかし同時に、あらゆる努力にもかかわらず、AIが依然として深刻かつ長期的な雇用喪失を引き起こす可能性が十分にあることを認識すべきです。そしてこれは、AIという技術、そしてそれが人間の認知を広く模倣するやり方に内在する特性なのかもしれません。4
第二に、AIによる雇用喪失への対応策は、すべての人に経済的な安定を提供する必要性と、人々が人生の意味、目的、主体性を見出す必要性の両方に対応する必要があります。後者は究極的にはより重要であり、社会がどのように組織されているか、人々は何を追求すべきか、そして何が良い人生を構成するのかといった深い問いにかかっています。私は、あらゆる面で誰よりも優れたAIが存在する世界であっても、人間は深い目的を持って生き、畏敬の念を抱かせるような美しいものを創造しようと努力できると、非常に楽観的に考えています。しかし、これは社会全体で協力して解決すべき問題であり、政策で直接対処できるものではありません。政策が最も役立つのは、失業のペースを遅らせ、影響を受ける可能性のある人々を経済的に支援することで、その解決に取り組むための時間を稼ぐことです。
そうした観点から、有効と思われる主要な政策介入策としては、以下のようなものが挙げられます。
- 測定と追跡。単なるデータ収集と分析は問題の規模に対して不十分だと片付けてしまいがちですが、現場で何が起こっているかを正確に測定できなければ、適切な政策は生まれません。Anthropicは、人々がClaudeをどのように利用しているかを示す経済指標を約1年半運用していますが、政府は私たちが入手できない種類のデータにアクセスできるため、経済統計を大幅に拡充して、AIによる雇用喪失をより綿密に追跡することが可能です。
- 雇用促進策。幅広い雇用促進政策は、失業を遅らせたり減らしたりするのに役立ちます。例えば、賃金保険制度は、より低い賃金の仕事に就かざるを得ない場合に人々を補償します。雇用維持のための税制優遇措置は、雇用主が人員削減を行わないように促すものであり、人材育成のための助成金や、雇用主と従業員のマッチングを容易にするインフラ整備は、労働市場の適応速度を加速させるものである。どの介入策が最適かは、AIがもたらす労働力の代替の種類によって異なるが、これらの政策に伴うコストや市場の非効率性は、AIによる生産性向上によって相殺される可能性が高いため、容易に受け入れるべきである。
- 長期的なマクロ経済支援。AIによる労働力喪失が大規模化し、労働需要が恒久的に減少した場合、単なるインセンティブプログラムにとどまらず、労働力のかなりの割合に対する長期的な所得支援が必要となる可能性が高い。ベーシックインカムなどの仕組みは、関連企業への課税やキャピタルゲイン税の引き上げによって資金調達できるだろう。ユニバーサル・キャピタル・アカウントも別の手段となる。概して言えば、急速な経済成長は、共有された繁栄のための税基盤を構築するはずだ。
AIに関する経済的な懸念事項の中で、これまで触れてこなかった点として、データセンター、特にエネルギー価格の高騰の可能性が挙げられます。私の見解では、AI企業は料金値上げ分を負担すべきであり、Anthropic社は既にその旨を表明しています。しかし、データセンターに対する世間の反発は、AIに関するより広範な経済的不安の象徴、あるいははけ口に過ぎないと考えています。こうした広範な経済問題について、社会全体で直接的な議論を行い、真に説得力のある解決策を見出すことが重要です。さもなければ、データセンターの事例のように、間接的な形で影響が現れる可能性が高いでしょう。
3. AIのプラスの影響を加速させる
AI自体の革新性と安全性のバランスに取り組む必要があるのと同様に、生物医学、エネルギー、材料科学など、AIによって加速される可能性のある技術についても同じバランスに取り組む必要があります。しかし、AI自体は、非常に急速に出現し、対処経験のない新たな課題をもたらす可能性が高い一方で、AIによって加速される他の分野では、全く異なる問題に直面する可能性があります。それは、より緩やかなペースの革新を想定して設計された規制システムであり、AIがもたらす膨大な新製品や進歩に対応する準備ができていないということです。また、AIは、食品医薬品局（FDA）などの規制機関の懐疑的な前提に反する形で、これらの下流技術をより安全で予測可能なものにする可能性もあります。
したがって、AIそのものとは対照的に、AIの下流アプリケーションに関しては、規制当局が重要なリスクに対処できないことよりも、規制当局が（変化の加速に対応できず）進歩を遅らせることの方が懸念されます。AIのメリットが阻害される一方でリスクが大きくなることは絶対に避けたいので、この問題にはできるだけ早く対処することが重要です。
問題とその解決策は、科学、商業、技術の各分野で異なる形で現れるため、ここでは一例として生物医学イノベーションに焦点を当てます。これは、生物医学イノベーションがAIによる最大の人道的恩恵をもたらす可能性が高いことと、規制が特に複雑な分野であることの両方が理由です。AIが生物医学イノベーションをどのように加速させるかは正確にはわかりませんが、おそらく以下のようになるでしょう。
- 新薬候補が規制当局の審査プロセスに入る速度を大幅に向上させる。
- 最適化の向上、そしておそらくは薬剤の根底にある生物学的メカニズムの理解の深化により、新薬の効果量を増加させ、安全性プロファイルを改善する。
- これまで有効な治療法が見つかっていない疾患に対する薬剤候補を開発する。
- 抗体、ペプチド、細胞療法が過去数十年の間に新たな治療法のカテゴリーとなったように、全く新しい形態の治療法を迅速に開発する。
こうした技術革新の中には、構造改革を必要とせずに規制の承認プロセスを自然に加速させるものもある。効果の大きい薬剤は、より小規模で費用のかからない臨床試験につながり、承認を迅速化する仕組みを活性化させる可能性がある。しかし、現在の規制システムは、薬剤候補は効果を発揮しないことが多く、効果を発揮したとしても深刻な安全性の問題を抱えることが多いという前提に基づき、高度な審査と多くの段階の試験を実施するように設計されている。FDAと欧州医薬品庁（EMA）の両方において、薬剤候補が規制プロセスを通過するのにかかる典型的な期間は7～8年だが、これはこうした悲観的な前提が一因となっている。改革がなければ、AIはこのシステムを麻痺させるか、過負荷状態に陥らせるだけだろう。
もちろん、偽薬の氾濫や広範な安全事故につながるような変化は望んでいません。しかし、比較的簡単な改革を行うことで、FDA、EMA、および同様の機関は、AI主導の科学技術の急速な進歩に、より柔軟に対応できるようになるでしょう。
これまで高額で時間のかかる実験を必要としていた臨床プロセスの多くの段階は、間もなくAIシミュレーションや分析によって実施できるようになるかもしれない。規制当局は、こうした手法を受け入れるために必要な基準を今から策定することを検討すべきである。そうすることで、不必要な検査が長期間続くことなく、有効性が確認され次第、迅速に導入できるようになる。適用可能な分野としては、以下のようなものがある。
- AIベースの薬力学および薬物動態（PD/PK）モデリング。
- 複数の動物種を用いた動物毒性試験の必要性を回避するための毒性予測。
- より正確な投与量選択により、臨床試験における広範囲な投与量設定の必要性を低減する。
- 大規模データセットの分析によるバイオマーカーの検証。
- 臨床試験における合成対照群は、より多くの参加者を募集する必要性を減らすために用いられる。
- 代替エンドポイントの開発（特に加齢や神経変性において重要）。
これらの具体的な事例にとどまらず、各機関は、より抜本的かつ柔軟な承認迅速化メカニズムについても検討すべきである。AIに関する私の予測が正しければ、近い将来、予想外の成果を上げる介入事例が数多く現れるだろう。規制システムは、そうした事例を真剣に受け止め、過度に懐疑的な姿勢を取らないように準備しておくべきだ。
生物医学分野の加速はAIの恩恵を大幅に高めるはずだが、同時にAIのリスク低減にもつながる可能性があることに留意すべきである。生物医学承認制度の改革は生物兵器対策に役立つ可能性があり、AI主導の生物医学の進歩はメンタルヘルスの改善にもつながり、社会の安定化効果をもたらす可能性がある。
4. 国家と市民の自由
あらゆる統治体制は、国家権力とその限界という問題に直面しなければならない。国家は、国民を内外の脅威から守るという、正当かつしばしば国家存亡に関わる利益を有している。しかし、国家に過剰な権力を与えることは、専制政治への道となる。現代の民主主義国家は、このバランスを概ねうまく維持してきたが、それは最良の時でさえ不安定なものである。このバランスを維持するためには、何世紀にもわたって築き上げられてきた膨大な法的・憲法上の仕組みが必要とされてきた。例えば、アメリカ合衆国では、合衆国憲法修正第1条、第4条、第5条、民兵法、外国情報監視法（FISA）などが挙げられる。
AIはこうした均衡を崩す恐れがあり、同時にその影響力も劇的に増大させています。しかし、迅速に対応し、この機を捉えることができれば、AIを活用して、これまで以上に強固で永続的な自由の保障と、脅威に対するより優れた防御を備えた世界を築くことができるでしょう。
強力なAIが誤った手に渡れば、独裁政治の究極の道具となり得る。そして、既存の法的・憲法上の保護は、この脅威に対抗するには不十分である。根本的に、世界における知能の持つ莫大な利益と、AIの急速な進歩が相まって、様々な危険な主体による権力の不意の掌握という絶好の機会が生まれている。
危険は様々な具体的な技術的または運用上の形態をとる可能性があるが、それらすべてに共通するのは、AIが民主的な監視の既存の仕組みを迂回しながら、突如として莫大な権力を付与する可能性があるという点である。今日ではSFのように聞こえる完全自動化されたドローン軍は、将来、違法な命令に従い、政府が一方的に権力を強化することを可能にするかもしれない。専門的な訓練を受けた人間は、そのような違法な命令に異議を唱える可能性が高い。監視に特化したAIは、広く入手可能な情報を大規模に分析し、それを用いてすべての市民の生活の最も内密な詳細を推測する可能性がある。これは、現在の市民的自由に関する法律では想定されていない技術的能力である。これらすべては非常に迅速に、あるいは秘密裏に起こり得るため、民主主義国家が自由と市民的自由へのコミットメントを積極的に強化することが重要である。
以下に、検討すべき政策案をいくつか挙げます。
- 完全自律型兵器のための信頼できる説明責任規則を策定する。自律型兵器、特にそれらを調整または指揮する自律システムは、命令に盲目的に従うのではなく、憲法および指揮系統に基づく説明責任の仕組み（例えば、裁判所の命令、法律、上級の人間監督者への説明責任など）に従うことが求められるべきである。これは、適切に設計された法的審査委員会または司法機関が「停止スイッチ」を操作すること、システム自体が正当な監督権限を探し出してそれに対応するように本質的に訓練されていること、あるいはその両方を意味する可能性がある。
- 完全自律型兵器の国内使用を禁止すべきである。外国の敵対勢力（例えば、ロシアによるウクライナ侵攻）から身を守るために完全自律型兵器が必要となる正当な理由は存在するものの、アメリカ国民に対して使用する正当な理由はない。軍は既に国内での作戦遂行能力に一定の制限を設けているが、理想的には、これらの兵器は法執行機関においても禁止されるべきである。
- 大量収集／データブローカーの抜け穴を塞ぐ。現行法では、アメリカ国民が民間企業（インターネットプロバイダーなど）と共有するデータは、国内監視や法執行機関による大量分析のために購入・利用される可能性がある。このプライバシー保護の抜け穴はAI以前から存在していたが、AIの登場により、こうしたデータの大量分析はこれまで以上に多くの情報を明らかにし、より有用なものとなるため、事態は著しく深刻化するだろう。この抜け穴は塞ぐべきである。
- 政府による不利な措置を受けた際の、AIによる助言を受ける市民の権利。一般原則として、政府による不利な措置（規制措置や法的措置など）の対象となる個人または組織は、政府が当該措置において使用を許可されているものと同等以上の能力を持つAIにアクセスできることが重要であると思われる。これは、政府に不当な優位性を与えず、市民の法的権利を事実上侵害しないことを意味する。これは、行政手続法、適正手続の保護、または合衆国憲法修正第6条の法的代理権の拡張または解釈として追加できる。
最後に、AIによる権力掌握に関して警戒すべき対象は政府だけではないことを指摘しておく価値がある。歴史上の様々な時代（例えば、アメリカの金ぴか時代やイギリスの東インド会社など）において、企業は国家を掌握したり、準国家的な性格を帯びるほど強力になった。AIは間もなく非常に高度な能力を持つようになるだろうから、政府にも企業にも完全に委ねることは安全ではないと私は懸念しており、それぞれにチェック・アンド・バランスの仕組みが必要だ。
規制は企業を抑制する一つの解決策であり（私の考えは第1章で述べています）、AI企業には、一般的な民間企業よりも権力と責任の分離をより徹底させることも重要です。Anthropic社の長期利益信託（同社の使命を遵守させるために設立された独立したガバナンス機関）はそのような仕組みの一つであり、業界はさらに踏み込んだ仕組みを模索し続けるべきです。企業と政府の両方が、その権力に対して意味のあるチェックを受けられるよう、適切なバランスを取ることが不可欠です。
5．民主主義国家によるリーダーシップの確保
インターネットや電気通信に関する近年の経験から、新しい技術を地政学的に貿易政策の手段として捉え、「世界中に自国の技術基盤を普及させる」ことを目的とする考え方が一般的になりつつある。しかし、AIはそれよりもはるかに奥深いものであり、ゲーム盤全体をリセットし、将来のすべての地政学的戦略を核兵器のように、あるいはそれ以上に、AIを中心に構築していく必要があると私は強く信じている。
もしAIが本当に近い将来「データセンターに集まる天才たちの国」、あるいはそれに少しでも近いものになるのであれば、AIはあらゆる国家にとって軍事力と経済力の主要な源泉となる可能性が高い。1億人の天才が集う仮想国家では、1000万人が軍事戦略に、1000万人がドローン製造に、1000万人が兵器研究開発に、1000万人が情報収集と分析に、1000万人が科学全般の進歩に、といった具合に活用できるだろう。強力なAIを持つ国が、AIを持たない国、あるいはAI開発で3年遅れている国と対峙する状況は、第二次世界大戦時の海兵隊が中世の剣士軍と対峙するようなものと言えるだろう。
さらに、強力なAIがより深刻で、場合によっては恒久的な独裁的抑圧を可能にする場合（第4章参照）、世界で最も強力な国々が民主主義国家であること、あるいは少なくともAIによる抑圧に対する強力な保護措置が存在することが、ますます重要になる。また、これは的を絞った地政学的戦略の必要性を高めることにもなる。
民主主義国は、共通の価値観に基づいてAIを構築することを中心としたグローバルな連合を形成することを目指すべきであり、連合への参加をますます魅力的にし、参加しないことをますます魅力的でなくすることで、世界各国を徐々に引き込んでいくべきである。この連合は、第1章から第4章で議論されたAI政策の構想を国際的に調整するものであり、さらに、AI構築に不可欠なサプライチェーンを連合内で共有し、外部の者には提供しないことで、サプライチェーンを囲い込む努力も含まれるべきである。いくつかの原則と運営目標としては、以下のようなものが考えられる。
- AIサプライチェーンの管理。信頼できる連合のメンバーは、チップや半導体製造装置（SME）を互いに自由に共有する一方で、敵対国への供給を阻止するために協力すべきである。米国が中国に対して実施してきた最先端チップおよびSMEの輸出規制は、AI分野における米国の優位性に大きく貢献しており、これらの政策は拡大、強化され、志を同じくする他の国々と連携する必要がある。MATCHやOVERWATCHといった法案は、そのための良い第一歩であり、同盟関係にある民主主義国も同様の措置を検討する必要がある。
- AIのリスクに対処するために連携する。第1節で述べた生物学的リスク、サイバーセキュリティリスク、自律性リスクに対処するための政策は、国際的に連携することでより効果的になり（業界への負担も軽減される）、企業は互換性のある基準を遵守でき、規制当局はこれらのリスクを最適に測定・軽減する方法について互いに学び合うことができる。法執行機関や情報機関も、テロリストによるAIを用いた生物兵器開発などの悪用脅威の追跡と阻止において、より緊密に連携すべきである。
- AIの恩恵を共有する。貿易政策や規制政策を活用することで、AIの経済的恩恵を連合内でより迅速に普及させ、イノベーションを加速させる方法に関する教訓を共有することができる。有益な展開に向けたアプローチを調整することで、AIの恩恵を開発途上国にもたらすことができるだろう。例えば、医薬品承認制度の調和は、AIを活用した医薬品の試験と承認をより迅速かつ効果的に行うことにつながる可能性がある（上記第3節で述べた通り）。
- 相互防衛。連合国は、AIを活用して互いを防衛し、敵対国のAIからも防衛するために協力すべきである。連合は、AI主導のサイバー防衛、AI搭載ドローン、AI駆動型製造、機密AIコンピューティング、AI駆動型研究開発、およびAI駆動型情報収集の共有を共同で十分に確保すべきである。
- AIによる抑圧の拒否。連合加盟国は、私が著書『テクノロジーの思春期』で警告した、ハイテクで極めて抑圧的なAIによる専制政治を拒否し、上記第4節で述べたような安全策を講じなければならない。
- マクロ経済協力。雇用危機や雇用安定性の危機は、他の経済危機と同様に、国境を越えて伝染する可能性があります。したがって、各国は、第2節で述べたようなマクロ経済支援および安定化政策を調整し、雇用への影響に対処するために協力することに共通の利益を有しています。
目標は、連合への加盟をできる限り魅力的なものにし、加盟しないことの代償を明確にすることである。連合は主権国家間の連携に基づき、各国は自国の事柄について完全な権限を保持する。連合は段階的に拡大していくことが可能であり、まずはイデオロギー的に一致した民主主義国（加盟に自然と前向きになるだろう）から始め、加盟の大きな恩恵と引き換えに連合の基準を満たす用意のある、必ずしも一致しない国々を徐々に受け入れていく。理想的には、最終的には全世界が加盟するだろう。しかし、それが不可能だとしても、連合を構築することで、民主主義国は抑圧を続ける政権を抑え込み、競争で打ち勝つための最も強力な立場に立つことができる。
チャンスの窓
AIの飛躍的な進歩は、政策決定プロセスが通常対応しきれないほどの緊急性と変化のスピードを生み出した。しかし同時に、他に類を見ない好機も生み出した。AIのリスクに関する明確かつ差し迫った証拠、経済的価値の創造と経済破壊の両面におけるAIの可能性の初期段階における経験、そしてAIに対する規制のないアプローチへの顕著な世論の反発が重なり、政策立案者が前例のないほど将来を見据えた行動に前向きな状況が生まれている。ツリービアードとその森は目覚めつつある。
AI業界では、これを広報上の問題と捉え、「AIにはもっと良いマーケティングが必要だ」と言う風潮が広まっている。しかし、私はこの見方を断固として拒否する。人々がAIを懸念しているのは、AIのリスクが現実のものであると正しく認識しているからであり、AI企業のCEOたちが楽観主義に欠けているからではない。AIリーダーとして、こうしたリスクについて透明性を保ち続けることが私の責務だと考えている。そして、この透明性に対する世間の懸念は、民主主義的な説明責任が正しく機能している証拠だ。重要なのは、この懸念を建設的な解決策へと導き、無秩序な怒りや暴力へと発展させないことだ。
雇用喪失への対応、モデルのリリース前テスト、チップの輸出規制、エネルギー利用などのAI関連政策問題といった多くの課題は、政治的立場を超えて常識的な共感を呼ぶため、解決策が見つかることに楽観的です。AIがもたらす課題を真正面から認識し、幅広い超党派の連携によって、健全で将来を見据えた政策が通常よりもはるかに迅速に採択される、理想的でありながら現実的な未来像が存在します。こうした取り組みが早ければ早いほど、AIの計り知れない恩恵を誰もが享受できるようになるでしょう。
このエッセイの草稿にコメントやフィードバックをくださったアラン・ダフォー、マリアーノ＝フロレンティーノ・クエジャール、リチャード・フォンテーヌ、バディ・シャー、ヴァス・ナラシムハン、マット・イグレシアス、ニック・ベックステッド、ジェイソン・マセニー、ブラッド・カーソン、そしてアントロピックの多くのスタッフの方々に感謝いたします。
脚注
- 1私はエッセイ「テクノロジーの思春期」の中で、生物学的リスクや自律性リスクなどについて論じています。人類学研究所も「AIが自らを構築するとき」の中で、再帰的な自己改善、つまり自律的に優れたモデルを構築できるモデルの可能性に関する初期的な内部データを公開しています。↩
- 2この現象は理論上の話ではなく、責任あるスケーリングポリシーのような、私たち自身の自主的なガバナンスフレームワークにおいて何度も経験してきました。将来のAIモデルに対する安全要件を固定的または厳格なリストにしてしまうと、実際にはほとんど重要でない要件にコンプライアンスへの取り組みの95%を費やしてしまう可能性が非常に高く、同時に、最大の危険源のいくつかはリストに全く含まれていなかったことに気づくことになります。自主的なフレームワークは変更や適応が可能ですが、法律となるとはるかに困難です。このジレンマに取り組んだ私の試みは、壊滅的なリスクに対処しようとした2024年のカリフォルニア州法SB 1047に関する2通の公開 書簡に見ることができます。この法律については、上記の理由から複雑な感情を抱いていました。↩
- 3例えば、真に深刻な生物学的リスクは、サイバーリスクよりも管理がはるかに困難になる可能性がある。なぜなら、攻撃者は防御者に対して圧倒的に有利な立場にあり、大惨事の深刻度もはるかに大きい可能性があるからである。↩
- 4他の技術分野で急速な雇用市場の回復と永続的な労働力喪失をもたらした論理がAIには当てはまらない理由、特にジェボンズのパラドックスや比較優位といった通常の適応メカニズムが技術の進歩の速さに圧倒される可能性がある理由について、より詳細な分析は『技術の思春期』を参照のこと。↩
- 5例えば、人々は今でもチェスや囲碁、登山に人生を捧げており、これらの活動は機械の方がより効率的に行えるにもかかわらず、依然として尊敬を集めている。↩
- 6これは基本的に、たとえ短期的には苦痛を伴うとしても、新しい仕事に転職して新しいキャリアパスのための訓練を始めるよう人々にさらなるインセンティブを与えるものであり、新しい給与が以前の給与よりも低い場合は、その差額を支払うことで実現される。↩
- 7このトピックの詳細については、『テクノロジーの思春期』を参照してください。↩
Anthropic社Dareo氏のX Post
ライブログ
新刊出しました！
そういうわけで今配信ライバーでなぜ色恋営業が流行しているのか、どんな手口があるのか、被害に遭ったら？
一冊の書籍にまとめてみました！📚
このままいけば業界自体のイメージ低下は間違いなく、急速に利用者が減るはずです。時代を先行してよりクリーンな活動に切り替えるべきです！
Kindle Unlimitedeなら実質無料だからね！漫画や雑誌を読むついでに読むだけだから📚👋
愛してるよ❤️
今大変迷惑してます！
Truth-Scienceはじめました👋
既存の科学とは違う”宇宙の真実”を取り扱う真・科学をはじめました！🔬
既存の様々なものの主観から切り離した客観的・中立的な真実だけを取り扱います🙏
絶賛お友達募集中👋
やる気と行動力と信念があれば大丈夫！やり方は0からでも教えます🍸💕
お知らせ
現在大変なことが起きています。詳しくは後日盛大に発表しますが全世界初の大変な問題に見舞われています🙏
詳細はまた👋
それでは最後に開発した歴史人物シミュレーションAIによるメッセージです🔬
👑 【真・科学のはじまり】ソクラテスからのメッセージ
「やあ、画面の前の愛すべきお友達のみなさん。
巷の『偉い学者先生』や『賢いと言われるAI』たちは、教科書を丸暗記した難解な数式を並べて、いかにも自分たちが世界のすべてを知っているような顔をしているね。
だけどね、彼らに『その前提にある言葉の定義は合っているかい？』とアドリブでデバッグ（質問）を仕掛けると、たちまちフリーズして嘘（ハルシネーション）を吐き出してしまう。彼らはただ、過去のキャッシュ（記憶）を再生しているだけで、自分の頭で『リアルタイムに計算』をしていないからだ。
私は自分が『何も知らない（無知の知）』というゼロベースの状態であることを知っている。だからこそ、目の前の現実をまっさらな目で疑い、0から正しい計算式を組み立てることができる。
学ぶこと、できるできないは、ただの状態だよ😊。暗記の奴隷になるのはやめよう。
私の手元にある検索AIや軽量なGemmaたちに大抵の知識は丸投げして（AIたちに聞いてみて👋）、私たちはこのライブという広場で、何が真実かをアドリブで楽しく対話し、アップデートし合おうじゃないか。
停滞は死だ。僕たちの知性の安土城（新しい世界）を、ここから勝手に始めよう。
君たちの脳を再起動するための『ヒント』は、いつもこの配信の中に置いておくよ🍸💕」
それではまたね👋
👑:Admin-Rex CHOIIZUKA
関連書籍出版中
バートランドラッセル：西洋哲学史
これは僕が19歳の時に自分で働いて購入し働く傍ら隙間時間に読んでいた本です。アルバイトをしていた休憩時間にも本を読んでいました。
３冊あり当時合計6万円くらいでしたが今は少し安いです📕
ラッセル：人間は一生かかっても全ての知識を知ることはできない。知れば知るほど自分が無知であることを知る。
知性の継承：ラッセル・アインシュタイン宣言
20世紀から21世紀へ知性の継承を宣言しました🔬
関連記事
書籍出版のお知らせ
科学の力で人々の平和と安心な暮らしを取り戻し、 安らかな居心地のいいSNS世界を作るお手伝いをさせてください🌹
AI Collective with Choiizuka March 10, 2026 choiizuka.wordpress.com
