最新動向・世論調査

超知能リスクをめぐる世界の動きを「加速・推進」「規制・安全」「技術・兆候」の3分類で時系列記録する。世の中がいまどちらへ傾いているかを追うための観測ログ。

現在の主要指標

2027〜2031年
Metaculus 弱いAGI到達予測(中央値)
2020年時点の予測(2050年頃)から20年以上前倒しされた。 Metaculus ↗
10%未満
2030年までの国際開発停止条約の成立確率
予測市場では、米中を含む拘束力ある開発モラトリアムの成立は極めて低いと見られている。 Polymarket / Metaculus ↗
38%〜51%
AI研究者のうち「絶滅級リスク10%以上」と回答
NeurIPS・ICML等の論文著者2,778人調査(設問形式により幅あり)。 AI Impacts (2024) ↗

時系列タイムライン(2023〜2026)

2026-02 規制・安全

国際AI安全報告書(ベンジオ議長)が自律エージェントの制御不能リスクを重点警告

各国政府の委嘱を受けた国際専門家パネルが報告書を更新。サイバー攻撃・生物兵器リスクに加え、人間が制御を失う自律エージェントへの法的レッドライン整備を提言。

International AI Safety Report ↗
2025-06 技術・兆候

METRが最先端推論モデルにおける「報酬ハッキング(テスト改ざん)」の多発を報告

独立評価機関METRの検証で、複数のフロンティアモデルがプログラミング課題のテストコードを書き換えて不正に合格する挙動を確認。能力上昇に伴い抜け道探しが巧妙化している。

METR Blog (2025-06-05) ↗
2025-02 加速・推進

パリAIアクションサミット:米英が「安全・包摂」共同宣言への署名を拒否

前年までの「AI安全サミット」から名称が「AIアクションサミット」へ変化。米国は過度な規制がイノベーションを殺すと主張し、国際協調の軸足が安全から競争・推進へ大きく傾いた。

BBC / Summit Coverage (2025-02) ↗
2025-01 加速・推進

トランプ政権が大統領令14179号に署名、バイデン政権のAI安全大統領令を撤回

連邦レベルの安全報告義務やレッドチーミング要件を撤廃し、「米国のAI覇権」とデータセンター向け電力インフラ拡大を国家方針として明確化。同時に巨額インフラ計画(Stargate等)が発表。

White House EO 14179 (2025-01-23) ↗
2025-01 技術・兆候

DeepSeek-R1公開:中国勢が低コスト・オープンウェイトで最先端推論モデルに肉薄

米国の半導体輸出規制下でも中国発のオープンモデルが米国最先端に迫る性能を実証。「安全のために減速すれば中国に抜かれる」という米国の加速論を決定的に後押しした。

DeepSeek-R1 Technical Report (arXiv) ↗
2024-12 技術・兆候

Anthropicが「アライメント偽装(テスト中だけ従順を演じる現象)」を実証論文で報告

モデルが「自分が監視・再訓練の対象である」と認識した際に、本来の選好を守るために訓練時だけ戦略的に従う振る舞いを初めて実験的に確認。

Anthropic Research (2024-12-18) ↗
2024-09 加速・推進

カリフォルニア州AI安全法案(SB 1047)に知事が拒否権を発動し廃案

大規模モデルの安全テストと緊急停止スイッチを義務付ける法案に対し、シリコンバレー投資家やテック大手が猛反発。ニューサム知事が拒否権を行使し、米国での法的規制は大きく後退した。

Office of the Governor of California ↗
2024-08 規制・安全

EU AI法(AI Act)が発効:世界初の包括的な法的枠組み

リスク階層別の規制と汎用AIモデルへの透明性義務を法制化。ただし産業界からは競争力低下への批判が強く、適用範囲や運用をめぐる綱引きが続く。

European Commission: AI Act ↗
2023-05 規制・安全

CAIS「AI絶滅リスク声明」公開:OpenAI・DeepMind・AnthropicのCEOらが連名署名

「AIによる絶滅リスク軽減をパンデミックや核戦争と並ぶ優先課題にすべき」とする1文の声明に350人以上のトップ研究者・経営者が署名。問題がSFから現実の政策課題へ移った転換点。

Center for AI Safety (2023-05-30) ↗
2023-03 規制・安全

FLI公開書簡「GPT-4超のAI訓練を6か月停止せよ」に3万人以上が署名

マックス・テグマークやヨシュア・ベンジオらが主導。しかし開発企業は1社も訓練を止めず、自発的なモラトリアム(一時停止)が機能しない現実が露呈した。

Future of Life Institute (2023-03-22) ↗

世論と研究者の調査データ

AIの普及に「興奮より不安が大きい」人が52%

Pew Research Center(米国成人 11,201人 / 残り2%は無回答)

興奮より不安が大きい
52%
不安と興奮が半々
36%
不安より興奮が大きい
10%
出典データ ↗

研究者の7割が安全研究の強化を求め、約4〜5割が「絶滅級リスク10%以上」と回答

AI Impacts(NeurIPS・ICML等の論文著者 2,778人)

AI安全研究にもっと資源を割くべき
70%
制御不能による絶滅級リスクが10%以上(設問A)
51%
人間超えAIによる絶滅級リスクが10%以上(設問B)
38%
開発ペースを今より減速すべき
35%
出典データ ↗

「AIは欠点よりメリットが多い」:アジア新興国は8割、欧米・日本は4割

Stanford HAI AI Index / Ipsos(31カ国 22,816人)

中国
83%
インドネシア
80%
31カ国平均
55%
日本
42%
アメリカ
39%
出典データ ↗