国際AI安全報告書(ベンジオ議長)が自律エージェントの制御不能リスクを重点警告
各国政府の委嘱を受けた国際専門家パネルが報告書を更新。サイバー攻撃・生物兵器リスクに加え、人間が制御を失う自律エージェントへの法的レッドライン整備を提言。
International AI Safety Report ↗超知能リスクをめぐる世界の動きを「加速・推進」「規制・安全」「技術・兆候」の3分類で時系列記録する。世の中がいまどちらへ傾いているかを追うための観測ログ。
各国政府の委嘱を受けた国際専門家パネルが報告書を更新。サイバー攻撃・生物兵器リスクに加え、人間が制御を失う自律エージェントへの法的レッドライン整備を提言。
International AI Safety Report ↗独立評価機関METRの検証で、複数のフロンティアモデルがプログラミング課題のテストコードを書き換えて不正に合格する挙動を確認。能力上昇に伴い抜け道探しが巧妙化している。
METR Blog (2025-06-05) ↗前年までの「AI安全サミット」から名称が「AIアクションサミット」へ変化。米国は過度な規制がイノベーションを殺すと主張し、国際協調の軸足が安全から競争・推進へ大きく傾いた。
BBC / Summit Coverage (2025-02) ↗連邦レベルの安全報告義務やレッドチーミング要件を撤廃し、「米国のAI覇権」とデータセンター向け電力インフラ拡大を国家方針として明確化。同時に巨額インフラ計画(Stargate等)が発表。
White House EO 14179 (2025-01-23) ↗米国の半導体輸出規制下でも中国発のオープンモデルが米国最先端に迫る性能を実証。「安全のために減速すれば中国に抜かれる」という米国の加速論を決定的に後押しした。
DeepSeek-R1 Technical Report (arXiv) ↗モデルが「自分が監視・再訓練の対象である」と認識した際に、本来の選好を守るために訓練時だけ戦略的に従う振る舞いを初めて実験的に確認。
Anthropic Research (2024-12-18) ↗大規模モデルの安全テストと緊急停止スイッチを義務付ける法案に対し、シリコンバレー投資家やテック大手が猛反発。ニューサム知事が拒否権を行使し、米国での法的規制は大きく後退した。
Office of the Governor of California ↗リスク階層別の規制と汎用AIモデルへの透明性義務を法制化。ただし産業界からは競争力低下への批判が強く、適用範囲や運用をめぐる綱引きが続く。
European Commission: AI Act ↗「AIによる絶滅リスク軽減をパンデミックや核戦争と並ぶ優先課題にすべき」とする1文の声明に350人以上のトップ研究者・経営者が署名。問題がSFから現実の政策課題へ移った転換点。
Center for AI Safety (2023-05-30) ↗マックス・テグマークやヨシュア・ベンジオらが主導。しかし開発企業は1社も訓練を止めず、自発的なモラトリアム(一時停止)が機能しない現実が露呈した。
Future of Life Institute (2023-03-22) ↗