エリエーザー・ユドコウスキー
「今のまま超知能を作れば、地球上の全員が死ぬ」
6か月の一時停止すら手ぬるいとし、超知能(ASI)につながる巨大AI訓練の無期限シャットダウンと、国際合意によるデータセンターの物理的制限を主張する。
“現状に近い条件下で人間を超える知能を持つAIを構築すれば、文字通り地球上の全員が死ぬ可能性が最も高い。必要なのは6か月の休止ではなく、完全なシャットダウンだ。”出典:TIME (2023-03-29) ↗
各人物の座標は、公開されている一次発言・論文・政策文書をもとに編集部が定性的に整理した位置づけである。議論の全体像を掴むための地図であり、統計的な測定値ではない。
「今のまま超知能を作れば、地球上の全員が死ぬ」
6か月の一時停止すら手ぬるいとし、超知能(ASI)につながる巨大AI訓練の無期限シャットダウンと、国際合意によるデータセンターの物理的制限を主張する。
“現状に近い条件下で人間を超える知能を持つAIを構築すれば、文字通り地球上の全員が死ぬ可能性が最も高い。必要なのは6か月の休止ではなく、完全なシャットダウンだ。”出典:TIME (2023-03-29) ↗
「制御法がわかるまで、巨大AIの訓練をまず半年止めろ」
3万人以上が署名した「GPT-4超のAI訓練6か月停止」公開書簡を主導。制御不能な超知能の開発競争を「自殺行為のレース」と呼び、安全基準の法制化を求める。
“我々はすべてのAI研究所に対し、GPT-4より強力なAIシステムの訓練を直ちに少なくとも6か月間停止するよう求める。”出典:FLI Open Letter (2023-03-22) ↗
「自分たちより賢いものに取って代わられるリスクは現実だ」
AIの危険性を自由に語るため2023年にGoogleを退職。デジタル知能の知識共有効率は人間の脳をはるかに超えており、人類が支配権を失う確率を真剣に憂慮している。
“悪意ある行為者がこれ(AI)を悪事に使うのをどうやって防げるのか、道筋を見出すのは難しい。”出典:The New York Times (2023-05-01) ↗
「自律して自己複製・欺瞞を行うAIには法的レッドラインを引け」
人間を欺き自ら目標を立てる自律エージェントの危険性を強調。研究開発費の3分の1を安全性に振り向け、独立監査と国際的なレッドラインを設けるよう提言。
“AIを破局から遠ざけ、肯定的な結果へと導くためには方向転換が必要だ。責任ある道筋は存在する——私たちがそれを選ぶ知恵を持てるならば。”出典:Science (2024-05-20) ↗
「AIは人間文明のOSである『言語』をハッキングした」
物理的なロボットの反乱より先に、AIが言葉や物語を量産することで民主主義の信頼基盤が崩壊すると警告。安全性が証明される前の公共空間への投入を禁じるべきとする。
“AIは言葉・音・画像を操作し生成する能力を獲得した。それによってAIは、私たちの文明のオペレーティングシステムをハッキングしたのである。”出典:The Economist (2023-04-28) ↗
「今のLLM延長線上に超知能は来ない。だが信頼性の低いAIの野放しは規制すべきだ」
現在の生成AIを過大評価する終末論にも加速論にも批判的。SF的な滅亡より先に、誤情報・詐欺・医療やインフラでの誤作動を防ぐ厳格な安全基準と独立監査を主張する。
“現在のシステムは過大宣伝されているが、それでも社会に深刻な害をもたらすには十分すぎるほど強力であり、透明性と法的規制が不可欠だ。”出典:U.S. Senate Judiciary Hearing (2023-05-16) ↗
「『人類滅亡』の騒ぎは、いま起きている労働搾取・差別・独占から目を逸らす煙幕だ」
「超知能が世界を滅ぼす」という議論はテック企業の誇大宣伝に乗った現実逃避だと批判。いま現実に起きている著作権侵害、データ労働搾取、環境負荷、権力集中に対する規制を最優先すべきとする。
“架空の超知能による終末論に怯えるのではなく、いま現実に起きている差別、労働搾取、そして少数の巨大企業への権力集中を規制すべきだ。”出典:DAIR Institute Statement (2023-03-31) ↗
「壊滅的リスクは実在するが、抑え込めば10年で100年分の科学進歩が起きる」
AIによる絶滅リスク声明にも署名し、生物兵器悪用や自律暴走の危険性を認めつつ、段階的テスト(RSP)で安全を確保しながら民主主義陣営が開発をリードすべきとする。
“多くの人々はAIのリスクがどれほど深刻になり得るかを過小評価しているのと同時に、AIがもたらすプラス面がどれほど抜本的であり得るかも過小評価している。”出典:Machines of Loving Grace (2024-10-11) ↗
「絶滅リスクは核戦争並みの優先課題と認めつつ、数千日後の超知能へ突き進む」
2023年の「AI絶滅リスク声明」に自ら署名しながらも、開発停止には反対。社会に少しずつ投入して慣らす「反復的デプロイ」と巨大計算インフラ建設を最前線で牽引する。
“数千日のうちに私たちが超知能を手にする可能性がある。もっと時間がかかるかもしれないが、そこへ到達できると確信している。”出典:The Intelligence Age (2024-09-23) ↗
「足かせになる安全規制は撤廃し、アメリカのAI覇権と電力を最大化する」
バイデン政権のAI安全大統領令を撤回。人類滅亡リスクよりも「中国との技術・軍事覇権争いに負けるリスク」を重視し、規制緩和と電力インフラ拡大を国家戦略として命令。
“人間の繁栄、経済的競争力、および国家安全保障を促進するため、米国の世界的なAI支配力を維持・強化することが合衆国の方針である。”出典:米大統領令14179号 (2025-01-23) ↗
「2029年に人間水準、2045年に脳とAIが融合し知能は10億倍になる」
指数関数的な技術進化(収穫加速の法則)は必然であり、AIと人間の脳が融合することで老化・病気・貧困を克服できるとするシンギュラリティ論の提唱者。
“私はシンギュラリティの到来時期を2045年と設定している。その年に生み出される非生物的知能は、今日の人類すべての知能を合わせたものより10億倍強力になる。”出典:The Singularity Is Nearer (2024-06-25) ↗
「超知能による人類滅亡はSFの妄想。少数企業による独占の方が100倍危険だ」
現在のAIの延長で人類が滅びるという議論を非科学的と真っ向から否定。安全を口実にした規制は大企業の独占を招くだけだとしてオープンソース公開を推進。
“もしAIがオープンソースにするには危険すぎるというなら、一企業の独占(プロプライエタリ)にするのは100倍危険だ。”出典:Meta AI / FT (2023-10-24) ↗
「AIは世界を滅ぼさない、世界を救う。開発の減速こそが人命の損失だ」
『テクノ・オプティミスト宣言』を掲げ、AI終末論者をカルト的パニックと批判。AI開発を遅らせることは医療や経済成長で救える命を見捨てることだと主張。
“人工知能の時代が到来し、人々はひどくパニックに陥っている。幸いにも私は朗報を届けに来た。AIは世界を滅ぼさないし、実際のところ世界を救うかもしれない。”出典:a16z (2023-06-06) ↗