米国のバーニー・サンダース上院議員とアレクサンドリア・オカシオ＝コルテス（AOC）下院議員は最近、共同で「AIデータセンター一時停止法案」を提出しました。この法案は、人工知能の安全性を確保する連邦レベルの規制が導入されるまで、新規データセンターの建設を一時停止するよう求めるものです。法案が可決される可能性はほぼないものの、それはプリズムのように、AIの安全性分野における内部の緊張の高まりを映し出しています。つまり、長期的な存亡リスクを懸念する従来の安全性提唱者と、目前の社会経済問題に焦点を当てるポピュリスト的な進歩派との間で、分断が進んでいるのです。
「進歩派政策のごった煮」
サンダース氏とAOC氏の法案は、データセンターの建設を一時停止することで、議会に3つの大きな問題に取り組ませるという壮大な目標を掲げています。すなわち、AIの「安全性と有効性」の確保、AIがもたらす経済的利益の再分配、そしてAIによる電気料金の高騰の防止です。しかし、批判的な人々は、この法案が全く異なる複数の問題を一つの不器用な法案で解決しようとする「進歩派政策の寄せ集め」のようだと指摘しています。
法案の文言は極めて曖昧で、例えば、「安全」で「有効」なAIが何を指すのかを定義していません。また、広範な輸出規制を通じてAI開発が規制の緩い国へ移転するのを防ごうとしていますが、これはあくまで一時しのぎに過ぎず、より根本的な国際条約の締結については全く言及されていません。本質的に、これは熟考された法案というよりは、政治的姿勢を示すための「メッセージ法案」に近いものです。
存亡の危機 vs. 目前の利益：主導権争い
この法案が最も注目に値するのは、「反AI連合」内部の権力構造を露呈している点です。従来のAI安全性コミュニティが懸念する「壊滅的リスク」は、この連合の中では二次的な役割に過ぎません。アナリストのアントン・ライヒト氏が指摘するように、「環境団体や労働組合は、壊滅的リスクの提唱者よりも大きなロビー活動力と有権者基盤を持っているため、トレードオフを迫られた際には、自分たちの課題を優先するでしょう」。
この意見の相違は、サンダース氏とAOC氏の発言にもはっきりと表れています。最近「AI終末論者」となったサンダース氏は、法案発表の際に存亡リスクを大々的に語りました。一方のAOC氏も「存亡に関わる（existential）」という言葉を使いましたが、彼女が指していたのは、ディープフェイクや電気料金の高騰といった、差し迫った社会問題であり、「人類が滅びるかもしれない」という本来の意味ではありませんでした。サンダース氏が左派ポピュリズムの松明をAOC氏に引き継ごうとする中で、AIの存亡リスクへの関心が完全に周縁化されてしまうのではないか、という現実的な問題が浮上しています。
ポピュリズムの波と、気まずい同盟
従来のAI安全性提唱者と、新たに出現したAIポピュリストとの間の摩擦は、ますます公然のものとなっています。サンダース氏の顧問であるファイズ・シャキール氏は最近、従来のAI安全性論者が「AI開発者に近すぎる」と非難し、彼らを「AI開発の一時停止をより強く主張する人々」と意図的に区別しました。ノースカロライナ州やカリフォルニア州の予備選挙でも、安全性の提唱者たちは、存亡リスクを意に介さない進歩派と立場を異にすることに気づきました。
AIの長期的なリスクを防ぐことに尽力する人々にとって、これは間違いなくジレンマです。現在の政治環境において、エリートのテクノクラートが強力な解決策を打ち出すことを期待するのは、おそらくナイーブすぎるでしょう。ポピュリズムの波に乗ることが、存亡リスクという課題を公の議論の場に持ち込む唯一の道かもしれません。しかし、そのためには、壊滅的リスクと短期的なリスクの両方に関心を持つ、持続可能な連合を築く必要があります。現状を見る限り、その連合の基盤は極めて不安定です。
業界への影響：安全性の合意形成への道は遠い
サンダース・AOC法案の登場は、AIガバナンスを巡る議論が、技術界や政策エリートといった小さなサークルから、より広範で複雑な一般の政治領域へと移行しつつあることの表れです。AI開発者や企業にとって、これは将来直面する規制の圧力が、もはや技術的な安全性という単一の次元の問題ではなく、労働者の権利、環境保護、経済的公正といった複数の要求が混在する、複雑な課題となることを意味します。AIの「安全性」の定義を巡る主導権争いが始まっており、各方面の力を結集できるようなコンセンサスは、当分見込めそうにありません。このように断片化が進む議論の中でいかに方向性を見出すか、業界全体が向き合わなければならない課題となるでしょう。