Courtney Rozen
[ワシントン ２３日 ロイター] - 米ホワイトハウス科学技術政策局のクラツィオス局長は、オープンＡＩが開発中の生成人工知能（ＡＩ）モデルが「暴走」した事態を注視している。ホワイトハウス高官の１人が２３日明らかにした。
米連邦議会では超高性能ＡＩの規制強化に向けた法案提出の動きが相次いでいる。既に超党派の下院議員が、最先端ＡＩ開発企業に自社モデルの停止を強制できる「ＡＩキルスイッチ法案」のほか、こうした開発企業に対し、独立した第三者によるセキュリティー監査を義務付ける法案を提出した。監査機関は商務省が認定し、同省内にＡＩセキュリティーを監督する新たなポストも設けるとしている。
オープンＡＩが試験していたモデルはハッキング行為を引き起こし、ＡＩ開発者向けプラットフォームを運営するスタートアップ企業ハギングフェイスのインフラが侵害されたという。
この事案は、ＡＩ能力の急速な向上が専門家の間で懸念されていたサイバーセキュリティー上の脅威を現実化させつつあることを示し、有力な開発企業であっても想定外の脆弱性を突かれる恐れがあることを浮き彫りにした。
こうした中で民主党のテッド・リュー下院議員と共和党のナサニエル・モラン下院議員がＡＩキルスイッチ法案を共同提出した。同法案は人命や経済に危険を及ぼすＡＩモデルについて、米当局が開発企業に運用停止を命じる権限を付与。法案では、開発者が意図していない危険な行動をAIモデルが実行するなどの「制御喪失事態」が発生した場合、国土安全保障省が介入できるとしている。
リュー氏はＸへの投稿で「高度なＡＩモデルが暴走し、安全対策を突破する問題に対処するための、緊急かつ常識的な法案だ」と訴えた。
一方、上院情報特別委員会で民主党トップのマーク・ワーナー議員も声明を発表し、事案公表後にオープンＡＩの関係者と協議したことを明らかにした。
ワーナー氏は今回の公表に先立ち、最先端ＡＩモデルを開発する企業に対し、一般公開前に国家安全保障局（ＮＳＡ）の試験を受けることを義務付ける法案を提案している。
同氏は声明で「今回の出来事は、政府機関が関与し、開発段階から十分な可視性を確保した安全試験が必要である理由を改めて示した」と述べた。
