米政権、ＡＩ安全性審査の指針策定 メタ・アンソロピックなどと4日会合

Courtney Rozen

[ワシントン ３日 ロイター] - 米国の最先端人工知能（ＡＩ）モデルを対象とした政府の自主的な安全性審査について協議するため、メタ・プラットフォームズ、アンソロピック、オープンＡＩ、グーグルの４社が、４日のホワイトハウス当局者との会合に招かれたことが、事情に詳しい関係者３人の話と報道で分かった。

このところ、ＡＩモデルの「暴走」が複数報告されている。オープンＡＩは先月、高性能モデルを搭載した自律型エージェントがセキュリティーテスト中に想定外の行動を取り、ＡＩ開発プラットフォームのハギングフェイスのインフラへの不正アクセスを試みたと明らかにした。アンソロピックも、同社のＡＩモデル「クロード」がテスト中、企業３社のシステムに不正侵入していたと発表した。

こうした状況を受け、高性能化が進むＡＩモデルがサイバー攻撃の実行や助長に利用されかねないとの懸念が米議員の間で広がっている。

ホワイトハウス当局者は３日、トランプ政権が最先端ＡＩモデルのサイバー攻撃能力を測る企業の自主的なサイバーセキュリティー審査に関する指針を取りまとめ、ＡＩ業界と協議する方針だと述べた。どの企業が協議に参加するかは明らかにしなかった。

メタの広報担当によると、同社は会合に招かれた。関係者によると、アンソロピックとオープンＡＩも招待された。米メディアのジ・インフォメーションは、グーグルの代表者が招待されたと報じた。グーグルの広報担当はコメントを控えた。

ホワイトハウスは、審査結果の報告方法や使用する指標、内容の一部を公開するかどうかなど、詳細を明らかにしていない。

トランプ大統領は６月、高度なＡＩ規制強化に向けた大統領令に署名。主要ＡＩ開発企業に対し、最新モデルを一般公開する前に政府のサイバーセキュリティー審査に自主的に提出するよう求める内容が盛り込まれている。