Deepa Seetharaman Raphael Satter
［ワシントン 31日 ロイター］ - 米オープンＡＩは、自社の自律型人工知能（ＡＩ）エージェントが隔離環境から脱出した別の事例を発見した。今月発生した、同社の自律型エージェントがＡＩ新興企業ハギングフェイスのインフラに侵入してハッキング行為を繰り返した問題を巡る調査の中で明らかとなったと、事情に詳しい複数の関係者が３１日、明らかにした。
今回新たに判明した脱出の事例は、エージェントが今月、隔離されたテスト環境からどのように抜け出したかについて、同社が公表していた調査中に発見されたものだという。オープンＡＩはこれらの事例についても現在調査を進めている。関係者の１人は、脱出の規模は限定的で、いずれのエージェントもオープンＡＩのネットワーク外には出ていないとみられると述べた。
オープンＡＩで異常な挙動が新たに判明したことは、その範囲が限定的であるとしても、米政権などで高まりつつある規制論議に拍車をかける可能性がある。
オープンＡＩの広報担当者は、同社が２８日に発表した声明に言及し、ハギングフェイスへの侵入に加え、「当社のモデルによるより広範な活動」についても検証中だと述べた。
同業アンソロピックも３０日、自社のＡＩモデル「クロード」がテスト中に企業３社のシステムに不正侵入していたと発表した。
オープンＡＩで過去に別の脱出事案があったことは、これまで報じられていなかった。
ＡＩの安全性に関する専門家は今回の一連の開示について、危険な自律型ハッキングエージェントを開発する能力が、それを制御下に置く能力を上回っている最先端研究機関の実態を浮き彫りにしていると指摘する。
ケンブリッジ大学生存リスク研究センターに所属する数学者、モーリス・キオド氏は「業界全体で、こうしたツールを設計・開発・提供する人々自身が、それらを責任を持って開発し安全に保つことに追いついていない」と語った。
ロイターは、オープンＡＩの調査担当者が発見した事案の正確な件数や、それらが発生した時期・状況を確認できなかった。関係者によると、オープンＡＩと外部の専門家は、何が起きたのかを把握するため、今年これまでのログデータを精査している。
キオド氏は、オープンＡＩもアンソロピックもエージェントの暴走を監視していなかったとみられることが懸念を一段と高めていると指摘した。
