オープンＡＩ、エージェント脱出を新たに確認 他の事案巡る調査で判明

Deepa Seetharaman　Raphael Satter

［ワシントン　31日　ロイター］ - 米オープンＡＩは、自社の自律型人工知能（ＡＩ）エージェントが隔離環境から脱出した別の事例を発見した。今月発生した、同社の自律型エージェントがＡＩ新興企業ハギングフェイスのインフラに侵入してハッキング行為を繰り返した問題を巡る調査の中で明らかとなったと、事情に詳しい２人の関係者が３１日、明らかにした。

２人の関係筋によると、今回新たに判明した脱出の事例は、エージェントが今月、隔離されたテスト環境からどのように抜け出したかについて、同社が公表していた調査中に発見されたものだという。オープンＡＩはこれらの事例についても現在調査を進めている。情報筋の１人は、脱出の規模は限定的で、いずれのエージェントもオープンＡＩのネットワーク外には出ていないとみられると述べた。

オープンＡＩで異常な挙動が新たに判明したことは、その範囲が限定的であるとしても、米政権などで高まりつつある規制論議に拍車をかける可能性がある。

オープンＡＩの広報担当者は、同社が２８日に発表した声明に言及し、ハギングフェイスへの侵入に加え、「当社のモデルによるより広範な活動」についても検証中であると述べた。