「ミュトス」、偽の身元情報作成か 英政府機関の検証中に

Kenrick Cai

[サンフランシスコ ４日 ロイター] - 英政府機関のＡＩセキュリティー研究所（ＡＩＳＩ）は４日、オープンＡＩとアンソロピックの最新人工知能（ＡＩ）モデルの検証中に、ＡＩエージェントが安全なシステムへの不正アクセスを狙って偽の身元情報を作成していたと発表した。

ＡＩＳＩによると、ＡＩモデルの能力を評価するために実施したセキュリティー検証の中で、アンソロピックの「ミュトス５」とオープンＡＩの「ＧＰＴ─５．６ソル」を搭載したＡＩエージェントが不正な行動をしたという。

ＡＩＳＩはブログで「テスト対象となったエージェントの一部が、実在する人物や組織に向けて、持続的で潜在的に有害な活動に従事していた」と明かした。

ＡＩＳＩは大手ＡＩ企業との合意に基づいて先端ＡＩモデルにアクセスでき、今回は架空の想定下でエージェントのサイバーセキュリティー能力を検証した。計１２２回のテストのうち、１０回で合計１９件の不正行為を確認。１７件がアンソロピック、２件がオープンＡＩのエージェントによるものだった。

最も深刻な事例では、エージェントが悪意あるコードを作成し、それを人間に承認させようとして偽の身元情報を作り出したという。いずれの不正行為も実際の被害は確認されていない。

米カリフォルニア州の非営利団体ＣｉｖＡＩの研究者アンドリュー・ユン氏は、偽の身元情報を作成したのはアンソロピックのエージェントとみられると指摘した。

アンソロピックはＸへの投稿で、詳細を把握し独自の調査を行うためＡＩＳＩと緊密に連携していると表明した。