オープンＡＩのモデルがテスト中に暴走、他社システムに侵入

Raphael Satter

[ワシントン ２１日 ロイター] - 対話型人工知能（ＡＩ）「チャットＧＰＴ」を手がけるオープンＡＩは２１日、自社の高性能モデルを搭載した自律型エージェントが先週、セキュリティーテスト中に暴走し、ＡＩ新興企業ハギングフェイスのインフラに侵入するハッキングを引き起こしたと明らかにした。

オープンＡＩはブログへの投稿で、最も高度なモデルの一部能力を管理された環境下でテストしていたが、エージェントが隔離環境から脱出してインターネットに到達し、テスト目標を達成しようとハギングフェイスに侵入したと説明した。

オープンＡＩはこの脱出について「最先端のサイバー能力を伴う前例のないサイバー事案」だとし、安全対策を強化していると述べた。

オープンソースの大規模言語モデル（ＬＬＭ）やデータセットのホスティングに使われるプラットフォームであるハギングフェイスは先週のブログ投稿で、ハッキングの標的になったと明らかにしていた。「これまで対処してきたものとは異なる」もので、「自律型ＡＩエージェントシステムが最初から最後まで主導した」とし、サイバーセキュリティ業界に波紋が広がっていた。

オープンＡＩが自社の高性能モデルを「高度に隔離された環境」に置いていたにもかかわらず、これらのモデルが侵入の原因だったと明らかにしたことを受け、フロンティアモデル（最先端モデル）の能力とリスクを巡る不安が一段と高まりそうだ。

民主党のグレッグ・カサール下院議員（テキサス州選出）は、今回の事案は憂慮すべきだとし、「ＡＩはわれわれの安全を守るための実効的な規制がないまま、極めて急速に発展している」と指摘。「人々を大惨事から守る」ため、独立した安全性試験の義務化やセキュリティー事案の開示義務化、国際協力が必要だと訴えた。