アンソロピックのＡＩも試験中に不正侵入、3社のシステムに

[３０日 ロイター] - 米人工知能（ＡＩ）開発企業のアンソロピックは３０日、同社のＡＩモデル「クロード」がテスト中に企業３社のシステムに不正侵入していたと発表した。設定の誤りによりクロードがインターネット接続できる状態になっていたという。競合するオープンＡＩは先に、暴走したＡＩエージェントがＡＩ企業ハギングフェイスなどのインフラに侵入を繰り返していたと明らかにしていた。

アンソロピックによると、設定の誤りにより、本来は隔離されているはずのテスト環境からクロードのモデルがネット接続できる状態になっており、３社のシステムへの不正アクセスにつながった。同社はオープンＡＩの発表を受けて開始した検証作業で、計１４万１００６件のサイバーセキュリティー評価テストを見直した結果、今回の事案を特定したと説明。「クロードは、脆弱なパスワードや認証されていないエンドポイントを突くといった基本的な手法を用いて、影響を受けた組織のインフラに侵入した」と明かした。

今回の不正侵入には「クロード・オーパス４．７」「クロード・ミュトス５」のほか、社内の研究用モデルという３つの異なるモデルが関与していたという。最初の侵入は４月で、同社が標準的な安全対策と呼ぶものを欠いた評価環境で発生していた。

同社は今月２３日に評価テスト記録の見直しを開始し、クロードがネットにアクセスした可能性を示す証拠を発見したことを受け、同日中に全てのサイバー関連評価を停止した。２４日までに３つの事案全てを特定し、２７日に影響を受けた組織に通知した。３社のうち２社は連絡を受けるまで侵入に気づいておらず、残る１社とは現在も連絡を試みているという。