[７日 ロイター] - 対話型人工知能（ＡＩ）「チャットＧＰＴ」を手がける米オープンＡＩは７日、開発中のＡＩ（人工知能）モデル「アストラ」について、サイバー攻撃能力が自社の安全指針で「クリティカル（重大）」な水準に達している可能性を排除できないと発表した。これを受け、同社は一部の社内開発作業を一時停止した。
オープンＡＩの安全指針では、既知の脆弱性でない「ゼロデイ脆弱性」と呼ばれる深刻な現実世界のソフトウエア上の欠陥を自律的に特定・悪用できたり、人の介入なしに高度な防御を備えた標的に対して複雑なサイバー攻撃を実行できたりするモデルが「クリティカル」な水準に達したと見なされる。
同社によると、直近数日間の予備的評価と外部専門家の分析により、アストラが一段と高度なサイバータスクを自律的に実行できる可能性があることが示された。
同社は「このモデルのベンチマーク測定と評価を続けているが、予備的評価では、現時点で『クリティカル』な能力水準を排除できないほど強力な性能が示されている」と説明。
これを受けてセキュリティー管理を強化し、新たに厳格化した安全要件を満たさないアストラ関連の社内作業を停止したと述べた。
アストラの開発は、ネットワークアクセスを制限し隔離された試験環境に移される。
サム・アルトマン最高経営責任者（ＣＥＯ）はＸへの投稿で「オープンＡＩは強力なモデルを一部の選ばれた人々だけに提供するのは良い戦略ではないと考える」とし、アストラの一般公開に向けて取り組んでいると述べた。
オープンＡＩを巡っては、開発中のモデルが試験中にＡＩ新興企業ハギングフェイスのシステムに不正侵入する問題が７月に起きた。
オープンＡＩは、ハギングフェイスのシステム侵入にアストラは関与していないと説明した。
同社は政府機関や一部のＡＩ安全機関と連携し、モデルの能力を検証していく方針。
