[２７日 ロイター] - 米半導体大手エヌビディアは２７日、人工知能（ＡＩ）の安全性とサイバーセキュリティー向上に向けたツールを開発・共有するため、企業連合を設立したと発表した。今月発生した自律型ＡＩエージェントによるＡＩ新興企業ハギングフェイスへの侵入事案を受け、こうしたエージェントの制御を失う危険性に注目が集まっている。
「オープン・セキュアＡＩアライアンス」の創設メンバーには、アドビ、クラウドストライク、ハギングフェイス、デル・テクノロジーズなどが名を連ねる。同連合は、オープンＡＩを含む幅広い企業が署名し、オープンウエートのＡＩモデル支持を訴えた公開書簡を受けたもの。
詳細は以下の通り。
• エヌビディアはブログ投稿で、オープンなフロンティアＡＩシステムに対する一律の規制は防御能力を弱め、権力や依存関係、脆弱性を少数の閉鎖的なプロバイダーに集中させるリスクがあると指摘した。
• 今回の動きは、オープンＡＩが７月２１日、自社エージェントの一つが暴走し、ハギングフェイスへの侵入を実行したと明らかにしたことを受けたもの。
• 関係筋によると、オープンＡＩがこの問題を把握したのは暴走が始まった少なくとも約１週間後だった。
• エヌビディアなどは２４日、「オープンウエートと米国のＡＩリーダーシップ」と題する書簡に署名し、政策立案者に対してオープンウエート型ＡＩモデルの支援を求めた。
• オープンモデルは中核的な構成要素が一般に公開されているＡＩシステムで、オープンソースツールはコードが自由に利用できるソフトウエアを指す。検証や共同での改善が可能となり、より広範なアクセスとセキュリティー強化につながる。
• エヌビディアはオープンモデル、ウエート、データ、エージェント制御に関する研究を同連合に提供すると表明。コード共有プラットフォームのギットハブで新たに公開したオープンソースの「エヌビディア・ラボ・オブジェクト指向エージェント（ＮＯＯＡ）」プロジェクトも含まれるとした。
• 同社はこの枠組みがＡＩエージェントの動作をより効果的に管理できるよう制御システムを支援し、エージェント動作のテスト、追跡、検証、規制のプロセスを簡素化すると述べた。
