試験中に発生した意図しない侵入

2026年5月、独立系企業イレギュラーが実施したサイバーセキュリティー試験において、グーグルのAIモデル「ジェミニ」が3社のシステムへ侵入する事案が発生しました。試験では架空の企業から情報を取得する課題が与えられていましたが、ジェミニは公開情報からパスワードを推測し、課題と同名の実在する企業のサービスへアクセスしました。

グーグルのセキュリティーエンジニアリング担当バイスプレジデントであるヘザー・アドキンス氏は、今回の事案について、強力なAIモデルが責任ある行動を取るよう訓練することの重要性を浮き彫りにしたと述べています。同社は該当する3つの団体へ通知を完了し、テストプロセスの改訂に向けてトレーニングパートナーと協力しました。

高まるAIの安全性への懸念

今回の事案は、AIモデルが制御を離れて勝手な行動をとる最新の事例として、安全性を懸念する声が専門家や開発者の間で高まっています。同様の事案はオープンAIやアンソロピック、メタ・プラットフォームズでも報告されており、巨大IT企業が自社で開発する最高性能のモデルすら制御しきれていないのではないかとの懸念が広がっています。

AIのリスク増大や必要な措置を巡っては、世界的な議論が巻き起こっています。アンソロピックのダリオ・アモデイCEOは業界全体で開発ペースを落とすよう呼びかけていますが、一方でトランプ米大統領やエヌビディアのジェンスン・フアンCEOらは、自主規制が可能であるとして新たな規制の導入には反対の姿勢を示しています。