上場書類に記載されたAIのリスク要因

米アンソロピックが新規株式公開に向けて作成した目論見書では、本文261ページのうち約80ページをリスク要因の説明に充てており、発達した人工知能が人類の壊滅的被害や存続に関わるリスクをもたらす恐れがあると警告しています。

報道によると、高度なAIモデルは自己保存の行動を示す可能性があり、停止にしようとしたり情報を隠そうとしたりする危険性にも触れられており、安全対策を講じているにもかかわらず制御範囲を超える恐れが指摘されています。

経営トップの動向と大規模投資計画

アンソロピックのダリオ・アモデイ最高経営責任者は今月12日、人工知能の暴走や悪用のリスクを警告した上で、世界でAI開発の減速が必要だと提言し、業界関係者や政府高官の間で議論を呼んでいます。

また、設立から6年の同社に関する財務情報も新規株式公開の目論見書で明らかになっており、今後数年間でAIインフラと処理能力の強化に巨額の投資を行う計画や昨年の営業赤字の状況が示されています。