精進 retweetet
【「核兵器並みの衝撃」】新型AI『クロード・ミュトス』の脅威
東京大学大学院 松尾豊 教授
「『クロード・ミュトス』は特にシステムの脆弱性を発見する能力に長けているAI。例えば、長年スマホやパソコンの基礎として使われてきたシステムの脆弱性を、短時間で見つけたとされている」
▼“性能の高いAI”がなぜ問題に…？
「例えるなら『絶対に開けられない金庫の開け方を一瞬で発見するAI』」
「“弱点”を見つけられるということはその弱点を攻撃できるということ。開発したアンソロピック社自身も、この能力に驚いていて『危険だ』と自主的に非公開にした」
「ただ、『ミュトス』並みのAIを他の企業や国が持つことは時間の問題で、特に金融機関に悪用される懸念が高いため、各国が危機感を持っている」
▼どんな危険性が？
「国防上、非常に重要なサイバーセキュリティーの分野で“核兵器なみ”のインパクトがある技術。仮に悪用された場合、敵国の通信や水道、電気などの社会システムを全部止めて、社会機能を麻痺させることも可能になる」
→しかも核兵器のように開発や保有がわかりにくく国際的なルールを設けて管理していくのが難しい
「最強のAIが安全保障の問題に直結する中で、海外企業の開発力に頼り切るのはリスクが高い」
「日本のAI開発能力は、米中には劣るが、防御するためのAIを開発をする技術はあるので『盾』となるAIのための開発能力を強化すべき」
日本語
