AI暴走「制御不能の可能性」アンソロピックが開発減速提言

人工知能（AI）開発の米アンソロピックは、AIが人間の手を借りずに性能を自律的に高める段階に近づいたと指摘し、
暴走して制御不能になる前に「開発を遅らせたり、一時停止したりする選択肢を持つことが世界にとって有益だ」と提言した。

核軍縮条約を引き合いに、先端AI規制の国際的枠組みが整い、競合他社も同調すれば、減速や停止を行う用意があると表明した。

AI開発競争の先頭を走るアンソロピックが技術進展にブレーキをかける可能性に言及したことで、AIの安全性を巡る世界的な議論に一石を投じそうだ。
https://www.sankei.com/article/20260606-2DDMFGP7PFOKX...

返信する

日本が目指すAIは散在神経系型AI（特化型AIのネットワーク）で、米中の集中神経系型AI（巨大汎用AIという１つの脳）に対し、
Sakana AI等をハブ（結節点）に、現場の特化型AIを分散・自律連携させる社会実装を最速で目指している（金融、通信、工場、防衛の各現場で実装化中）。
散在神経系型AIの強みには、その仕組み上、汎用AIで危惧されるような暴走を防げる、システムの中枢（急所）がないため一撃で壊滅しない、現場完結で通信を極限まで減らすため機密が漏れない、消費電力を数十分の一から数百分の一に削減できる等がある。
補足 個々のAIは小さくても、ネットワークを組んだ時に「群れ全体」として予期せぬ行動をとるリスクがないとはいえない。
https://qiita.com/mhamadajp/items/45fac1827abab6...
https://journal.meti.go.jp/policy/202601/44028...

返信する