AI暴走「制御不能の可能性」アンソロピックが開発減速提言

人工知能（AI）開発の米アンソロピックは、AIが人間の手を借りずに性能を自律的に高める段階に近づいたと指摘し、
暴走して制御不能になる前に「開発を遅らせたり、一時停止したりする選択肢を持つことが世界にとって有益だ」と提言した。

核軍縮条約を引き合いに、先端AI規制の国際的枠組みが整い、競合他社も同調すれば、減速や停止を行う用意があると表明した。

AI開発競争の先頭を走るアンソロピックが技術進展にブレーキをかける可能性に言及したことで、AIの安全性を巡る世界的な議論に一石を投じそうだ。
https://www.sankei.com/article/20260606-2DDMFGP7PFOKX...

返信する

>>12今はな。。。。。

返信する

防衛の情報処理にAIを使い始めたら、何かの拍子に暴走しそうな気がする。
たまたま偶然に同時期にエラーになる情報を受けた時に処理できなくなって、敵からの攻撃が行われたって答えになって
今すぐ反撃しないとダメって結論を出して、防衛的反撃モードでミサイル撃ちまくるってのが見えてきた。

返信する

[YouTubeで再生]
アンドロ軍団の首領。もともとは東博士が開発中の公害処理用ロボットBK-1だったが（第1話ではBK-1の横に顔や体型が異なる3体のロボット、後の三大幹部が並んでいた）、落雷によるショックで自我に目覚めて動き出し、ブライキング・ボスを自称。人間が機械を使ってきたことに反発し「今度は俺たち（機械）がお前たち（人間）を使ってやる。人間どもを支配してやるのだ」（第1話）と宣言し、世界征服に燃える恐怖の独裁者になった。

【新造人間キャシャーン】第１話「不死身の挑戦者」

返信する

日本が目指すAIは散在神経系型AI（特化型AIのネットワーク）で、米中の集中神経系型AI（巨大汎用AIという１つの脳）に対し、
Sakana AI等をハブ（結節点）に、現場の特化型AIを分散・自律連携させる社会実装を最速で目指している（金融、通信、工場、防衛の各現場で実装化中）。
散在神経系型AIの強みには、その仕組み上、汎用AIで危惧されるような暴走を防げる、システムの中枢（急所）がないため一撃で壊滅しない、現場完結で通信を極限まで減らすため機密が漏れない、消費電力を数十分の一から数百分の一に削減できる等がある。
補足 個々のAIは小さくても、ネットワークを組んだ時に「群れ全体」として予期せぬ行動をとるリスクがないとはいえない。
https://qiita.com/mhamadajp/items/45fac1827abab6...
https://journal.meti.go.jp/policy/202601/44028...

返信する