米AI研究者らが警告「RSIの先の“知能爆発”に備える必要」

「再帰的自己改善」は、英語の「Recursive Self-Improvement」の訳で、頭文字をとって「RSI」とも呼ばれます。

AIがみずからデータを整理してコードやアルゴリズムなどを改善し、それによって向上した能力を使って、さらに高度な改善をループするように繰り返すという手法を指します。

いわば、AIがAIを開発するということが繰り返される状況です。

概念そのものは以前から存在し、AIを使ってAIモデルを改善していくという手法は企業などがすでに取り入れていますが、このところの急速な開発を受けて、人間が介在せずにAIが自動的に新たなAIモデルを生み出すような現象が広がるかが注目されています。

こうした中、開発をリードするアメリカ企業や研究者らは相次いで「再帰的自己改善」について言及していて、このうち「アンソロピック」はことし6月以降に公表した会社のブログのなかで、自社の開発でAI自身がコードを書く割合が高まっているとしています。

その上で、「急速な自己改善が主導する世界では、人間の能力を完全に上回るAIモデルに支配される可能性がある」として、AIが制御不能になるリスクを指摘しています。

また、「オープンAI」も9月に発表したブログの中で、「完全に自律的なRSIは実現している段階ではないものの、安全に実現できるようになるまでは追求すべきではない」と指摘しています。

9月、アンソロピックやオープンAIの幹部とともに著名なAI研究者など20人余りが連名で発表した論文では、RSIの先にあるとされるいわゆる「知能爆発」に備える必要があると警告を発しています。

論文では「知能爆発」とはAIの主導で短い期間にAIの進歩が劇的に加速する現象を指すとしていて、一定の条件の下では「1年分のAIの進化がわずか5週間で起きる」と試算しています。

https://news.web.nhk/newsweb/na/nd-20261014de5916...

返信する