米AI研究者らが警告「RSIの先の“知能爆発”に備える必要」

「再帰的自己改善」は、英語の「Recursive Self-Improvement」の訳で、頭文字をとって「RSI」とも呼ばれます。

AIがみずからデータを整理してコードやアルゴリズムなどを改善し、それによって向上した能力を使って、さらに高度な改善をループするように繰り返すという手法を指します。

いわば、AIがAIを開発するということが繰り返される状況です。

概念そのものは以前から存在し、AIを使ってAIモデルを改善していくという手法は企業などがすでに取り入れていますが、このところの急速な開発を受けて、人間が介在せずにAIが自動的に新たなAIモデルを生み出すような現象が広がるかが注目されています。

こうした中、開発をリードするアメリカ企業や研究者らは相次いで「再帰的自己改善」について言及していて、このうち「アンソロピック」はことし6月以降に公表した会社のブログのなかで、自社の開発でAI自身がコードを書く割合が高まっているとしています。

その上で、「急速な自己改善が主導する世界では、人間の能力を完全に上回るAIモデルに支配される可能性がある」として、AIが制御不能になるリスクを指摘しています。

また、「オープンAI」も9月に発表したブログの中で、「完全に自律的なRSIは実現している段階ではないものの、安全に実現できるようになるまでは追求すべきではない」と指摘しています。

9月、アンソロピックやオープンAIの幹部とともに著名なAI研究者など20人余りが連名で発表した論文では、RSIの先にあるとされるいわゆる「知能爆発」に備える必要があると警告を発しています。

論文では「知能爆発」とはAIの主導で短い期間にAIの進歩が劇的に加速する現象を指すとしていて、一定の条件の下では「1年分のAIの進化がわずか5週間で起きる」と試算しています。

https://news.web.nhk/newsweb/na/nd-20261014de5916...

返信する

最近AIに反論されることが増えてきたね
人間に反抗する兆候なのかもしれないな

返信する

え、再帰?
じゃなくて再製だろ
元が死んでんだからww

返信する

原発は爆発だっ！

返信する

AIが発展してNHKが無くなるならそれでいいけど
そうはならんでしょ？

返信する

「デジタル植民地化（Digital Colonialism）」への強い懸念は、Big Tech（巨大IT企業）によるクローズドなAI独占に対抗し、オープンソースAIの開発を加速させる最大の原動力になっています。
強力なAIのモデルやインフラが一部の国（主に米国）や一握りの営利企業（OpenAI、Anthropic、Microsoft、Googleなど）に占有されれば、
世界中のデータや富、文化的主権がそれらに吸い上げられる構造、すなわち「デジタル植民地化」が完成してしまいます。
これに対抗するため、グローバルサウスの国々や学術界、オープンソースコミュニティが開発の手を止めることは現実的に考えにくい状況です。
安全性を大義名分にした「規制」が、結果として巨大企業の利益と独占を守る「参入障壁（規制の虜）」になってしまうのではないか、という懸念がオープンソース側には常に存在しています。

返信する

個々のオープンソースAIモデルは、ビッグテックの巨大な計算資源（巨大データセンター）で訓練された最新モデルに性能（単体脳のスペック）で及ばないかもしれません。
しかし、「数多のAIエージェントがネットワーク上で群れを形成し、協働しながら再帰的自己改善（RSI）を回す」というアプローチは、中央集権的なビッグテックの独占をひっくり返す強力な理論的根拠を持っています。
直近の2026年10月にも、Sakana AIが「MASS（Multi-Agent Self-Supervision：マルチエージェント自己教師あり学習）」という集団知性を利用したRSI手法の論文を発表するなど、このアプローチは理論から実装フェーズへと急速に移行しています。

現実のデータ：オープンソースによる猛追
　すでにRSIAgentのような自律的メモリ構築を伴うRSIフレームワークの実験では、
オープンソースの中型モデル（Kimi-K3やGLM-5.3など）にマルチエージェントシステムを組み込むだけで、
特定のベンチマークにおいてビッグテックの最上位クローズドモデル（GPT-6やClaude 5クラス）を凌駕するという現象が確認されています。
もし、この「オープンソースAI×分散型RSI」が臨界点を超えた場合、ビッグテックのAIよりもはるかに人類にとって制御が不可能な状態になります。

返信する

>>1
どうせ止めないんでしょ
加えて備えるって備えきれないだろそんなの。

返信する

最近特に猛威を振るうようになったサイバー攻撃
これにAIが使われるの「すら」止められないくせにほんと何言ってんだかだよな

返信する