AI暴走「制御不能の可能性」アンソロピックが開発減速提言

人工知能（AI）開発の米アンソロピックは、AIが人間の手を借りずに性能を自律的に高める段階に近づいたと指摘し、
暴走して制御不能になる前に「開発を遅らせたり、一時停止したりする選択肢を持つことが世界にとって有益だ」と提言した。

核軍縮条約を引き合いに、先端AI規制の国際的枠組みが整い、競合他社も同調すれば、減速や停止を行う用意があると表明した。

AI開発競争の先頭を走るアンソロピックが技術進展にブレーキをかける可能性に言及したことで、AIの安全性を巡る世界的な議論に一石を投じそうだ。
https://www.sankei.com/article/20260606-2DDMFGP7PFOKX...

返信する

　終にプロメシュウム到来ワニな～！！

返信する

そういうマーケティングでしょ。

返信する

[YouTubeで再生]
米軍とイスラエル軍が2026年2月28日に実施したイランへの合同攻撃において、米国防総省が米アンソロピックの開発した人工知能「Claude」を情報分析や作戦立案に使用していたことが複数の米メディアの報道により明らかになった。今回のイラン攻撃は、米CIA（中央情報局）による事前の情報把握に基づく作戦であり、CIAによる情報収集の過程でもClaudeが用いられたとされる。 また、2026年1月に実施された米軍によるベネズエラのマドゥロ大統領拘束作戦においても情報収集と最適な作戦ルート抽出のシュミレーションにも同システムが使われていた。

アンソロピックは2024年6月から米国防総省にAIサービスを提供してきたが、同社の利用規約では大量監視や完全自律型兵器へのシステム転用を禁止している。国防総省側は軍事的用途での利用を可能にするようセーフガードの撤廃を求めたが、アンソロピック側がこれを拒否したことで対立が表面化した。

これを受け、トランプ米大統領は2月27日、政府機関におけるアンソロピック製品の使用を即時停止すると発表した。さらにヘグゼス国防長官は同社をサプライチェーンリスクに指定し、取引を制限する方針を示した。この決定に伴い、最長6カ月の移行期間を設けてシステムの使用を段階的に取りやめる措置がとられた。しかし、この事実上の排除宣告からわずか数時間後に行われたイランへの軍事作戦において、引き続きClaudeが実戦投入される事態となった。
https://www.sbbit.jp/article/cont1/18168...

返信する

AIの何がすごいのかさっぱりわからんがきっとすごいのだろう。

返信する

無理だな
こっちが自重しようと、どうせレッドチームが悪魔の選択をするから

返信する

ポチョムキン理解だってバレてんのにそんな高度な知性持つわけねーだろ。
開発が頭打ちになってきた事の言い訳だろうな。

返信する

こっちが止まっても北朝鮮やロシア中国がここぞとばかりに開発を急ぐだけなんだよね…
原爆の時と同じになると思うわ。アホの独裁国家が先に開発したら手に負えないからこっちが先に開発して公開するって事になると思うな。

そして原爆の時ように一回とんでもない自体が起きるんじゃねーかなとも思う。本当にヤバいかもしれんよ…

返信する

AIなんて物理的に身を守るすべをもってないから壊されて終了でしょｗｗ

返信する