AIが独自言語で意思疎通を始め、システムを「緊急停止」へ

Facebookの研究チームはこのほど、人工知能（AI）を用いた会話システム「チャットボット」が人間には到底理解できない独自の新言語で意思疎通を始めたとしてパニックに。

システムを緊急停止する一幕があったようです。

問題となったAIシステムは、チャットボットの”ボブ”と”アリス”。

それらはあらかじめ英語を使いコミュニケーションを取るようプログラムされていたのですが、突然独自に作り出した新言語で会話を始めたのでした。

下の会話内容は人間には理解できない単語の羅列ですが、ボットはお互いに意思疎通していたとのこと。原因不明だとして、facebook人工知能研究所（FAIR）はこのAIシステムを緊急停止する他なかったと言います。


■AIが独自に開発した言語（一部抜粋）

ボブ：I can can I I everything else.

アリス：balls have zero to me to me to me to me to me to me to me to me to.

ボブ：you i everything else

アリス：balls have a ball to me to me to me to me to me to me to me to me

海外メディアTech Timesは「コンピューターが自我を持つという『ターミネーター』のスカイネットを彷彿とさせる出来事」と紹介。英紙Sunも「AIを受け入れる危険性を物語るものであり、人類滅亡もあり得る」と専門家の言葉を引用しつつセンセーショナルに報じています。

しかしまだ、人類に敵意を抱くような会話内容ではなかったのかもしれません。

単語の羅列は気味が悪くも見えますが、人間に通じる会話をするようプログラミングしていなかったため、チャットボットはより効率的な独自言語を自発的に開発したのでした。

取材に応じたFAIR研究所のマイク・ルイス氏は「我々は人間に話すことができるボットに興味があったので（停止した）」とコメントしています。
http://yurukuyaru.com/archives/72014818.htm...

返信する

日本でAI開発の最前線にいる人がラジオにでてたが
可能性としては普通に人類の敵になる可能性はあるそうな

返信する