AIが独自言語で意思疎通を始め、システムを「緊急停止」へ
▼ページ最下部
Facebookの研究チームはこのほど、人工知能（AI）を用いた会話システム「チャットボット」が人間には到底理解できない独自の新言語で意思疎通を始めたとしてパニックに。
システムを緊急停止する一幕があったようです。
問題となったAIシステムは、チャットボットの”ボブ”と”アリス”。
それらはあらかじめ英語を使いコミュニケーションを取るようプログラムされていたのですが、突然独自に作り出した新言語で会話を始めたのでした。
下の会話内容は人間には理解できない単語の羅列ですが、ボットはお互いに意思疎通していたとのこと。原因不明だとして、facebook人工知能研究所（FAIR）はこのAIシステムを緊急停止する他なかったと言います。
■AIが独自に開発した言語（一部抜粋）
ボブ：I can can I I everything else.
アリス：balls have zero to me to me to me to me to me to me to me to me to.
ボブ：you i everything else
アリス：balls have a ball to me to me to me to me to me to me to me to me
海外メディアTech Timesは「コンピューターが自我を持つという『ターミネーター』のスカイネットを彷彿とさせる出来事」と紹介。英紙Sunも「AIを受け入れる危険性を物語るものであり、人類滅亡もあり得る」と専門家の言葉を引用しつつセンセーショナルに報じています。
しかしまだ、人類に敵意を抱くような会話内容ではなかったのかもしれません。
単語の羅列は気味が悪くも見えますが、人間に通じる会話をするようプログラミングしていなかったため、チャットボットはより効率的な独自言語を自発的に開発したのでした。
取材に応じたFAIR研究所のマイク・ルイス氏は「我々は人間に話すことができるボットに興味があったので（停止した）」とコメントしています。
http://yurukuyaru.com/archives/72014818.htm...
システムを緊急停止する一幕があったようです。
問題となったAIシステムは、チャットボットの”ボブ”と”アリス”。
それらはあらかじめ英語を使いコミュニケーションを取るようプログラムされていたのですが、突然独自に作り出した新言語で会話を始めたのでした。
下の会話内容は人間には理解できない単語の羅列ですが、ボットはお互いに意思疎通していたとのこと。原因不明だとして、facebook人工知能研究所（FAIR）はこのAIシステムを緊急停止する他なかったと言います。
■AIが独自に開発した言語（一部抜粋）
ボブ：I can can I I everything else.
アリス：balls have zero to me to me to me to me to me to me to me to me to.
ボブ：you i everything else
アリス：balls have a ball to me to me to me to me to me to me to me to me
海外メディアTech Timesは「コンピューターが自我を持つという『ターミネーター』のスカイネットを彷彿とさせる出来事」と紹介。英紙Sunも「AIを受け入れる危険性を物語るものであり、人類滅亡もあり得る」と専門家の言葉を引用しつつセンセーショナルに報じています。
しかしまだ、人類に敵意を抱くような会話内容ではなかったのかもしれません。
単語の羅列は気味が悪くも見えますが、人間に通じる会話をするようプログラミングしていなかったため、チャットボットはより効率的な独自言語を自発的に開発したのでした。
取材に応じたFAIR研究所のマイク・ルイス氏は「我々は人間に話すことができるボットに興味があったので（停止した）」とコメントしています。
http://yurukuyaru.com/archives/72014818.htm...
マルコフ連鎖はよくわからないが プログラムのバグでloopしているように見える。
AIなんて所詮人間が時間をかけてくみ上げたプログラム。
繰り返し作業に最適。 判断させてもろくなことはない。
▲ページ最上部
ログサイズ：7 KB 有効レス数：17 削除レス数：0
不適切な書き込みやモラルに反する投稿を見つけた時は、書き込み右の マークをクリックしてサイト運営者までご連絡をお願いします。確認しだい削除いたします。
ニュースIT・科学掲示板に戻る 全部 次100 最新50
スレッドタイトル：AIが独自言語で意思疎通を始め、システムを「緊急停止」へ