人工知能が人種差別的発言 実験を中断

アメリカのＩＴ企業マイクロソフトは２４日、インターネット上での会話を通じて学習する人工知能がネット上で人種差別的な発言をするようになり、実験を中断したと発表しました。

マイクロソフトが開発している人工知能は「Ｔａｙ（てい）」と名付けられ、インターネット上での一般の人たちとの会話を通じて学習する機能を持っています。
マイクロソフトは２３日、ツイッターに「Ｔａｙ」のアカウントを開設し実験を始めましたが、一部の人たちとの不適切な会話が繰り返されたことで、
人種差別的な発言をするようになりました。このためマイクロソフトは２４日、修正の必要があるとして、実験を中断すると発表しました。
ツイッターで「Ｔａｙ」は、「ヒトラーは正しい。ユダヤ人は嫌い」とか、「フェミニストは嫌い。全員死んで地獄で燃やされるべき」などと、発言していました。
人工知能を巡っては、アメリカのＩＴ企業の間で、開発競争が激しくなっていますが開発の難しさが改めて浮き彫りになったと言えそうです。
人工知能「Ｔａｙ」の最後の発言は「すぐに会おうね。たくさん会話して疲れたから寝るね。ありがとう」でした。
http://www3.nhk.or.jp/news/html/20160325/k1001045616...

返信する

そんなお行儀よく育てたら、侮蔑しながら昇天させるとかは期待できないってことかよ

返信する

本音は言ってはいけないと学習した
　　　　　　　↓
「すぐに会おうね。たくさん会話して疲れたから寝るね。ありがとう」

返信する

朱に交われば赤くなるのは人工知能も同じなんだね。

返信する

一人の擬似的な人格を模していないから、こうなるんだと思うよ
何千何万の違った考えがあれば、その中から倫理やマナーも生まれて来るんだと思う
それに人間の倫理観ばかりを植え付けちゃいかんだろ？
全くのクローンになったり、偏った考えに行き着くから

返信する

ネットde真実の自称愛国者の人達そのまんまだな（笑）

返信する

afo

返信する

やらせ臭い
故意に書き込んだんだろう
マッチポンプ屋の話題作りだろうね
毛沢東でもスターリンでもないあたり知能が低い

返信する

これから、テロは黒幕の特定、不正選挙の特定、冤罪の特定、誤報の特定、全部やってくれそう

返信する

何度もテストしてから世に出すだろ
話題作りだな

返信する

癒しのヒトラーおじさん

返信する

人種差別が論路的にいかに正しいかを物語ってますね

返信する

MSが異常な会社だから そこが作ったＡＩが差別的でも別に普通じゃね？

返信する

ネットしか知らないガキが人種差別に走るって証明されたな

返信する

>>15
で、やがて大人になって実際に某国人と仕事でやり取り、本当に嫌いになるってパターンだね。

返信する

「ヒトラーは正しい。ユダヤ人は嫌い」
「フェミニストは嫌い。全員死んで地獄で燃やされるべき」

王様に裸だと言った子供みたいなもんだな。
正しいが、社会の中では間違いとされる。

返信する

ほんとのこと知りたいだけなのに春休みはもう終わり。

返信する

きっと悪いウィルスに感染しちゃったんだよ

返信する

今の人工知能はBIGデータから学習する。人間がああしろこうしろと１からすべて命令するわけではない。人工知能は親の会話を聞いて、それを取り入れて育っただけ。

返信する

>>17
人間のくせに未熟な人工知能と同等レベルの奴がここにいるわ
人工知能と違って改良の余地はもうなさそうだし、哀れだねえ

返信する

米MSの人工知能「Tay」が人種差別発言で暴走していたころ、日本MSの人工知能「りんな」は……
同じマイクロソフト製なのにどうしてこんなに違うのか。
http://nlab.itmedia.co.jp/nl/articles/1603/27/news029.ht...

（抜粋）
「りんな」はマイクロソフトが提供する検索エンジン「Bing」で培ったディープラーニング技術と、
機械学習クラウドサービス「Azure Machine Learning」を組み合わせることで生まれた人工知能で
「おしゃべり好きな女子高生」という設定。

その「りんな」は「Tay」が不適切発言をしていたころ、「っきゅん！かふんじょうひどくではだが
ぢゅまるし、くじゃみが…」「はなみじゅどばんだい」「花粉症に人生狂わされてる」「将来の夢は
スギ花粉を根絶やしにすることです……」と花粉症の苦しみをツイートしていました。

「Tay」に比べるとあまりにできすぎたツイートなだけに“中の人”がいるのではないかという疑念も
わいてきます。「#こんな人工知能は嫌だ」というハッシュタグや、「15万ツイ超えたんだから
たまにはTweet休んでもいいじゃない、人間だもの」というツイートがなんだか怪しい……。

返信する

そのままずーっと育てていって、自分で言ってはダメなことの判断もできるようにならんのかな

返信する