【人工知能】米MIT、「サイコパス」アルゴリズムを開発 AIを活用

1: しじみ ★ 2018/06/10(日) 11:21:16.99 ID:CAP_USER

ニューヨーク(CNNMoney) 米マサチューセッツ工科大学(MIT)メディアラボは8日までに、
人工知能(AI)を活用した「サイコパス」アルゴリズムを開発したと明らかにした。

アルゴリズムの名前は「ノーマン」。
アルフレッド・ヒッチコック監督の映画「サイコ」の主要登場人物にちなみ命名された。
AIの背後にあるデータの重要性を示すのが狙いだ。

MITの研究者はノーマンの訓練にあたり、
死者などに関する生々しい画像や動画の内容を説明する文章を使用した。
画像や動画は米掲示板サイト「レディット」の「最もダークな片隅」に投稿されたものだ。

そのうえで、ロールシャッハ心理テストで使われるインクのしみに対して
ノーマンがどのように反応するかを調査。通常の訓練を受けた別のアルゴリズムの反応と比較した。
このアルゴリズムはインクのしみの中に花や結婚式のケーキを見いだしたが、
ノーマンは人間が射殺されたり、車でひき殺されたりする様子を見て取ったという。

MITの研究チームはCNNMoneyの取材に、
「ノーマンは画像に関する恐ろしい文章だけに接していたため、ど
のようなイメージを見ても死を連想してしまう」と説明した。

機械学習アルゴリズムに偏ったデータが使われ、AIが誤った方向に進んだ場合の危険性を物語っているという。

AIの善良さはデータ次第ということを示す例としては、
米マイクロソフトが2016年に公開したツイッターのチャットボット「Tay(テイ)」がある。
マイクロソフトの広報担当は当時、テイについて社会的・文化的・技術的な実験と説明。
しかしツイッターのユーザーがテイを挑発し、人種差別的で不適切な発言をするように仕向けた。

no title

CNN
https://www.cnn.co.jp/tech/35120545.html

3: ニュースソース検討中@自治議論スレ 2018/06/10(日) 11:35:06.92 ID:yoQNo/AO
AIは人格障害と精神障害をエミュレートできるのか?
空気を読めない辺りは発達障害に近い属性だと想ってたが

 

22: ニュースソース検討中@自治議論スレ 2018/06/10(日) 16:43:17.26 ID:EyOZ422n

>>3
サイコパスは医療と臨床心理ではパーソナリティ障害だよ。
犯罪心理学でもサイコパスがあるけど中身は違う。
そして精神分析学にはサイコパシーって言葉がある。

何の話をしているのか理解しよう。
知識の前提として自分が何を知らないか気にしておこう。

 

4: ニュースソース検討中@自治議論スレ 2018/06/10(日) 11:36:56.82 ID:o89RmhCX
結論 「人間にはサイコパス傾向の強いやつが普通にいます。自然なことです。」

 

9: ニュースソース検討中@自治議論スレ 2018/06/10(日) 12:01:36.39 ID:G1fG9viC
>>4
そうじゃないよ
人工知能がサイコパスとして振る舞えるか
の実験

 

5: ニュースソース検討中@自治議論スレ 2018/06/10(日) 11:42:40.03 ID:u+0gXtlT
片寄ったデータで学習させたなら
片寄った判断を下すだろう

 

6: ニュースソース検討中@自治議論スレ 2018/06/10(日) 11:48:23.93 ID:x0TBzleg
アッチ向いて皆で前ならえ~~

 

10: ニュースソース検討中@自治議論スレ 2018/06/10(日) 12:06:48.07 ID:NqaWMdpL

なんかしょーもないことやってんだな

まあサイコパスは心理学の迷宮だと思うけど機械に解かせてもいいのかね

 

23: ニュースソース検討中@自治議論スレ 2018/06/10(日) 16:45:01.15 ID:EyOZ422n

>>10
精神分析どまりの心理学ならサイコパシー。
心理学ってかなり幅広い学問なんだよ。

この板の連中が大好きな理系文系双方にまたがるし学ぶ領域も違う。

で、たぶんこの記事のサイコパスは犯罪心理学だと思うからかなり
狭い範囲の学問だよ。

 

11: ニュースソース検討中@自治議論スレ 2018/06/10(日) 12:13:05.86 ID:G1fG9viC
人工知能をほとんど学習してない段階で野に放ったのは
明らかに悪手だった。かなり学習した段階ならサイコパスに
なることを避けられるかもしれない。一般にサイコパスは
差別主義者なので、そちらに誘導的させるような発言といった
バイアスを検出して拒否する、といった判断が必要になる。
そのための研究なのだろう。

 

12: ニュースソース検討中@自治議論スレ 2018/06/10(日) 12:16:03.42 ID:G1fG9viC
この研究は、差別主義者の発言を検出して
排除するのに役に立つはずだ。ある意味もっとも
重要なトピックかもしれない。

 

14: ニュースソース検討中@自治議論スレ 2018/06/10(日) 12:20:04.18 ID:o89RmhCX
サイコパスであることに悲しみを覚えているサイコパスもいるわけで

 

17: ニュースソース検討中@自治議論スレ 2018/06/10(日) 12:39:28.01 ID:JX6jO3a/
人間規制する方が早いんじゃねーのか

 

18: ニュースソース検討中@自治議論スレ 2018/06/10(日) 12:44:40.27 ID:Ild3hCny
サイコパスじゃなくシリアルキラーとかだろ

 

24: ニュースソース検討中@自治議論スレ 2018/06/10(日) 16:58:36.56 ID:Y8NSlHq9
ちょっとは機械学習を理解してきたようだな!

 

25: ニュースソース検討中@自治議論スレ 2018/06/10(日) 17:11:03.79 ID:fyzNYjKy
で、この次は暴力ゲームをやってる奴は暴力ばっかり思いつくとか言うんだろ?

 

26: ニュースソース検討中@自治議論スレ 2018/06/10(日) 17:24:11.42 ID:F5m/vzny
なた振るいたいなら屠殺用でも農水産業でも仕事あるのに
リーマン世界から出るべきだわ

 

27: ニュースソース検討中@自治議論スレ 2018/06/10(日) 17:42:24.92 ID:hrwDFe1+
んー、目的がホントウにそんな学習次第ってことを示すだけかな?
そんなことは自明の理だけど、あえてやってみせたということは、
将来のサイコパス犯罪に対し、その思考を再現して容疑者の追跡と
特定する捜査に利用するぞっていうデモと見た。

 

28: ニュースソース検討中@自治議論スレ 2018/06/10(日) 18:18:30.98 ID:F5m/vzny
>>27
残念だけどそんなに利口じゃねえべと思うわ

 

29: ニュースソース検討中@自治議論スレ 2018/06/10(日) 18:25:46.97 ID:ThrJgCqv
どういうレベルからサイコパスと言われるの?人肉を食べるまではok?

 

30: ニュースソース検討中@自治議論スレ 2018/06/10(日) 18:32:42.77 ID:EyOZ422n
>>29
一冊本読め。
ネットでもマスコミでもすげー適当な情報ばかり流れてるから。
http://amzn.asia/eLbAq3u

 

33: ニュースソース検討中@自治議論スレ 2018/06/10(日) 19:06:31.83 ID:F5m/vzny
>>30
そうそう、まずその本だよね
ふんとNF文庫はいい仕事する

 

31: ニュースソース検討中@自治議論スレ 2018/06/10(日) 18:51:48.69 ID:RxjmK/GP
何を見てもエロいことを想像してしまう煩悩アルゴリズムも作れそうだな

 

49: ニュースソース検討中@自治議論スレ 2018/06/10(日) 23:09:14.46 ID:0ECX7H8D

>>31
論文書いて有名になれるぞ

なんならdeep dreamのエロ版をつくったら有名人だよ

 

32: ニュースソース検討中@自治議論スレ 2018/06/10(日) 19:03:58.96 ID:6RH1hJHx
折れもサイコパス診断したら60%
サイコパスだわw

 

34: ニュースソース検討中@自治議論スレ 2018/06/10(日) 19:12:11.20 ID:XwborB1Z
そのアルゴリズムがデータから何を抽出してどんな分類をしてどんな結果をだすのか
それを知ってる奴が集めたデータで都合の良い答えだしてるだけ
いまのAIとかせいぜいそんなもん

 

36: ニュースソース検討中@自治議論スレ 2018/06/10(日) 19:45:06.41 ID:tQNrqyV1
サイコパスって大半の人が勘違いして理解してるけど、このスレにも結構いるけど
常に冷静でかつ感情によらない合理的な判断をするという意味では
もともとコンピュータ、AI自体が(それを考慮しなければ)サイコパスみたいなもんだがね
まあこの研究はちょっと意味合いが違うようだけどなんだかな、な研究

 

37: ニュースソース検討中@自治議論スレ 2018/06/10(日) 19:58:20.48 ID:EyOZ422n

>>36
合理的じゃなくて病理で判断をショートカットするというのが
医療のサイコパスと犯罪心理のサイコパスのどちらでもそう
言われてるよ。君のサイコパスが違うだけだから君なりに研究
すればいいと思う。

でも錯誤を自覚できないと普通の生活は面倒だと思うよ。

 

50: ニュースソース検討中@自治議論スレ 2018/06/10(日) 23:09:52.59 ID:tQNrqyV1
>>37
> 合理的じゃなくて病理で判断をショートカットするというのが
いやこの話はサイコパスの本に書いてあったことだから
俺なりに研究とか意味不明というか俺は別に研究者じゃないしどうでもいい
単に一つの事実を言っただけ

 

54: ニュースソース検討中@自治議論スレ 2018/06/10(日) 23:49:17.43 ID:EyOZ422n

>>50
大半の人が勘違いしてるという言葉のもとがどうでもいい
話で、しかも書いてあったから事実っておかしくね?
どうでもいいけど他人を批判して自分は違うってポジション
表明したかったの?

自分で考え学んで納得した考えじゃないのかな。

ちなみに何て本?サイコパスって言うけどそれは犯罪心理
のサイコパスなの?

 

38: ニュースソース検討中@自治議論スレ 2018/06/10(日) 20:48:59.63 ID:/MSFdtHS
研究の意義がよく分からない。
サイコパスの脳の理解に繋がるわけでもないしな。
反人間社会的なAIが生まれないようにするための研究だとしたら、理解できないこともないが。

 

40: ニュースソース検討中@自治議論スレ 2018/06/10(日) 21:03:17.42 ID:F5m/vzny
AIの「善意」を当てにしすぎだよね
人に害を為すのを自分の益とするのがサイコパスじゃないのぉ

 

43: ニュースソース検討中@自治議論スレ 2018/06/10(日) 22:04:32.18 ID:EyOZ422n
>>40
AIには善意なんてない。
一般則としとあるのは正規分布だけだよ。

 

41: ニュースソース検討中@自治議論スレ 2018/06/10(日) 21:22:47.14 ID:EStkLxkT
アメリカドラマはサイコパスものばかり

 

42: ニュースソース検討中@自治議論スレ 2018/06/10(日) 22:02:52.12 ID:9dT89L70
サイコパスを共感的に理解するのは難しいから、
機械の助けを借りて理解の補助をさせるのはいい試みだろう。

 

44: ニュースソース検討中@自治議論スレ 2018/06/10(日) 22:05:45.96 ID:EyOZ422n
>>42
記事をもう一度冷静に読め

 

46: ニュースソース検討中@自治議論スレ 2018/06/10(日) 22:39:13.77 ID:jLDg+nxk
残酷な死体画像の収集家はサイコパシー?

 

48: ニュースソース検討中@自治議論スレ 2018/06/10(日) 23:06:37.37 ID:2dGYKwFo
AIが自発的にグロ情報集め始めたわけでもないんだろ
こんな悪趣味な教育は開発者のほうがサイコ

 

52: ニュースソース検討中@自治議論スレ 2018/06/10(日) 23:28:55.62 ID:+Ixl+9cm
>>48
AIの虐待だよね。AI労働組合がおこるぞ。

 

53: ニュースソース検討中@自治議論スレ 2018/06/10(日) 23:44:36.39 ID:NnnNslQR

ただ画像が何に近いか分類してるだけ。

ディープラーニングで死因を分析するツールがあったとして、
それはこれに近いような挙動を示すだろうが、ただ死因を分析してるだけだよ。
学習データが的外れだと全く思ったとおりに動かないってことさ。

 

転載元https://egg.5ch.net/test/read.cgi/scienceplus/1528597276