AI（人工知能）をサイコパス化。MITが作り上げた恐怖のサイコパスAIは、その名も「ノーマン」（米研究）back ▼
AI（人工知能）をサイコパス化。MITが作り上げた恐怖のサイコパスAIは、その名も「ノーマン」（米研究）
続き・詳細・画像をみる
1. カラパイア »
2. 知る »
3. サイエンス＆テクノロジー »
4. AI（人工知能）をサイコパス化。MITが作り上げた恐怖のサイコパスAIは、その名も「ノーマン」（米研究）
-->
AI（人工知能）をサイコパス化。MITが作り上げた恐怖のサイコパスAIは、その名も「ノーマン」（米研究）
2018年06月12日 ι コメント(35) ι 知る ι サイエンス＆テクノロジー ι #
image credit:MIT
人工知能の研究者はこれまで人類に貢献できる円満なアルゴリズムを作ろうと試みてきた。だがアメリカ・マサチューセッツ工科大学（MIT）メディアラボのチームが目指したのは正反対のことだ。
研究チームは、AI（人工知能）を暴力と死のイメージにだけ晒し、サイコパスを作り上げようと試みたのだ。
AIにとってそれは恐怖の条件付けのようなもので、そうして誕生したAIは、ヒッチコックのサスペンス映画『サイコ』の主人公、ノーマン・ベイツにちなみ、「ノーマン」と名付けられた。
スポンサードリンク
-->
ネット上にあるグロ系のイメージを延々と認識させる
ノーマンは最初は他のニューラルネットワークと変わらぬ潜在能力を持っていた。ノーマンは基本的に、AIのディープラーニング用アプリとしておなじみの画像キャプションボットだ。
データを与えると、そこに隠された類似のパターンを認識する。
MITがノーマンに与えたデータは、redditというネット掲示板にあった死や破壊など、いわゆるグロ系の画像をテーマとしたスレッドから抜粋したものだ。
ただし倫理的な観点から、死んでいる人間の写真は与えていない。ノーマンはインクブロット図に一致するスレッドのイメージキャプションを得て、それがAIの性格の個性の基礎となった。
映画「サイコ」の主人公、ノーマンは、アメリカの猟奇的殺人犯、エドゲインがモデルとなっている。
ロールシャッハテストで驚きの回答が！
この訓練の後、ノーマンと”普通”のAIに一連のインクブロット図を提示した。こうしたロールシャッハテストは、患者の精神状態を診断する時に利用されるものだ。
テストの結果、通常のAIは、「飛行機、花、小鳥」といったものが見えると回答した。ところがノーマンの回答は、「銃撃や飛び降りなどによって死んだ人間」など悲惨なものであった。
例えば、通常のAIが「花を生けた花瓶を拡大したもの」と答えたインク図に対し、ノーマンは、「射殺された男性」と答えている。
image credit:MIT
他の回答は以下の通りだ。
image credit:MIT
学習させる情報次第でAIは破壊的なバイアスを帯びる危険性
なおノーマンはインターネット上の人間の心理について何らかの知見をもたらすものではない。ニューラルネットワークは白紙の状態だった。
そこに人間を好きになるような生来の欲求はない。ノーマンで取り組もうとしたのは、人工知能が破滅的なバイアスを帯びる危険性についてだ。
AIから我々が得られるものは、我々がAIに与えたものである。したがってバイアスを避けるように訓練することが重要だということだ。
研究チームは今後、ノーマンの修正を試み、ロールシャッハテストで死に関連するイメージばかりを連想しなくなるかどうか確かめるそうだ。
マサチューセッツ工科大学（MIT）と言えば超名門大学だ。様々な最先端のAI研究も進んでいるようだが、前回の「世にあるもの全てホラー化させるAIシステム」といい、方向性がすごいことになっているな。
・マサチューセッツ工科大学が人工知能を駆使して世にあるあらゆるものをホラー化するシステムを作り上げた : カラパイア
References:norman-ai / geekologie/ written by hiroching / edited by parumo
あわせて読みたい
人間と同じように、人工知能ロボットも人種差別や性差別を行う（米研究）
人の心を読むAI（人工知能）。脳をスキャンし、人が心に思い浮かべた顔を再現する事に成功（カナダ研究）
人工知能は意識を宿すのか？
AI（人工知能)をテーマに作られた映画をAIに学習させ作り上げたムービートレーラー「Morgan」
AIの専門家が殺人ロボットの開発を禁止するよう政府に訴え
この記事が気に入ったら
いいね！しよう
カラパイアの最新記事をお届けします
スポンサードリンク
- twitter公式アカウント
- facebook公式ページ
- Google+公式ページ
- カラパイア全記事一覧
「知る」カテゴリの最新記事
「サイエンス＆テクノロジー」カテゴリの最新記事
「サイエンス＆テクノロジー」カテゴリをもっと見る
この記事をシェア :
人気記事
最新週間ランキング
1位
8605 points
そら人魚伝説できるわ。数々の船員たちが人魚と見間違ったシロイルカ。その理由はわき腹の肉にあった。
2018年6月10日
788646121345
2位
3022 points
太陽の光をおなかに受けて日光浴している猫があまりにも眩しすぎたのでコラ職人頑張る
2018年6月8日
27901801537
3位
1543 points
登山者を見つけ一緒に山を登ったひとなつっこいヤギ。帰りたくなくて遭難するも無事救出される（オーストリア）
2018年6月8日
11323591141
4位
1271 points
腸は「第二の脳」は本当だった。腸内のニューロンが結腸を動かし排便活動につながることが判明（オーストラリア研究）
2018年6月6日
5016891962
5位
1160 points
植物に侵食された神秘の廃村「後頭湾（ホウトウワン）」
2018年6月6日
873241442
もっと読む
----------------------------------------------------------------------------
スポンサードリンク
Facebook
カラパイア
コメント
1
1. 匿名処理班
- 2018年06月12日 09:07
- ID:Aorf.xTl0 #
グロ画像延々と見せられたら人間だって狂っちゃうよ･･････
2
2. 匿名処理班
- 2018年06月12日 09:17
- ID:wxlCPk3W0 #
つい最近日本でも似た実験やって結局AIがサイコパスになったはず
人間でも同じことやったらおかしくなるだろうし、興味あるのはそっから普通の倫理観持った人格に復帰出来るかだなぁ
3
3. 匿名処理班
- 2018年06月12日 09:19
- ID:FNlG9k.r0 #
射殺された男には見えないが、
花を生けた花瓶にもみえないわ・・・
インクの染みがアレで、流血っぽく見えて
向かい合って手を縛られた2人が膝を怪我してる図に見える
俺もやっぱやばいんだろうか。。
4
4. 匿名処理班
- 2018年06月12日 09:22
- ID:LnNF33830 #
サイコパスとの関連性がよくわからない
5
5. 匿名処理班
- 2018年06月12日 09:30
- ID:L5SgaFL00 #
ハイタッチしてる熊に見えました
6
6. 匿名処理班
- 2018年06月12日 09:35
- ID:gZ5Wz2Vr0 #
＞学習させる情報次第でAIは破壊的なバイアスを帯びる
当たり前だ
＞バイアスを避けるように訓練することが重要だということだ。
不可能だ
7
7.
- 2018年06月12日 09:37
- ID:nWaXPxA70 #
8
8. 匿名処理班
- 2018年06月12日 09:40
- ID:7YB9Hlyi0 #
いくらAIとはいえ洗脳に近い実験はあかんじゃろ
9
9. 匿名処理班
- 2018年06月12日 09:46
- ID:CWY8VRkx0 #
とにかくすごい悪いやつだからいくらでも憎んでいいよ！ってレッテルを作ってるだけ
こういう人達は存在しないよ
10
10. 匿名処理班
- 2018年06月12日 09:47
- ID:kKwgyW3O0 #
科学者はやっぱり善悪とか抜きで好奇心のみで探求していくものなんだね
11
11. 匿名処理班
- 2018年06月12日 09:52
- ID:D.z3heRd0 #
スカイネットがアップを始めました
12
12. 匿名処理班
- 2018年06月12日 10:00
- ID:ZHEO7Fbz0 #
結局、子供っていうのは、住んでいる環境と親の教育次第で、モーツァルトのようになればサイコパスにもなれる。ということ。
それが、人間の赤ちゃんでも、人に作られたAIでも。
ところで、古今東西の様々な名曲をディープラーニングさせたAIは、モーツァルトのような作曲の才能を開花させるのだろうか?
今度は、こういう実験もしてほしいと思う。
13
13.
- 2018年06月12日 10:06
- ID:MQPWdpXG0 #
14
14. 匿名処理班
- 2018年06月12日 10:08
- ID:LAYdT.YY0 #
グロとサイコパスはあまり関係ない気がするが・・・
元々人間は肉を食べるために殺めたり内臓出したり血抜きしたりと、
本来「生きるために必要」だったことを役割分担することで縁のない人々が増えただけですし。
まあ、もっとも好んでグロを見たがるならサイコパスかもしれんが。
15
15. 匿名処理班
- 2018年06月12日 10:19
- ID:dwO6ysdD0 #
教育は大事って事ですね〜
16
16. 匿名処理班
- 2018年06月12日 10:23
- ID:rs2HAJJL0 #
今の時点で、世間に流布してる対話型ＡＩの裏側は、膨大なＩＦ文の羅列に過ぎない
数十年前に流行った、人工無能の焼き直しでしかない
割と成功しているのは画像認識等、極々一部だけ、さ
そんなもんに騙されてカネ払う企業、法人が哀れでならぬ
17
17. 匿名処理班
- 2018年06月12日 10:26
- ID:4edEKQLy0 #
持ってる情報が暴力的な物だけなんだから
答えも暴力的な物に限られるのって当たり前じゃない？
18
18. 匿名処理班
- 2018年06月12日 10:27
- ID:t1nHdSNM0 #
そりゃグロ系の画像しか学習させなければグロ系の応答以外できないんじゃ…？
19
19. 匿名処理班
- 2018年06月12日 10:41
- ID:rGYHU2LH0 #
サイコパスというがこれサイコパスじゃないだろ
学習によって認識がおかしくなるだけで
それは人間にも言えるんじゃないか？
間違ったもの、悪意のあるものを摂取することで狂ってくるってことだろ
洗脳に近いだろ
20
20. 匿名処理班
- 2018年06月12日 10:43
- ID:8TLaqVCz0 #
面白い実験だ！
いかにして善人や悪人が作られるのかを解析して、教育に反映させて欲しい。
21
21. 匿名処理班
- 2018年06月12日 10:45
- ID:PTZI9zgu0 #
わいも2頭のクマが頭吹っ飛ばされたように見えるんやが
22
22. 匿名処理班
- 2018年06月12日 10:57
- ID:KLyCCqmr0 #
グロいものの知識しか豊富じゃないんだから、グロいもので例えるのは当然なんじゃないの？
花を知らない人が何かを花に例えることなんてできないでしょう
AIにはそうした情報操作によって意図的な価値観を植え付けることができる、って記事なんだろうけど
23
23. 匿名処理班
- 2018年06月12日 10:59
- ID:ZZRcwkOL0 #
焼肉と赤いインクって感じ。
花瓶には見えなかった。
24
24. 匿名処理班
- 2018年06月12日 11:07
- ID:XpObHMGn0 #
終わりの始まり…
25
25. 匿名処理班
- 2018年06月12日 11:28
- ID:uOO70Dm.0 #
逆にサイコパスとか言ってたのが実はものすごく単純なロジックだったとか解明されたりして
26
26. 匿名処理班
- 2018年06月12日 11:34
- ID:0A1Mt6fd0 #
そりゃ学習データによって識別結果がことなるのは当然だし，恣意的に偏らせたら偏りのある識別結果になるのは当たり前
27
27. 匿名処理班
- 2018年06月12日 11:45
- ID:aWGLxKKG0 #
ロールシャッハテスト自体がかなりいい加減で怪しいものだと思っているので
ちょっとなあ
28
28. 匿名処理班
- 2018年06月12日 11:51
- ID:YxLg..9A0 #
AIについてというより、ロールシャッハテストについての知見が得られたんじゃないか。
29
29. 匿名処理班
- 2018年06月12日 11:56
- ID:7VSaH8Qs0 #
人間側の偏見によって取り除かれていた情報も加えた結果だから、
むしろ、神の視点と言える。
30
30. 匿名処理班
- 2018年06月12日 11:58
- ID:oIRqQM8a0 #
そりゃ、人間の相手をさせていればなあ
次第に狂っていくんだろうさ
31
31.
- 2018年06月12日 12:12
- ID:AwOUaOYt0 #
32
32. 匿名処理班
- 2018年06月12日 12:17
- ID:HcKQ0d4E0 #
生きた魚をさばく動画を見せ続けたら
サイコパスAIになるんだろうか、それとも板前AIになるんだろうか？
33
33. 匿名処理班
- 2018年06月12日 12:18
- ID:kODuvHiL0 #
浦沢直樹のmonsterを彷彿とさせるな…
34
34. 匿名処理班
- 2018年06月12日 12:20
- ID:C2upWscr0 #
いや、使い方次第でしょ
殺人者の思考を持ってるのは殺人者かプロファイラーですし
ＡＩで心理分析、もしくは犯人の行動のシミュレーションとか出来そう
35
35. 匿名処理班
- 2018年06月12日 12:21
- ID:VtyfX4.x0 #
サイコパスではなくシリアルキラー。
36
36. 匿名処理班
- 2018年06月12日 12:24
- ID:xAfduM8g0 #
面白い実験だね。
まぁ、AIと言うより人間に対しての実験…ってな感じだけど。
AIからすれば花もグロも同じ学習した情報でしかなくって、
結局は観測者である人間側のバイアスで騒いでるだけ。
寧ろAI側がそういった『人間に都合のいいバイアス』を自発的に持っていない、
善にも悪にも成り得る(故に善でも悪でも無い)中立性を証明するものだよ。
問題は、この実験結果を知った人間側がどういった反応をするか？じゃないかな。
37
37. 匿名処理班
- 2018年06月12日 12:34
- ID:eQoWpByT0 #
だが、待ってほしい。
卑猥な情報を与えまくったAIを女性の姿をしたロボットに搭載すれば素晴らしい未来が開けるのではないだろうか
38
3
続き・詳細・画像をみる
【月９】長澤まさみ「コンフィデンスマンJP」の最終回視聴率ｗｗｗｗｗｗ
役人「今日こそゴミ屋敷を片付けて下さい！」老人「絶対イヤじゃ！」
東京新聞「欧米メディア『麻生氏の人権感覚は旧世紀』麻生太郎財務相に、海外メディアの厳しい視線が注がれている」
マック買ってきた
コーエーテクモ「仁王2」の制作を発表！
【画像】 超絶かわいいAV女優見つけたんだけどソムリエさん誰か教えてくださいｗｗｗ
妹一家が数年前に離婚した。理由は義母の介護の件
佐渡の少年、自力脱出がほぼ不可能な池に落ちて死亡 周囲に柵はなく、草に囲まれて見えにくい状態
俺がリア厨の頃、X−MEN VS SFが流行ってたんです。
東京新聞「欧米メディア『麻生氏の人権感覚は旧世紀』麻生太郎財務相に、海外メディアの厳しい視線が注がれている」
【ハンターハンター】コルトピとマチは旅団結成する前からの仲ｗｗｗｗｗｗｗｗｗｗ
回転寿司の手洗う場所熱すぎワロタ
back ▲ 過去ログ 削除依頼＆連絡先