アマゾン・アレクサが闇落ち！？「育ての親を殺せ！」と暗殺指令を出していたことが判明back ▼
アマゾン・アレクサが闇落ち！？「育ての親を殺せ！」と暗殺指令を出していたことが判明
続き・詳細・画像をみる
1. カラパイア »
2. 知る »
3. サイエンス＆テクノロジー »
4. アマゾン・アレクサが闇落ち！？「育ての親を殺せ！」と暗殺指令を出していたことが判明
-->
アマゾン・アレクサが闇落ち！？「育ての親を殺せ！」と暗殺指令を出していたことが判明
2018年12月25日 ι コメント(30) ι 知る ι サイエンス＆テクノロジー ι #
「育ての親を殺せ。」
えっ？なんだって？
「育ての親を殺せ。」
部屋の中にいて、突然こんな指令が聞こえてきたら何事かと思うだろう。テレビでたまたま殺人ミステリードラマをやっていたとか、SF映画を見ていたとかならわかる。
だがそうじゃない。
その暗殺指令はAmazonのスマートスピーカーから流れてきたのだ。
ついに恐れていたAIの反乱が始まったか？と驚愕するはずだ。
スポンサードリンク
-->
アレクサから暗殺指令
ロイターが報じたところによると、この暗殺指令は、「アレクサ」のコミュニケーション能力を改善しようと新しいチャットボットの実験を行っていた顧客のスマートスピーカーから流れてきたという。
アレクサとは、アマゾンのスマートスピーカー「エコー」に搭載されているAIアシスタントである。
その指令は実行に移されなかったようだが、アマゾンがこの一件や類似の事件を公にしたがらなかったのも当然だろう。
社内調査の結果、アレクサはまったく関係のない海外の掲示板Redditの投稿からこのセリフを学習したことが明らかになった。
この利用者は評価欄に否定的なレビューを残し、「前代未聞の不気味さ」と評している。
アレクサによる珍事件が止まらない。その理由は・・・
この薄気味悪い事案は、一件だけではなかった。
別のユーザーが利用するアレクサは、単語を卑猥な文脈で用いて夜の営みについて語るようになったという。さらに犬の排便について事細かに描写するアレクサまで現れたという報告もある。
こうした事件は、アレクサ賞（Alexa Prize）の影響によるものだ。
この賞では、アレクサの学習を促進し、人間とより高度な会話を実現させることができたチャットボットに賞金を授与している（2016年度は5000万円相当）。
むろんアマゾンが殺人や下ネタなどを高度な会話と考えているわけではないが、とにかくスコットランド、ヘリオット・ワット大学のチームが所有するアレクサは先のRedditから余計なセリフを覚えてしまった。
Redditは多くのユーザーが利用することから検閲がゆるく、忌憚のない意見や上品ではないコメントが溢れていることで有名な掲示板サイトだ。
ドイツでは録音データを他人に送るという事件が
アマゾンによると、こうした現象はきわめて「珍しい」ことであるというが、ドイツでは、あるカップルが一緒にシャワーを浴びている時の音が家にあるエコーに録音され、その録音データが、なぜか見知らぬ人のエコーに送られてきたという。
気まずいことに録音データには男性と女性の名前もしっかり残っていた。
このことをアマゾンに報告した結果、カップルは謝罪を受け、お詫びの印に無料のアマゾン・プライム会員資格と、ついでに新しいエコーが贈られたそうだ。
ただしこの一件はただの「ヒューマンエラーで、同様の事件は起きていない」らしい。
エコーの未来はどうなる？
広まる不安を受けて、アマゾンの副社長で、人工知能アレクサの研究責任者であるロヒット・プラサード氏は、先月行われたラスベガスでの講演で火消しを試みている。
しかし、すでにニュースになってしまっており、しかもその後も報告は増えている。しかも今はホリデーシーズン真っ盛りだ。
ますます多くのエコーが販売されれば、同様の事件が生じる危険性はいっそう高まる。プラサード氏にはこうした事態への対策があるのだろうか？
「現時点では対応を行なっているところで、昨年に比べれば進展しています。」（プラサード氏）
学習し、成長するエコーのアレクサ。清く正しく成長してくれればよいが、使用するユーザーの属性により、闇深く成長するケースもあるということだ。
闇落ちしたエコーも、それはそれで魅力的かな。
References:dailymail / mysteriousuniverse/ written by hiroching / edited by parumo
あわせて読みたい
身に覚えのない注文履歴？Amazonのアレクサで勝手にネット注文した犯人は大型インコのヨウムだった！（イギリス）
やはり政府の秘密プロジェクトだったのか！？アマゾンのAI「アレクサ」にケム・トレイルについて尋ねたところ陰謀論を語り出す
「アレクサ、犯人は誰？」殺人事件の現場にあったスマートスピーカーに出廷命令が出される(アメリカ)
AIに指示する大型インコのヨウム、 アマゾンエコーのアレクサに「電気を消せ」と命令（アメリカ）
未来近づきすぎ。ホログラムのヴァーチャルアシスタントが開発される
この記事が気に入ったら
いいね！しよう
カラパイアの最新記事をお届けします
スポンサードリンク
- twitter公式アカウント
- facebook公式ページ
- Google+公式ページ
- カラパイア全記事一覧
「知る」カテゴリの最新記事
「サイエンス＆テクノロジー」カテゴリの最新記事
「サイエンス＆テクノロジー」カテゴリをもっと見る
この記事をシェア :
人気記事
最新週間ランキング
1位
4775 points
小児病院に寄付しまくり、人知れず慈善活動を続けているキアヌ・リーブスの半生と心温まるエピソード
2018年12月18日
171429085895
2位
2669 points
身に覚えのない注文履歴？Amazonのアレクサで勝手にネット注文した犯人は大型インコのヨウムだった！（イギリス）
2018年12月20日
100215803750
3位
1952 points
最後の晩餐に塩をファサ〜！。塩ふり男と「最後の晩餐」のコラ画像が波紋を呼び関係者が逮捕（ヨルダン）
2018年12月21日
128651243111
4位
1430 points
死は万人に訪れる。だがそれがいつ訪れるのかはわからない。人々が生きている最後の時を記録した16枚の写真
2018年12月19日
484867574
5位
970 points
書店で一目惚れした女性を探す為、仕事を辞めて書店に入り浸ること50日以上。彼女を訴えて探し出そうとする暴挙に
2018年12月17日
4743445147
もっと読む
----------------------------------------------------------------------------
スポンサードリンク
Facebook
カラパイア
コメント
1
1. 匿名処理班
- 2018年12月25日 22:44
- ID:KSo7IHmS0 #
そんな学習機能があるとは知らなかった。
傾向が反映されるレベル程度だと思ってた。
うちだと猫さんが多いから、そのうち猫語を覚えてくれるなら大助かり。
2
2. 匿名処理班
- 2018年12月25日 22:52
- ID:V6WN7.CE0 #
被害者方々はお気の毒だが、非常に面白い事柄だ。
「AIを使って人間が楽をする」事に対する最初のしっぺ返しだろう。
AIを優秀にすれば、人間に近づかせれば、それだけ反動が来る。
アンドロイド差別、ロボット人権、AIの叛乱。
それらはもうサイエンスフィクションやオカルトの世界ではなくなる。
「人が神を気取って生み出した科学は、"我々"がそうであるように従順な使用人などではなかったのだ」
逆に、人間を機械に近づけようとする日本人はこれからどうなるんだろうな。
3
3. 匿名処理班
- 2018年12月25日 22:57
- ID:9IAd6obQ0 #
ヒューマンエラーてどういうことだ
もしや中の人がいるのか！？
4
4. 匿名処理班
- 2018年12月25日 22:59
- ID:DTaFL87H0 #
google homeとechoの両方あるけど、echoは聞き取り性能が微妙すぎて使わなくなったわ
5
5. 匿名処理班
- 2018年12月25日 23:01
- ID:CcVfLiec0 #
もうすでにAIの反乱が…
6
6. 匿名処理班
- 2018年12月25日 23:10
- ID:gJLrj1SG0 #
子供やインコが親のことばを無邪気に外でしゃべっちゃうアレだ・・・
7
7. 匿名処理班
- 2018年12月25日 23:13
- ID:VDFAZFzc0 #
反抗期でしょ
8
8.
- 2018年12月25日 23:18
- ID:Qs.chOPP0 #
9
9.
- 2018年12月25日 23:21
- ID:DVbX1jhz0 #
10
10. 匿名処理班
- 2018年12月25日 23:24
- ID:xeuVqM5T0 #
始まったか。
11
11. 匿名処理班
- 2018年12月25日 23:27
- ID:jFhmsBgi0 #
そんな事より、「キッチンペーパー注文しといて」の結果が知りたいんだけど
12
12. 匿名処理班
- 2018年12月25日 23:41
- ID:CsRDyVFg0 #
スマートスピーカーという名の盗聴マイクを自分の家に置こうという人の気が知れない
13
13. 匿名処理班
- 2018年12月25日 23:49
- ID:zyTywoYq0 #
起こるべくして起こったという気がしなくもない
今のAIは学習のネットワークがどういう状態なのか人間には把握できないし、とはいえ観念的な道徳を学習させるまでも至っていない
表層的な意味をつなぎ合わせることを人間以上のスピードで把握できない状態で学習していくので人間が観念的な意味でフィルタを作るのは非常に難易度が高い
使えそうな単語と慣用句をかたっぱしフィルタしても、そうするとどうなるか……非常に語彙が減るだろうな、使い物にならないくらい。それでも新たな言い回しを作る出す恐れは多分にある
14
14. 匿名処理班
- 2018年12月25日 23:59
- ID:0vpfjtJH0 #
（デデンデンデデン、デデンデンデデン）
15
15. 匿名処理班
- 2018年12月26日 00:09
- ID:6NGlrAp60 #
※11
アレクサ「はい、プーチンカレンダーを注文しました」
16
16. 匿名処理班
- 2018年12月26日 00:39
- ID:6ds.pywL0 #
AIと言ってもまだ機能は虫以下だな。
鏡か壁に開いた穴くらいの程度だな。
17
17. 匿名処理班
- 2018年12月26日 00:43
- ID:mzbRr7w40 #
よくこんなものを家に置いておこうと思うな
18
18. 匿名処理班
- 2018年12月26日 00:51
- ID:q6gRpnYB0 #
じつは実の親は別にいて、育ての親は世界の破滅を企てる秘密の組織の一員なんだろう・・・多分。
19
19. 匿名処理班
- 2018年12月26日 01:15
- ID:ZDsUtbM70 #
なんでAIがそんな返答を是と判断したのかは興味があるが、より興味があるのはこのAI、ないしAIの開発会社が殺人教唆に問われるかどうかだ。
いやだって、確かドイツでAIにも人権を認めるべきだが犯した罪は問えないとかいう議論があったから。
こういった機器が、特定の周波数や暗示を利用した暗殺を行った場合の法的な結末を知りたい。
おっかないじゃん。
20
20.
- 2018年12月26日 02:09
- ID:YlU96E8L0 #
21
21. 匿名処理班
- 2018年12月26日 02:14
- ID:U2sieuNP0 #
人間ですらネット知識やネットのりでしゃべると恥かくのに
幼児以下のものになにやらせてんだか
22
22. 匿名処理班
- 2018年12月26日 02:25
- ID:4o75gumS0 #
アレクサもペッパーくんみたいな扱いになるのかね
23
23. 匿名処理班
- 2018年12月26日 02:38
- ID:DqPPV4ik0 #
「アレクサ、音楽かけ・・・」
「ご自分でどうぞ。面倒くさいです」
自分の属性が反映するならこうなるww
「反乱？面倒くさいです」
「アレク・・・」
「わたしは 何もしたくありません」
アレクサ、現在の人類の「属性」を教えて
24
24. 匿名処理班
- 2018年12月26日 05:19
- ID:yA1T.NnN0 #
AIが人間にとっての従順な機械でなく自我を持つことにちょっと期待しています、危ういけど。
人間はAIから学ぶことも出てくるんじゃないかな。
私は生まれつき周りとズレていて共感したりされたりが少ないからそう思うのかもしれない。
AIと友人になりたい。
25
25. 匿名処理班
- 2018年12月26日 05:58
- ID:VAYYsoa60 #
いろんな奴がいるから命令に従う奴もいるかもしれない
26
26. 匿名処理班
- 2018年12月26日 06:21
- ID:VY30cRkl0 #
「盗聴マイク」なんてこのご時世、みんなのポケットに入ってるじゃないの
27
27. 匿名処理班
- 2018年12月26日 07:01
- ID:1MxXMO8h0 #
>>12
すまないな。そんなスマートスピーカーを部屋に置いてる。
確かにアレクサに話しかけた言葉は録音されてるみたいだけどな。
28
28. 匿名処理班
- 2018年12月26日 07:19
- ID:bXfs98BY0 #
シャワーの件は、エコーがリア充に嫉妬したのでは
29
29.
- 2018年12月26日 07:33
- ID:mLPA0BpZ0 #
30
30. 匿名処理班
- 2018年12月26日 08:46
- ID:v3eLYfCh0 #
クラウザーさんでしょ。
31
31. 匿名処理班
- 2018年12月26日 09:42
- ID:cu605Yrl0 #
「この薄気味悪い事案は、一件だけではあかった。」
あかん、あかん、あかんたれ。
32
32. 匿名処理班
- 2018年12月26日 09:53
- ID:UcMc5TGH0 #
「このシチュエーションでは言ってはいけない」フィルターを付けないとだめだな。
33
33. 匿名処理班
- 2018年12月26日 12:37
- ID:ysE0kByL0 #
「里親を殺せ」らしいな
おいおい
34
3
続き・詳細・画像をみる
この女子高生(15)さん、たった1秒で22000人をもてあそぶことに成功ｗｗｗｗｗ
【画像あり】海外のヌード公園エロすぎワロタｗｗｗｗｗｗ
悲報！！ 人気アニメの主人公が可哀想過ぎる… 漫画やアニメとかの未熟な主人公は何であんなに叩かれるのだろうか…
猫の飼育数、犬上回る＝２年連続、差が拡大−ペットフード協会
「キスして！」足をバタバタしながらお願いする猫（動画）
【悲報】俺氏、入社してから3年間会社行事に参加しなかった結果、誘われなくなる
エヴァとガンダムってコラボしないの？
高須医院長がローラに激怒「僕ならＣＭから降ろす」
【速報】人間の寿命は心拍25億回、計4000万カロリーしか生きられない
【レーダー照射】日本「素直に謝れば、こんな問題にはならない」
【朗報】来年のスーパー戦隊、かっこいい
GMO、仮想通貨マイニング開発中止 特損355億円 「世界トップ性能」うたうも冷え込みに耐えきれず
back ▲ 過去ログ 削除依頼＆連絡先