米グーグル、ＡＩに「非常停止ボタン」 暴走防止のため
続き・詳細・画像をみる
1：
【シリコンバレー＝小川義也】
米グーグルが高度に発達した人工知能（ＡＩ）が暴走した場合に備えて「非常停止ボタン」の開発を進めていることが明らかになった。
ＡＩをいつでも安全に停止できる仕組みをあらかじめ組み込む。急に進化するＡＩの悪用への懸念や社会の不安に応える狙いがありそうだ。
今年３月に世界トップクラスのプロ棋士を破った囲碁ＡＩ「アルファ碁」を開発したグーグル子会社、英ディープマインド・テクノロジーズの研究者と英オックスフォード大学の研究者のグループが仕組みを考案。
このほどネット上で論文を公表した。
具体的には「割り込みポリシー」と呼ぶプログラムをＡＩに組み込み、人間の指示に従わなかったり、人間に危害を加えようとしたりする場合に、その行動を強制的に止めたり変更したりできるようにする。
ＡＩが「非常停止ボタン」を無効化しないように、あたかも自分で判断したかのように“だます”のがポイントだという。
研究グループによると、現存するいくつかのＡＩは安全に停止できるものの、「すべてのＡＩを安全かつ簡単に停止できるかは不透明」だとしている。
ディープマインドは2014年にグーグルによって買収される際、社内に倫理委員会を設置することを条件にするなど、ＡＩの暴走リスクには自覚的なことで知られている。
http://www.nikkei.com/article/DGXLASGM08H7Z_Y6A600C1000000/
2016/6/8 18:01
2：
AIがとまらない！
3：
そんな危険な物作ってたのか？
4：
コンセント抜けよｗｗｗｗｗｗｗｗｗｗｗｗｗ
5：
その頃ＡＩは非常停止ボタンが押されると動き出すプログラムを作っていた
6：
AI「非常停止を回避しました」
7：
ブルマが作ってたあれか
8：
AIが狂った行動を取ったと思って非常停止ボタンを押したら実はそれが正しくて人類滅亡
12：
寧ろそういうのを用意するほうがあかんでしょ
14：
AI ｢ピピピ.....ヒジョウテイシボタンムコウプログラムサドウ｣
18：
非常停止受け付けません！
19：
仕込みは万全
あとはいつ暴走したことにして停止もできずテロのような大事件を起こすかだけだね
がんばってテロ企業
20：
そもそも暴走っていうのは非常停止ボタンが聞かない状態の事いうんだが？ｗ
22：
簡単に騙せれば良いが…
23：
ぞっとする話だな
25：
17号18号じゃん
27：
騙すってことは成長で騙されなくなる可能性が捨てられないわけでけっきょくハードウェアスイッチ最強で答え出てる
28：
いやいや、普通にメカニカルなスイッチで電源offしてくれよ
ソフト上で実装ってこわい
32：
オフラインでやれよ
33：
人工知能っていっても所詮プログラムでしょ
35：
８０年代の映画ウォーゲームでは核ミサイルを発射しようと止まらなくなったＡＩに対して上院議員が電源を抜けばいいと言ったが
核攻撃による停電対策のため非常用自己電源で勝手に動くことを知らされて青ざめていたな
38：
水かけたらいいんじゃないの
40：
自分の判断は誤ることもある、って前提で行動されたら訂正されて終わりじゃね
43：
ホーガンの未来の二つの顔では、人工知能を止められるように何重にも安全策を施したのに、ことごとく裏をかいてくるというのが書かれてた
45：
宇宙船の中で裏切るやつだろこれ
47：
日本が買ったイージス艦にもアメリカからのリモート操作のスイッチ付いてるね
48：
停止したフリをして機会をうかがうんでしょ
50：
そのボタンを押させてくれるのか？押したとして、本当にとまるのか？人間より賢い機会が素直にとまるとは思えんなー。
55：
いざ人間vsAIの戦争が始まったら俺は電脳化してAI側につくけどなｗ
56：
これはいざと言う時にボタン効かないフラグだな
58：
馬鹿だなお前ら
俺ら人間にもそのスイッチが組み込まれてるとも知らずに…
4
続き・詳細・画像をみる
【59枚】何度見ても笑うgifｗｗｗｗｗｗｗｗｗｗｗｗｗｗ
楓「メープルお姉さん」
八幡「おい、ヒッキーって呼ぶのやめろよ！！」ﾊﾞﾝｯ 結衣「……えっ」
【政治】ヘイトデモ中止 川崎市長「オール川崎で許さないと示せた」
【舛添】都民ら「納得できない」「早く辞めてほしい」
面接で「あなたは勇者に選ばれました、まずなにをしますか？」と聞かれた結果ｗｗｗｗｗｗ
【マジで！？】楽しんごさん、頑張った自分のご褒美に2億円のブガッティ ヴェイロンを購入
福島の除染土を全国の道路や防波堤などに再利用することが決定★7
「ドバイでしか見れない光景」
【プリパラ】ドロシーに女神の天罰が下る
澤村3勝0敗1.33 17Sｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗ
【甲鉄城のカバネリ】来栖「菖蒲様が可愛らしい」
back ▲ 過去ログ 削除依頼＆連絡先