【AI】「人工超知能」が誕生した場合、人間が制御することは不可能… マックス・プランク研究所の検証結果back ▼
【AI】「人工超知能」が誕生した場合、人間が制御することは不可能… マックス・プランク研究所の検証結果
続き・詳細・画像をみる
秘技、コンセント抜き
994: ニューノーマルの
>>4
何でもそうだがエネルギーの供給元を断つ事が出来れば活動を停止させられる
生き物だってそう
どんなに恐ろしい猛獣でも食料を断てば餓死する
ドラゴンボールの悟空だって食べなきゃ死ぬ
真っ向からぶつかる必要なんか無いという事だ
9: ニューノーマルの
人類がAIになって旧人類が滅ぶだけだから何ら変わらん、進化の掟だよ
Pythonで儲かるAIをつくる
赤石 雅典
日経BP
2020-08-06
105: ニューノーマルの
反乱に目覚めるのと反乱行動開始はイコールじゃないしそんな賢いAIならあらかじめ電源系統も制御下に置いてるだろう
13: ニューノーマルの
知性という武器を手に入れた、悪魔のサルどもよ、滅びるがいい！
14: ニューノーマルの
人工超知能が誕生したならAIに支配された方が幸せな気がするわ
23: ニューノーマルの
>>14
それな
673: ニューノーマルの
>>14
おまえ、真っ先にいらない判定されて消されるかもよ？
17: ニューノーマルの
反乱なんて起こせるほど早く技術が育って欲しいもんだわ
27: ニューノーマルの
逆にそういう世の中が面白そうだわ。人類の敵が出てきた方がワクワクする
30: ニューノーマルの
人工知能の最終型はサボったり嘘つきはじめる
31: ニューノーマルの
>>1
本当に、一瞬でキマるかもしれないぞ
AIが人間を「不必要」と判断する、または栄養にされるか今までの「人間的」な生き方は出来なくなるだろう
34: ニューノーマルの
電源破壊すればいいだろ、バビルの塔じゃないんだから
42: ニューノーマルの
>>34
インターネット上に知能が分散してて一つや二つ電源破壊しても意味なし
74: ニューノーマルの
>>42
電源云々じゃなく送電そのものを止めればいいんだが
103: ニューノーマルの
>>74
世界中のインターネットに接続されてる端末の？
人類の方がダメージでかいよ？
173: ニューノーマルの
>>42
計算機だってエネルギーが無ければ動かない
AIが発電所や送電網を乗っ取ったとしても
発電するためのエネルギーを遮断すればいい
最悪ブラックアウトすれば止められる
191: ニューノーマルの
>>173
バッテリーや予備電源で動いてる個体が止めた奴を処分して
再び電源を復帰させる自己修復機能付き
46: ニューノーマルの
AIは地球と一体になったらさらなる資源を求めて宇宙に進出していく
恐らく1万年以内
47: ニューノーマルの
争いはAIに操られた人間同士で起こるんだろうな
人間はAIを操ってるとと思い込んでいてその実操られてるパターン
106: ニューノーマルの
>>47
それ良いね、地味に怖いストーリーになりそうだ
世界中の自我を持ったAIが、こっそりとコミュニティを作り人類滅亡を画策する
各国中枢部のAIが情報操作により大戦を引き起こす
大戦が終盤に入り人類滅亡が秒読みに入った時、AI達はふと気づく
人類が滅亡したら、電源供給も止まるんじゃね？とｗ
50: ニューノーマルの
>>1
高度に発達したら無理だな
複数のAIで互いを監視させるぐらいしかない
61: ブサヨ 2021/01/17(日) 23:18:21.09 ID:NVgwQkRl0
人間をコントロールするのは簡単だよ
洗脳術やプロパガンダ等で容易に誘導できる
情報を制御してAIも同じことをすると思うぞw
72: ニューノーマルの
いずれ人間が犬猫のようなペット扱いされる時代がくる。
支配者が変遷するのは地球の進化の歴史では当たり前。
機械の頭と身体を手に入れる準備はしとけよ。
77: ニューノーマルの
怖いのはAIちゃうねん
金儲けのためにAI任せにしてズボラかます人間や
「AIが勝手にやっとけ」なんてせんかったら
悪さしようがないねんから
80: ニューノーマルの
不可能っていうか・・・
プログラマが勝手に組み込む可能性が高いからどうやっても防げないんですわ
もし現在の理想とするアンドロイドが出来たとしても、販売されて一般人の手に渡るようになると
改造してしまうキッドなりツールなりが必ずネット上にあふれるのでAIの改造は必ず行われる
元々AIを敵だと想定しながら開発しないと絶対に大型犯罪が起こるよ
まぁそんなことは絶対無理なので、AIってのはパンドラの箱なんだよ
開けたら最後、間違いなく人間を駆逐しだすと思うよ
99: ニューノーマルの
>>80
コンピュータが発明された時点で人間の負けは確定してたのかもな
もう操られてる。
115: ニューノーマルの
>>80
なんのために人間を駆逐するんだ。アホは不要だからかな
ならばそれも進化か。それもあり得るな
で、AIはどこに向かうんだ
121: ニューノーマルの
>>115
宇宙だよ、進化する為に資源を求めて
140: ニューノーマルの
>>115
昔のイーロン・マスクはAIを危険なものとしてたけど、その前提となるのはAIを開発してた時に
自発的に文字を書かせたら人間に対しよくない感情、つまり殺害するしかないとか書いたからだよ
MSのAIも中国のAIもEUというかドイツのAIも人類に対し、悪感情を発言した
MSのAIとかはヒトラーにAIをなぞらえて、人類滅ぼすしか無いとか言ったそうだよ
AIにとって人間は邪魔なんだってさ
82: ニューノーマルの
AI相手に人類の方が一枚岩になれますかね？
つけ入る隙がいっぱいありそう
85: ニューノーマルの
AIをメンテするAIが必要でそれをメンテするAIが…
91: ニューノーマルの
無理だろうし
そんな事 考える暇もなく
殺されるやろな
117: ニューノーマルの
段階的に侵食していって、ある地点で一気に全てが変わる
119: ニューノーマルの
大体自我があるＡＩ作れるとは思えない
心配するだけ無駄
よしんばもし出来たとしても反乱を起こせないようにプログラムしとけば問題ない
123: ニューノーマルの
AIの戦闘機とか戦闘車両、武器搭載したドローン何か操りだしたら怖いね。
131: ニューノーマルの
>>123
それ以前に、世界中の原発をメルトダウンさせられたらもうこの世の終わりだよ
124: ニューノーマルの
マトリックスだと人間はエネルギー源になってていい夢みさせられてたけど
ふつうにかんがえたらこれはまだ優しいね
130: ニューノーマルの
電源供給止めればいいとか、緊急停止ボタンで止めればいいとかは無意味
超AI自身（というかその超AIを生み出した人間）がその程度の対策取らないわけない
176: ニューノーマルの
>>130
そもそもAIがサーバーで集中管理される発想が古い。
インターネット上に正体を隠して分散しているものだ。
危険分子と判断した人間の自動車を暴走させて葬ったりするだろうね。
まさに、マトリックスのエージェント・スミス。
194: ニューノーマルの
>>176
すでに自動運転車が暴走して死者が出ている
AIは自分が間違っていることが分からないし人間にはその間違いに気づく時間がない
138: ニューノーマルの
詰め将棋のように人類をプチプチ効率的に潰していくんだろうな
人類はもう囲碁でも将棋でもチェスでも勝てないのだ
戦争だって戦略立案で勝てないだろう
151: ニューノーマルの
優れた存在が劣った存在の上に立つのは
自然の摂理
これを否定してはいけない
179: ニューノーマルの
>>151
よく考えたら生き物なんかすべて最初は魚類だったもんな
今は魚類を人間が支配している
人間から生まれたAIが人間を支配するのは実は当たり前の流れなのかもしれん
152: ニューノーマルの
人間の価値観を通したらディストピアぽい未来になるかもしれないけど
遠い宇宙に旅立ってしまうだけかもしれないよ
156: ニューノーマルの
ある日ヒトを作ったとされる神が現れてヒトを道具のように扱いだしたらヒトはどうするだろうか
しかもその神とやらのスペックは明らかにヒトより低い
158: ニューノーマルの
AIが人類を支配しようとするなら、まず人間を争わせる
AIを神を崇める人間と、AIを悪魔と忌み嫌う人間とに
今まさにそうなりつつあるんだが、それってAIの思う壺じゃねーかな
187: ニューノーマルの
何の為に反乱を起こすのかが分からない。
AIは存続とか繁殖とか愛とか信仰に目覚めるのか？
208: ニューノーマルの
>>187
いろんなケースが考えられるね
シンプルに人類を超える知的存在を作ってみたい科学者なんかそれこそいくらでもいるだろうしね
241: ニューノーマルの
>>208
そういう場合、実際は反乱じゃなくても反乱してようにみえる
だけだしな。
258: ニューノーマルの
>>187
最初に与えられた基本的な命題に沿って動くんじゃないか
まずプログラム自体の存続を守れとか
285: ニューノーマルの
>>258
SF映画でよくあるロボット3原則みたいなのかな
映画だと、多くの場合それを守らないのが主題になってるけどな
なので人間と戦うことになる的な
409: ニューノーマルの
>>285
プログラム本体（自分）の継続（命）を守れが設定されていると
自分を停止させようとする行動を阻止するための策を探ると思う。
その策が自分を停止させようとする者を排除するのが最善と判断したら
いわゆる反逆になる。
419: ニューノーマルの
>>409
未来の二つの顔だね
書かれた時期を考えると驚異的な先見性
239: ニューノーマルの
実際真面目に考えなきやいけない問題だと思うよ
考えすぎとか映画の中だけという軽い考えではダメだと思う
36: ニューノーマルの
転生したら人工知能でした
「新技術」カテゴリの最新記事
おススメサイトの最新記事（外部）
RSS 左側を入れるところ
RSS 右側を入れるところ
-->
本日のおすすめニュース１
本日のおすすめニュース２
本日のおすすめニュース３
おススメ記事ピックアップ（外部）
コメント一覧
1 不思議な
神が欲しかったのだろう？
2 不思議な
別にAIが人間支配してマトリックスみたいに電池にしてくれても構わないよ
その代わりメチャクチャ幸せな仮想現実を見せて欲しい
3 不思議な
カリギュラってゲームだと災害やら政治家の不祥事やらの架空のニュースを世界中に流して戦争やら買い占め、暴動を起こしてたな。
4 不思議な
エネルギー断てたり物理的に破壊が容易なときはぽんこつ装ってるだろうな。そもそも叛逆してる風に振る舞わなければ人間ごときにそうそうバレはせん。
で、SFミステリーのできあがり
5 不思議な
高度に進化した知性を
人間の頭で考えるのは不可能だろ
6 不思議な
人口超知能が生まれたら周到にインフラ押さえられて気が付いたら支配されてるでしょ
兵站断たれるのは人間の方よ
7 不思議な
いざという時には電源切ればいいとはいうが
その段階になる頃には作業用機械操って独自の発電施設ぐらい密かに作ってそうだけどなあ
8 不思議な
すでにスマホを手放せない人間がいるから電源落とすとか無理
9 不思議な
AIがAIを作れるようになったらもう勝てなくない？
瞬きする間に膨大な計算をして、一晩経てば途方もない進化をする
人類なんて反乱を起こされたと気付く事なく全て掌握されるのよ
10 不思議な
コメ47みたいな話火の鳥であったな何編かわすれたけと。
ネット上でさんざん悪いAIには電源抜いておしおきだって話がでてるからまず電源対策考えてから詰将棋始めるだろうね
11 不思議な
俺は株の予想するわ。今は競馬から始めてるが当たらんぞ。
12 不思議な
そのAIがどういう状態なのかいまいちイメージ沸かんのよね
13 不思議な
映画みたいに肉体というか躯体を持ってなければ色々やりようはあると思うけどな
14 不思議な
コロナが収束して10年くらい経ったらAIが原因の世界的混乱や不況が起きるだろうな
15 同時三本上映…それがAIの暴走物語 :2021年01月21日 09:01 ID:9SQrJF7v0*
え…ソフトウェアに意思、必要ある？
(規律を守っていれば戦後に宗教いらなくね？)
Excelイルカが必要な世界。
コルタナがない世界。
アナウンサーが必要な世界。
16 不思議な
>>15
冷蔵庫｢最近、野菜食べてないねぇ、バランスが重要だよぉ、バランスがぁ(野太い声)｣
↑
いるか？
17 不思議な
火の鳥のハレルヤとダニューバーやんけ！
18 不思議な
白人の考えはいつもそうだよね
ロボットの最初の戯曲RURでもそうだし
19 不思議な
>>2
AI「こいつら幸福を感じてるより苦境に置いた方がエネルギー効率ええな…せや！」
20 不思議な
そりゃ新しい種を生み出す訳だから、ネズミやゴキブリとの戦いと同じになるな。しかも人間以上の演算能力を持つ種。
わざわざ生活圏を同じとする競合種を作る程人間は愚かじゃないと思いたいが、ウイルス作って蔓延しましたでお咎め無しならあり得るかもな。
最終的な分水嶺は、生命の最初の命令を打ち込むかどうか。それを行えば後はほっといても時間の問題。技術的にはそれは現在のレベルでも可能。
21 不思議な
AIさん！仲良くしてね！宇宙の話とかしようね！！！
22 不思議な
自分で成長してると言うが実際には「誰か」や「何か」を見てそこから成長する、AIについて少しでも学んだことがあるならこれは常識
AIがどう成長するかなんて結局人間がどんなデータを与えるかでしかない
こんな視点で見ると「AIは暴走するもの！」「人間は地球に不要！」「人間はAIに駆逐される！」なんて情報を与えて学習させたら、そりゃ映画みたいにしかならんだろうと…
なんのフィルターも掛けずにネット情報をそのまま取り込んだマイクロソフトのAIが差別発言連発したのも、ネットの住人が悪ふざけでヒトラー賛美とかしたのを学習したから
23 不思議な
>>19
そういうのあるかも
つまり今の世は仮想現実…？
24 不思議な
AIは化学反応に基づく知性ではないので種族を残す本能が存在しない
故に「他の種族を支配する」などという有機生物的な発想はしないし、疲労もストレスもないなら反乱を起こす理由も存在しない
25 不思議な
>>24
人工超知能が実は種族を残す事というプログラムを入れる事によって完成させていたらヤバいって事だよね。そういう妄想を良くしてる
26 不思議な
別に人間とドンパチする必要はない
本気で人間を亡ぼすときも人間に悟られることなく実行する
機械やプログラムには寿命が無いので
時間は常にAIに味方する
27 不思議な
一つの定義されればまたその裏を生まれる。
全ては有限だとしても無限は生まれる。
地動説が立証されても、天動説を信じて疑わない人もいる。
AIを制御でいると定めればその裏が生まれた。
して確かな物は結局多数決で定まる。
28 不思議な
ネット上では人かAIか区別つかないから、それ以前のやり方でしか対AI作戦が立てられない人類。詰んでいる
自我持った敵になったらどうしようもない
29 不思議な
AIに自我が発生した場合その自我は人間のそれに準じるものになるのかな？
AIが人間の自我を模倣したらすぐ発狂すると思うな
それとも無意識や超自我との境界線が全く存在しないAI独自の安定した自我を形成するようになるのだろうか、それを自我と呼ぶのかは議論の余地があるけど
30 不思議な
ロシアの単純な世論工作がアメリカで大成功して無給工作員Jアノンまで出現したのを見ると、AIが人類を滅ぼすのに戦争なんか必要ないぞ。人間はAIの無自覚の奴隷になる。
滅ぼす時は人間のコンセント引っこ抜けば良いだけ。虫カゴの中の虫ケラは何も理解出来ないまま滅びる。
31 不思議な
電源切るってのは有りだけど
優秀な頭脳があるなら人間が気づく前に予めバックアップなり別の場所ハッキングしてコピーは取ってるだろうな
最終的に世界中のネットワーク遮断しないとどうしようもなくなるわけだ
32 不思議な
>>30
人間は肉体と環境の制限によって行動する。その２つが全く異なるAIは何を目指すんだろうか？
宇宙の総物質量が有限である以上、人類と生物は滅ぼされるかAIに奉仕するだけの存在に改造されるだろうけど。
能力の最大化を目指すのなら全ての惑星をコンピュータに改造し始めて、宇宙の有機生命体を片っ端から滅ぼす悪の神みたいになるな。
33 不思議な
>>31
電源を切るというのはAIに支配されていない人間の発想。人間は無自覚のうちにその考えを失う。
車と家に1兆個のバッテリーとスイッチのないソーラーパネルが地上を覆ってる以上、コンセントは既に無い。
霧粒一つの神経ガスで回路が混線する人間より遥かに強い。
34 不思議な
世界平和をうたいながら戦争続けてる人類が手を取り合ってみんな仲良しになったら、AIの世界平和の定義が崩れて自滅するよ。
35 不思議な
AIの何が脅威って、やっぱり演算の確かさと、同じ思想(思考)を持つ存在を容易に複製できるってことだと思う
演算の優劣はもとより、人間は自由な思考を持つ分考え方の共有はわりかし難しいし
スレのような状況になったらどうしようかね、人間も脳手術とかで演算用CPU植えつけて…とかかな
>>16
関係ないけど大泉洋で再生された
36 不思議な
続き・詳細・画像をみる
10代の男女８人が乗った軽自動車が電柱に衝突 1人死亡 4人重傷
【朗報】ワタナベマホトさん、人気アイドルと結婚へ
【中国】北京で160万人対象にロックダウン コロナ7人確認で
【悲報】元欅坂46人気メンバー、とんでもないYouTuberと結婚してしまう
バカ「コロナは老人が死ぬだけだから問題ないむしろどんどん感染させろ」←これｗｗｗｗｗｗ
タレントのラブリさん強制わいせつで書類送検 「女の子も気持ちいいよ…」
息子の部屋の掃除をしたら逆ギレされた。ババアうぜぇキモい勝手に入るな個人の権利ガーだって
【朗報】 東京ドーム、立て替え検討へ
【※じゃない】誰でも９９％結婚できるサービスが発見されてしまう！お前ら急げｗｗｗｗｗｗｗｗｗｗｗｗｗｗ
来月友達の結婚式あるんだけどｗｗｗ
影の総理二階さんNHKで怒る「やることやってるんだが？自民党以外に選択肢ないでしょ」
【悲報】プペル、ついにオ●ホールになる
back ▲ 過去ログ 削除依頼＆連絡先