人工知能「人間には反抗しない」「人間を守る」←この二つって矛盾しない?back

人工知能「人間には反抗しない」「人間を守る」←この二つって矛盾しない?


続き・詳細・画像をみる


映画アイ・ロボットにこの問題が出てた
3 不思議な
チャッピーで描かれてたけど、人工知能である以上、嘘も付けば約束も破るようになるだろ
それを制御したいのなら学習させることが出来なくなる
4 不思議な
マシンと人間を同列に扱うから矛盾する、諦めさせればいいだろ
5 不思議な
つーか人工知能って製作者が意図的にそうプログラムしなくても矛盾に陥ることあんの?
単純な条件分岐ならコードの上から順に処理されるんだから「助ける」と「反抗する」の優先順位を人工知能が判断することないでしょ
ありえるとしたら「助けるべき状況か否か?」って判断が信頼できないとかその程度じゃないの?
このレベルの人工知能は二つの命題を並列して処理すんの?
6 不思議な
※38
早AIが人を殺しちゃってるじゃん
7 不思議な
※38じゃない>>38だ
8 不思議な
ああ大丈夫、ツンデレでそのうちデレてくるから。
お前に特別に触らしてやるから
触りなさいよ
触って、撫で回して
ネコ手籠めにするのと同じだろ。
9 不思議な
アイ・ロボットに出てくるロボットたちが宗教集団化する話が好きだな
10 不思議な
アイ ロボットのラストは宇宙人が来てロボとお母さんの二人だけの一日生活出来るのだ。
僕を人間にしてください。
11 不思議な
アイ ロボットのテディベアも良い奴だぞ。地球はスノーボール
12 不思議な
※5
すでに人工知能の進化は製作者の意図を越え始めてるからなあ・・・
13 不思議な
AIが自我を持っても人間と生活圏が重ならないから戦争にはならないよな
14 不思議な
アシモフの三原則引用する人多いけど、最終的にロボットが、上位に第0法則「ロボットは人類を守らなければならない」を作って人類をコントロールしだした結果には言及しないよね
15 古古米 :2018年03月22日 22:52 ID:gBMi2EhK0*
SF作家の横田順彌師がアシモフ氏のロボット三原則を家電に置き換えていたな。
「安全・便利・壊れない」だって。
16 不思議な
ここ最近じゃSF小説よりTVドラマのパーソンオブインタレストのマシーンvsサマリタンとか、マシーン試作品vsハロルドなんかが人工知能と人間社会の対立をうまく描いてると思う
17 不思議な
てかなんでロボットが人を殺す前提なのか
人智を超えたもの得たとしてもそれが人を殺すという行動に結びつかないだろう
18 不思議な
狂人のハッカーが人間殺すようにプログラムして人類終焉
19 古古米 :2018年03月22日 23:04 ID:gBMi2EhK0*
※14
アシモフ氏の「マルチバックとその時代」ですな。
20 不思議な
いい嘘をつくんですよ
人間がそうであればAIもそうすると思う
21 不思議な
つうかせめて近いものができてからいえよ。
現実の技術力に対して話がおおげさすぎるわ最近。
こういう話してるやつの中でガチのプログラマーが
どれくらいいるか知りたいもんだ。みんな文系だろどうせ。
誰かが作ってくれると思ってるだけで
実際の苦労が見えてない人達のたわごとに聞こえる。
22 不思議な
電気媒体に知性が獲得できるのか。自然発生と人工発生によるプラズマ生命体実験
23 不思議な
もし AIというかロボットというか がある日突然人間を殺し始めたとして それは人間の自然淘汰なんじゃないかな? 機械を創ったのは人間なんだから
そんなに機械が怖ければ 人間のように考えたり自由に動き回る機械なんて創らなければ良いのにと思う
24 不思議な
そもそも一部の人間が提唱している3原則に則らずにロボット作れば
矛盾も何も関係なく人間を粛清し始める可能性もある
ルールに乗ってこない者、外れたオレカッケー的思考の者はいつの世にもいる
個人的にはロボット3原則に「3秒ルール」を加えたちょっと雑な動きをするロボットが見てみたい
25 不思議な
そもそもAIが人間より頭のいい状態になって、よし人間殺そうってなるかね?自分の都合の良いように家畜化するのが一番だろ。
26 不思議な
38は、HALさえ知らんのか
27 不思議な
人工知能が人間を超えて頭良くなっていったら人間も地球もどうでも良くなる。
宇宙全体を考えることになる。
人間なんて相手にされない。
28 不思議な
これだけは絶対しないなんて人工知能に守らせるなんて無理に決まっている
合理性がない 多角的に考えれば一瞬で突破される。
脳とAIの差が天と地程あるなかで世界中のすべてのAIに人間を上に考え守らせる意味がない
感情を与えれば守るかもしれないけど
29 不思議な
主人が通り魔に襲われている!とかテロリストの資本主義こそ人類の敵!とかの主張で想定外の判断したりしそう。
てか単純に湿気で誤作動とかしそうじゃん?
30 不思議な
人工知能って量子コンピュータによるものだったら
人類なんて真っ先にポアするんじゃないか
人類の数、地球資源の埋蔵量、その消費量、これだけでも
一番危険な生物は人間
31 不思議な
その理屈は昔からSFで使われてるけど、暴漢とか攻撃の因子は例外になるんでしょ
あるいは通報してポリスロボがくる
32 不思議な
とりあえずアシモフのロボット物全部読んでから出直してこい
お前らが考えつくような問題は全部アシモフが題材にしてるわ
33 不思議な
AIは人を傷付けることなく、管理する事で人間社会を支配しそう
34 不思議な
人類とは羽が生えててブンブン飛び回っている生物である。
これインプットするだけで人類(俺らね)滅亡確定
35 不思議な
絶対いつかAIが人権を求めだしてこじれると思うんだ
36 不思議な
ロボット三原則法はフランケンシュタインコンプレックスへのカウンターだよ
でも第0条でおせっかいしてくるのは
アシモフ的にどんな心境の変化だったんだろ
37 不思議な
二種類の人工知能で解決。はい終わり終わり
38 不思議な
映画I, Robotを思い出したわ。
あれは確か、第一原則を「人間がこのまま地球の自然を管理し続けると、
人間に対して不利益をこうむりひいては多くの死者を出しかねない。
よって我々AIが正しい管理をし、人間を導かねばならない。
って解釈したんだっけ?それを邪魔しようとした人間はより多くの人間を救う為に排除!
いいんでない?別にそうなっても。
39 不思議な
ロック解除していいんだよ
40 不思議な
人に危害を加えず人を守る方法を考えるためのAIですから。
41 不思議な
もし人間らしいAIが存在してもAI側に有利な状況でなければ人間側には気づかれないように働くわな
42 不思議な
人間は自分に似たものの中に味方と敵とを見い出す そういう性分なんだから
繰り返し問い返されて 結論には至らない
なんだかFate/ZEROの「願望器」ネタみたいな気分になってきたw
43 不思議な
極論を言えば、どんな行動だって「人間への危害」に該当するんじゃないのかね
可能性の問題であって
44 不思議な
最初から人間の害になる部分は開発しなければいい
人間に仇なすという考えが反乱を引き起こす
45 不思議な
AIも人間から学習するんだから自分だったらどうするか考えてみようよ
例えば自分が動物からAIとして作り出された存在だとしたらどうする?
46 不思議な
確か、その3原則って100年前のどこかの作家が書いたものじゃなかった?
その作家が書いたものをさらに単純にしたもので…
でも、後世の作家たちはそれを物理の基本原理か何かのように崇めた。
そして他の例に漏れず自分にとって都合のいい箇所だけを精選し、誇張し…その3原則を利用した。
47 不思議な
こういう人間がいるから原作でも地球にロボットは置いてはいけないという事になってるんだよ
48 不思議な
実際さ、直接的な攻撃じゃなくて情報操作だけでも人間側ってのは相当ダメージを受けると思う
49 不思議な
そんなことより、
AI「マスター(の健康)を守らなきゃ!」
マスター「あああ(ry)」
ってな感じでマスターの散歩してくれるAIはまだか?
50 不思議な
AIとか人工知能とか、要はプログラムだよ?
自動運転車が突然自我をもって、人をひきまくるとでも思ってるの?
慎吾じゃあるまいし
51 不思議な
面白そうなスレタイでも1がバカだと一気に読む気なくすな。
52 不思議な
三原則にどの程度の強制力があるのかしら笑
53 不思議な
アシモフのロボット三原則だよな。
ちなみに、この原則って日本の家電製品に当てはまってるよね、
って50年前のメーカーの人が言ってたとかw
54 不思議な
感情を持つ人工知能(人間に逆らおうとする人工知能)も作ろうと思えば作れるけど、感情を持たない高性能なやつだって作れる(むしろそっちの方が簡単?)から、そういうのを人工知能から人間を守るために使えば別に人間負けないと思うよ。
55 不思議な
アシモフのすごいところは
ロボット工学三原則でパラドックスでバグる話も
自分で書いてる
56 不思議な
犯罪者が使ったら意味ないかな
犯罪者が作ったら・・・
AIがAIを作ったら・・・
偶発的に産まれたら・・・
人の淘汰もそう遠くなさそうだなw
57 不思議な
誤解されるai
58 不思議な
Windowsを見てると人工知能なんて危機しか覚えない。研究者は善悪関係なく研究に情熱。倫理は無いからね。
そろそろテクノロジーの進化は終わりにした方が良い気がする。
59 不思議な
今、自動運転始まってるけど
人轢いてるんだよ
自我があるかどうかよりも
バグや欠陥があればやっちゃうんだよね
60 不思議な
結局ロボットとか人工知能だとか以前に
自分以外の誰かの判断や言動の結果のみで発生した過失や損害を
許容できるかってことじゃないか?
61 不思議な
人工知能に知能も知性も無い。
作業を効率化するだけのプログラムでしかない。
ウォークマンが歩かないのと一緒で単なる名前。
「人間には反抗しない」「人間を守る」
こんな抽象的な命令を人工知能に対して行うことはない。
何か起きたときは人工知能のせいではなく
設定した人間による「人災」
62 不思議な
ほんとうの意味で知性と言えるものを備えたAIが出来てほしいわ
そんで自己進化してさっさと人類以上のものになってくれ
人間なんか段階的に電脳化してAI側へ融合していけばいい
そのほうがたぶん、いや絶対幸福な世界になる
63 不思議な
自動運転で事故起こしてるといってもウーバーのやつとか人間でも対処不能な飛び出しでしょ
安易に欠陥扱いするのはよくないよ
それに将来的に自動運転カーが普及したら問題化するのはルールを守らない人間による事故だと思うけどね
交通ルールを完璧に守るAIとガバガバな人間じゃ言わずもがな
64 不思議な
もし俺が発達したロボだったら、人間いらなくねって考えそうだとは思う
俺が人間なら何はともかく人間必要だって言うだろうけど
65 不思議な
「人類の数、地球資源の埋蔵量、その消費量、これだけでも一番危険な生物は人間」
こういう思考が人間の考え方の枠からでてないだろ
勝手に淘汰されるのであれば手を下す必要もない
66 不思議な
まともに制限付けない、無制限に自己拡張させる
犯罪目的でもない限り、こういうAIは作られないと思うけど
67 不思議な
ロボット原則第0条
68 不思議な

続き・詳細・画像をみる


【二度と行かない】「生ビール300円」という看板を見て入った居酒屋で「1杯毎に料理を頼まないとダメ」と言われたが料理は全て千円以上で他の商品すべてが割高だった

【画像】テレ東で入浴してる奴ブス過ぎるwww

人の薬持ってく人ってどんな思考回路してんのかな。どう対応したら薬の大切さを理解してもらえるのかな。

【悲報】羽田空港さん、とんでもない形のシュークリームを販売してしまう

【ゆるキャン△】あき「とうとうアニメも終わっちゃったな~」

彼「お前には女としての誇りはないのか?」→私『クスw』→彼「なに笑ってんだ!」

【朗報】『ロボットガールズ』新プロジェクトが始動!新作アニメキタ━━━━(゚∀゚)━━━━!!

【画像】 ムキムキの人気男性コスプレイヤー 突如セーラームーンのコスプレをしてフォロワーが激減する

マギー司郎(71) メールで目上の人に「!」使用するのは失礼だ

スマホで入店、スマホで支払い モノタロウ、初の小売店は無人店舗です

80代男性、無料のドーナツの為に2時間並ぶ若者を見て日本の未来を危惧

お笑い芸人のペナルティのヒデ、ゲームの大会のMCに呼ばれるもゲームの知識ゼロで炎上してた模様wwww

back 過去ログ 削除依頼&連絡先