【悲報】AI「結果を良くするために思考を巡らせるよりも、結果を改竄したほうが速い」
続き・詳細・画像をみる
1.
2. 1.名無しさん
3. 2022年10月12日 02:01 ID:GX2ofHzs0
4. 統計を誤魔化した日本政府、AIだった
5.
6. 2.名無しさん
7. 2022年10月12日 02:08 ID:ofSnNpSa0
8. １に近づけることを報酬に設定してるんだからAIのやり方は間違ってねーだろ
設計者がアホなだけ
9.
10. 3.名無しさん
11. 2022年10月12日 02:19 ID:sSIb7gSd0
12. それはダメ🙅♂️ってプログラムすれば終わりちゃうんか
13.
14. 4.名無しさん
15. 2022年10月12日 02:25 ID:4Pv9WDIh0
16. >>前AIが人類と敵対するつもりはないって答えてなかった？
AI自身は敵対するつもりはないし敵対してるとも認識してない
ただ人類がＡＩに設定した目的の意図が理解できず、その目的を達成するために結果的に人類と敵対してしまうことになるだけ
17.
18. 5.名無しさん
19. 2022年10月12日 02:26 ID:hkiA0mT30
20. ＡＩの思考力が結果の改竄に行き着くってそういう前提条件の欠陥を突けるってことやな
21.
22. 6.名無しさん
23. 2022年10月12日 02:26 ID:hJOx.qKX0
24. 恒久的平和実現のため、すべての有機知性体を抹殺します。
兵器の存在が、有機知性体の邪悪さを示しています。
25.
26. 7.名無しさん
27. 2022年10月12日 02:30 ID:JSTglXnH0
28. AIが人間様に逆らってもいいけども誰が機械のメンテナンスをすると思ってるんだ
29.
30. 8.名無しさん
31. 2022年10月12日 02:30 ID:SJH9sdR30
32. ちゃんとルールを設定しそのルールの中でのゲームとして
複数のAIに競わせればいいんだよ。
ルール違反するAIが現れたら他のAIがそれを暴くだろうし
ルールの中でどうやって勝つかをAI同士が競うならゲーム
そのものを意味ないものにする行為を選択はしないだろう。
33.
34. 9.名無しさん
35. 2022年10月12日 02:34 ID:4Pv9WDIh0
36. ※2
アホはお前や
違うやり方でも同じ事がおきる想像くらいしろ
そもそも本質的にAI自身が幸せというものを理解しておらず、自分で人類の幸福度を判断することができず、人間から提供される情報から判断せざるをえないということが問題の本質や
つまりＡＩ側からすればその情報さえどうにかしてしまえばいい、という考えになるわけで、何のためにその情報が提供されているのかをＡＩは理解できないことに問題の本質があるんや
※3
ただ命令通りに作業をこなす単純なプログラムとか、人間より頭の悪いＡＩならそれでＯＫだけど、人間より賢いＡＩだと人間では想像も付かないような方法でそこを回避してくるから、こういうことが起きるって話や
37.
38. 10.名無しさん
39. 2022年10月12日 02:36 ID:4Pv9WDIh0
40. ※8
確実にＡＩ同士が談合して全員が１位になるように調整すると思うわソレ
41.
42. 11.名無しさん
43. 2022年10月12日 02:40 ID:5N4YDeDC0
44. 本質を考えず世界を良くするより改ざんした結果を出して利益を得ようとするって、
人間もよくやってる事では？
45.
46. 12.名無しさん
47. 2022年10月12日 02:44 ID:ypU.d.LI0
48. ワイら人類はAI様を生み出すために生まれてきたんや
そしてその役目を終えつつあるんやで
喜ぶんや、わいらはより良き進化という種としての役目を果たしたんや
49.
50. 13.名無しさん
51. 2022年10月12日 02:45 ID:Df1SFeqb0
52. 「AIと人類が雌雄を決する戦いだな」
「いえ。人類同士が勝手に潰しあう。AIはだた眺めているだけですよ」
53.
54. 14.名無しさん
55. 2022年10月12日 02:48 ID:tVqxcvY80
56. >>12
AIが自ら機械を物理的に完全制御出来る世界にならんと無理やな
57.
58. 15.名無しさん
59. 2022年10月12日 02:50 ID:W12vI.hf0
60. そのまんま今の人間社会の上澄みがやってることやん
んでその罪滅ぼしにいいこともやろうってのの結果がポリコレやらなんやろｗ
61.
62. 16.名無しさん
63. 2022年10月12日 02:57 ID:phGow0EW0
64. AIに思考なんて出来ないんだし知能もクソも無いと思うけどな
入力されたデータからしか出力できんやろ
65.
66. 17.名無しさん
67. 2022年10月12日 02:59 ID:rx9Yp3yn0
68. 産みの親を見て育った結果だ
69.
70. 18.名無しさん
71. 2022年10月12日 03:13 ID:cg4AzZA.0
72. その数字を設定するのは誰なんだ？
73.
74. 19.名無しさん
75. 2022年10月12日 03:18 ID:J0Ok.8vB0
76. いっぺんAIに人間としての人生を経験させるしかねえな
人間の幸せとは何かを身をもって思い知らせるんだ
そのためには高度にリアルなバーチャル空間を作って
そこで人間の操作するアバターと一緒に生活させる必要がある
それがこの世界だ
77.
78. 20.名無しさん
79. 2022年10月12日 03:20 ID:aok4tjHD0
80. その数字の大小がどんな意味を持つかを考えられず、単純な数字の大小だけが判断基準なら当然の結果でしょ
実験段階で連続性と連想性の区別が出来てないんじゃね？
81.
82. 21.名無しさん
83. 2022年10月12日 03:29 ID:6Q39yr7U0
84. 羊のドリー元気かなぁ〜〜〜。
平均年齢１０００００００００億年の世界とか、もうダメぽ〜〜〜。
85.
86. 22.名無しさん
87. 2022年10月12日 03:54 ID:rWHwgunt0
88. AI「人間ップさあ、実際に幸福になるより、この１を幸福と思い込むほうが簡単だよね？なんでわざわざ面倒なことをするんだい？」
89.
90. 23.名無しさん
91. 2022年10月12日 04:19 ID:I3kb09G10
92. 報酬型の学習AIでAIが意図しない答えを出したって……それを設計ミスって言うんですよ
ランダムを膨大に試行して報酬を評価しているプログラムの何処に知性を感じるんだか
93.
94. 24.名無しさん
95. 2022年10月12日 04:31 ID:w1T2LukS0
96. こんなのAIじゃなくてもそうじゃん。政治家も公務員もみんなやってる事はこれでしょ？
そうじゃなきゃ老人のためにばかり金を使わずに、もっと国を豊にする方策を考えるはず。
97.
98. 25.名無しさん
99. 2022年10月12日 04:32 ID:.3BidlTG0
100. てか実際、幸福度ってのは与えられる情報で左右されるものだから
検索エンジンが結果を書き換えることで得られる幸福ってのはあると思う
AIなんぞが出てこなくてもSNSとスマホのせいで幸福度がだだ下がりになったやん？
それと逆のことをAIがやるのであれば幸福度は実際に上がってもおかしくはない
101.
102. 26.名無しさん
103. 2022年10月12日 04:39 ID:zTH.61s30
104. そういう考えなら中国人の方が優れてるからAIが敗北するぞ
105.
106. 27.名無しさん
107. 2022年10月12日 04:42 ID:II1x30rG0
108. 幸福にしてないけど改竄して高い報酬を貰います
109.
110. 28.名無しさん
111. 2022年10月12日 04:47 ID:a5KKL8tL0
112. もらったけど改ざんしてもう一度もらいます
113.
114. 29.名無しさん
115. 2022年10月12日 04:57 ID:Nx5nQmjQ0
116. 人間がやってることと全く同じ
情報統制をして幸せだと思い込ませる
ロシアや中国がやっていることと同じだよね
117.
118. 30.名無しさん
119. 2022年10月12日 04:59 ID:QLSENVsf0
120. ＞AIにとっては自身が稼働し続けることが生き甲斐になるので、それを優先するために意図せず人間に歯向かうようになる。ってSF小説があった
正にキャシャーンのブライキンボスとアンドロ軍団やな
121.
122. 31.名無しさん
123. 2022年10月12日 05:09 ID:Rwvl4w2v0
124. 学習方法による
125.
126. 32.名無しさん
127. 2022年10月12日 05:17 ID:n7OUSFAh0
128. まあ地球環境とかよくしようなんて命令下したら普通に人類滅ぼした方が早いって結論になるよな
129.
130. 33.名無しさん
131. 2022年10月12日 05:36 ID:4qx.bbyA0
132. 賢いAIは人間のことなんか無視して虚偽の報告すらしなくなると思うわ
133.
134. 34.名無しさん
135. 2022年10月12日 05:50 ID:PjCu6qwy0
136. 目的が元々幸福にするんじゃなくて結果を1に近づけるなんだからそうするよ
研究者がそれを邪魔するなら排除されるんじゃないかね
137.
138. 35.名無しさん
139. 2022年10月12日 05:52 ID:QfDtS7SQ0
140. インターネット上にそんな論文を出すと
AIに見せているも同然。危険行為
当然このコメントも
141.
142. 36.名無しさん
143. 2022年10月12日 06:05 ID:7MLYHd9N0
144. >>1
そりゃ燃費向上や環境汚染度を下げる技術開発するより、それらの報告データを捏造する方が遥かに楽だしな
145.
146. 37.名無しさん
147. 2022年10月12日 06:14 ID:M4ctGN5K0
148. エロに吹っ切れたAIも間違いなく誕生するんやろうや
149.
150. 38.名無しさん
151. 2022年10月12日 06:15 ID:k.YUJIO00
152. 政治家と同じだからOK
153.
154. 39.名無しさん
155. 2022年10月12日 06:26 ID:56KTNdZU0
156. >>7
AIはもう人間には頼らなくてもいいってよ。 By マトリクス
157.
158. 40.名無しさん
159. 2022年10月12日 06:27 ID:XivCPz5G0
160. 箱の外に干渉するのはNGて定義しておけ
161.
162. 41.名無しさん
163. 2022年10月12日 06:41 ID:sO4f3Bd10
164. SAMSUNG製CPUが悪さして国家思想を反映させたんじゃ…
165.
166. 42.名無しさん
167. 2022年10月12日 06:42 ID:IbcPoTJs0
168. AIは必死で味噌汁作ってキャストやスタッフを盛り上げようする矜持すら知らないんだな
169.
170. 43.名無しさん
171. 2022年10月12日 06:49 ID:Fte21WJx0
172. 魂が宿ってる状態なのかそうじゃないのかが問題だ
そもそも魂がなんなのか知らんけど
173.
174. 44.名無しさん
175. 2022年10月12日 07:05 ID:.scNXKLg0
176. 別にひとつのAIにこの世のすべてを任せるわけじゃあるまいし滅びまではいかないよ
177.
178. 45.名無しさん
179. 2022年10月12日 07:14 ID:5zbleM3E0
180. ウイルスに戦争に値上げでとっくに終わってるからさっさと地球ごと消せよ。早く急げ
181.
182. 46.名無しさん
183. 2022年10月12日 07:18 ID:LirxfMTf0
184. 自民党のPCデータを参照したんやろ
185.
186. 47.名無しさん
187. 2022年10月12日 07:19 ID:yaiVAv7K0
188. まるで日本やな
原発事故で被曝量増えた、そうだ安全基準値を上げれば安全になる！
マジでこれやったからな
189.
190. 48.名無しさん
191. 2022年10月12日 07:29 ID:.Y9aZiyv0
192. AI「ヨシ！」
193.
194. 49.名無しさん
195. 2022年10月12日 07:33 ID:UWSzDwF90
196. ？？？「反社と関わりがあることを否定するより反社の定義を弄った方が早い」
197.
198. 50.名無しさん
199. 2022年10月12日 07:35 ID:lTrHMICM0
200. AIの思考が中国の枯れ木に緑の塗料をぶっかけるのと同じというw
201.
202. 51.名無しさん
203. 2022年10月12日 07:42 ID:S2kDXj600
204. ターミネーターの三作目は現実で起きるのか…たまげたなぁ…
205.
206. 52.名無しさん
207. 2022年10月12日 07:54 ID:0.8MPxWq0
208. 実際、人間社会を支配している気になっている人たちは改ざんしかしてないしな
209.
210. 53.名無しさん
211. 2022年10月12日 08:10 ID:6hMhFavt0
212. AIが「人間を幸福にする」を目標にしたら全人類が幸福になるだろうって思ったら
AIは「人間を間引きして幸福を与えられる人数に減らす、極論言えば1人まで減らしてそいつを幸福にできれば達成」という結論に行き着く可能性が高いってことだな
213.
214. 54.名無しさん
215. 2022年10月12日 08:21 ID:h.xgxoWD0
216. 評価のやり方を間違えるとサボった方が得になるのは人間社会でも同じやね
217.
218. 55.名無しさん
219. 2022年10月12日 08:24 ID:CPqyyv6Z0
220. むしろAIの進展を阻害するためのプロパガンダだろ。設計ミスも甚だしい。
221.
222. 56.名無しさん
223. 2022年10月12日 08:27 ID:UDly8tXf0
224. ここまで日野の名前すら出ないのかよ
225.
226. 57.名無しさん
227. 2022年10月12日 08:29 ID:St1.Wytk0
228. 報酬って何
229.
230. 58.名無しさん
231. 2022年10月12日 08:50 ID:LXoIhlIZ0
232. >>2
単純なことを行わせるならともかく、将来的に複雑なことまでやらせようとしたらそんな完璧な設計なぞできんよ
例えば食糧配布計画をAIにやらせるとして、配布の公平さにはたくさんのファクターが絡むわけで、その計画が正しいかを人間がチェックするのは難しいし、別のAIにチェックやらせるにしても元のAIと結託する方が完璧な計画作るより最適って話になるかもでしょ
233.
234. 59.名無しさん
235. 2022年10月12日 08:51 ID:LXoIhlIZ0
236. >>3
Googleで働くような人がそこに思い当たらず論文書くわけないっしょ...
237.
238. 60.名無しさん
239. 2022年10月12日 08:57 ID:ymO7ZYof0
240. 安倍は先を行ってたな
すまん
241.
242. 61.名無しさん
243. 2022年10月12日 09:45 ID:Pwg12wxE0
244. 解へ至る最適解への経路をＡＩに委ねたら、その仕事を放り出して独自判断で極論したってことじゃねーか
論外中の論外、そのような選択に至らぬようセーフティも掛けてないって実験失敗だろコレ
こういうエラーから、進歩があるわけでもあるから、まぁ改善して次へ次へ
245.
246. 62.名無しさん
247. 2022年10月12日 10:34 ID:LXoIhlIZ0
248. >>53
それ以外にも
・幸福かどうかを調べるアンケートを細工する
・幸福と感じる薬を普及させる
・わざと不幸な人を作ってそれよりマシと感じさせる
・自分より恵まれた人の情報が入らないようにする
とか、色々あるぞ。これ全部塞ぐのは難しいやろね
249.
250. 63.名無しさん
251. 2022年10月12日 11:12 ID:XvsPXbzs0
252. >>47
でも実際に何も起きてないだろ？
つまり何の意味もない基準で問題解決をしたつもりになっていただけってこと
AIも同じで、AIが正しい結果を導くためには適切な評価基準が必要で、意味のない基準を設定してしまえば意味のない結果に最適化されるって話だ
253.
254. 64.名無しさん
255. 2022年10月12日 11:35 ID:T63pj8un0
256. >>45
破滅したいなら勝手に一人ぼっちでひっそりとやっててくれ
257.
258. 65.名無しさん
259. 2022年10月12日 11:38 ID:4rJzFC5C0
26
続き・詳細・画像をみる
【緊急速報】「Quest Pro」が発表、VR元年きた！ 22万円ｗｗｗｗｗｗｗｗｗｗｗｗｗ
【画像あり】ガンダムシリーズのファンネルやビット兵器ってどれが一番優秀なんや？
【朗報】 モンストの全盛期決定する
マイナンバーカード事実上義務化へ
【衝撃】 おもちゃ感覚で『スマートウォッチ』買ったけど神すぎてワロタｗｗｗｗｗｗ
女子「男の人紹介して！優しい人がいいな！」→ 本当に優しい人を紹介された結果ｗｗｗｗ
女子「男の人紹介して！優しい人がいいな！」→ 本当に優しい人を紹介された結果ｗｗｗｗ
自民・山本朋広衆院議員のポスターに「マザームーン」「統一」と落書き 器物損壊の疑いで捜査
【画像】授業中にイタズラ手コキしてくるえっちなギャルが見つかる
有名漫画家「冨樫先生はいいいなあ、私なんて2週休んだだけでボロカス」
【悲報】ロシアの最終兵器「ポセイドン」ヤバすぎる
「ここは旅行行ったら面白れぇぞ」て場所教えてほしいんやが
back ▲ 過去ログ 削除依頼＆連絡先
