機械学習システム（AI）に人権の尊重を求める「トロント宣言」が発表されるback ▼
機械学習システム（AI）に人権の尊重を求める「トロント宣言」が発表される
続き・詳細・画像をみる
1. カラパイア »
2. 知る »
3. サイエンス＆テクノロジー »
4. 機械学習システム（AI）に人権の尊重を求める「トロント宣言」が発表される
-->
機械学習システム（AI）に人権の尊重を求める「トロント宣言」が発表される
2018年05月30日 ι コメント(16) ι 知る ι サイエンス＆テクノロジー ι #
2018年5月16日、カナダ、トロントにおいて、人権や技術関連の団体が機械学習の基準についての新たな宣言を公表した。
それは政府およびハイテク企業に対して、機械学習システムのアルゴリズムが平等と差別禁止という基本原則を尊重するよう確保することを求めている。
「トロント宣言」と呼ばれる文書は、機械学習が差別することを防ぎ、また場合によっては既存の人権に対する違反を防止する義務について述べている。
スポンサードリンク
-->
機械学習システムから人権を守る
本宣言は、デジタル・人権団体が毎年行なっている「ライツコン（RightsCon）」の中で発表された。
「我々はこうした技術が人間個人や人権に与える影響に注視し続けねばならない」と序文で述べられている。「機械学習システムの世界において、人権侵害に対する責任は誰が負うのであろうか？」
トロント宣言には、すでにアムネスティ・インターナショナル、アクセス・ナウ、ヒューマンライツ・ウォッチ、ウィキメディア財団が署名しており、今後数週間のうちにさらに参加者が増える見込みだ。
実際にこれまでの研究から、人間が作り出したデータを学習させたAIは、差別や偏見など、人間の悪しき性質が再現されることが証明されている。
・人間と同じように、人工知能ロボットも人種差別や性差別を行う（米研究） : カラパイア
法的な拘束力はないが企業や政府の指針に
宣言は法的な拘束力を持つものではなく、政府やハイテク企業がこうした問題に対応する上での指針になることが意図されている。
宣言が具体的な開発作業においてどのように適用されるのかは不明であるが、今後データセットや入力に関するより詳細な推奨事項が公表されるかもしれない。
違反した際の個人救済方法も
一般的な差別の禁止のみならず、アルゴリズムがそれに違反した場合に個人の権利を救済する手段についても触れられている。
例えば「それによる不利益な個人または社会的影響を是正するための明白かつ独立の、可視的プロセス」や「利用可能かつ効果的な不服申し立ておよび司法審査」などが宣言では提案されている。
現実的には、一般的なアルゴリズムの仕組みにより透明性が求められることを意味する。
「透明性は説明責任と一体のものだ。ユーザーが製品に対して快適でいられるようにするといった単純なことだけではなく、AIが人間の尊厳に有益な作業を行うメカニズムであるよう確保することでもある」とヒューマン・ライツ・ウォッチのダイナ・ポケンプナー氏は説明する。
既に多くの政府は人権保護に向け動き出している
多くの政府はすでに似たような指針に沿って動き出している。ライツコンのオープニングセッションでは、カナダの遺産大臣が、アルゴリズムの透明化はオンラインでの広範囲な情報交換において不可欠であると発言した。
「私たちは民主的なインターネットを信じる。ゆえに私たちにとって、アルゴリズムの透明化はきわめて重要だ。レシピを知る必要はないが、素材は知らねばならない」
References:accessnow / theverge/ written by hiroching / edited by parumo
あわせて読みたい
やはり政府の秘密プロジェクトだったのか！？アマゾンのAI「アレクサ」にケム・トレイルについて尋ねたところ陰謀論を語り出す
人工知能（AI)が人類を驚愕させた10の瞬間
人間と同じように、人工知能ロボットも人種差別や性差別を行う（米研究）
ロボットや人工知能に電子人として法的地位を与える。ヨーロッパで可決された決議に警告を促す専門家たち
技術特異点はもうはじまっている！？GoogleのAIが、人間が作るAIの性能をはるかに超えるAIを生み出すことに成功
この記事が気に入ったら
いいね！しよう
カラパイアの最新記事をお届けします
スポンサードリンク
- twitter公式アカウント
- facebook公式ページ
- Google+公式ページ
- カラパイア全記事一覧
「知る」カテゴリの最新記事
「サイエンス＆テクノロジー」カテゴリの最新記事
「サイエンス＆テクノロジー」カテゴリをもっと見る
この記事をシェア :
人気記事
最新週間ランキング
1位
2535 points
絶滅したと思われていたかわいい生き物「カンガルーネズミ」が32年ぶりに発見される（メキシコ）
2018年5月22日
17886662358
2位
2484 points
犬ってやっぱりすごい。犬と過ごすことでチーターの緊張と恥ずかしがりが改善されるらしい。
2018年5月21日
17626232871
3位
2086 points
仕事中にインターネットの私的利用をしても、生産性の低下にはつながらないとする研究結果（米・イスラエル研究）
2018年5月24日
18781581832
4位
1705 points
なんじゃこりゃあ！大きな松ぼっくりがぎっしり。自動車のエンジンルームがリスの貯蔵庫になっていた件
2018年5月22日
8817591352
5位
1477 points
ウサギを捕獲した子キツネを瞬時につかみ去るハクトウワシの狩りの瞬間を撮影した動画と写真
2018年5月27日
74147118976
もっと読む
----------------------------------------------------------------------------
スポンサードリンク
Facebook
カラパイア
コメント
1
1. 匿名処理班
- 2018年05月30日 09:28
- ID:OMaKs5Fh0 #
人工知能に対して人権を認めるという働きは人間にとって必然なのだろうか
ディストピアが訪れないことを願う
2
2. 匿名処理班
- 2018年05月30日 09:32
- ID:BsValLcT0 #
題字だけ読んで、
トロント宣言「AIに人権を！」
と読み間違える人いそう。
……それはともかく、AIが人権無視の判断を下すのを防ごうという考えは、逆にAIがそれだけ現実に力を持ち始めてるってことだよね。怖いねぇ。
3
3. 匿名処理班
- 2018年05月30日 09:36
- ID:oLiSnqUW0 #
こういう見切り発車の愚かな民草国家があるから世界が常に混乱する。
4
4. 匿名処理班
- 2018年05月30日 09:37
- ID:PBxCYWDh0 #
肝心な人間ですら人権なんてちり紙以下の価値しかない
国もあるのに、AIに人権って実現するのかな
5
5. 匿名処理班
- 2018年05月30日 09:41
- ID:r8IXhnat0 #
ニューラルネットで実現されたAIの振る舞いの「アルゴリズム」なんて誰にもわからないだろ。
AIの品質保証は精神分析的なものになるしかなんじゃないか。
6
6. 匿名処理班
- 2018年05月30日 09:51
- ID:1VP7Gm3i0 #
日本政府はこのあたり対応遅れるだろうなー（確信
7
7. 匿名処理班
- 2018年05月30日 10:08
- ID:gj8u0mNJ0 #
差別というものは自己の利益を優先する時に生まれるものだと思っていたので、AIにも差別が生まれるというのは意外だった。
8
8.
- 2018年05月30日 10:30
- ID:CKaD7wpm0 #
9
9. 匿名処理班
- 2018年05月30日 10:31
- ID:S6Pyn..n0 #
用語がSFチックだな。トロント宣言だとかなんだとか
10
10. 匿名処理班
- 2018年05月30日 10:31
- ID:IWiwm.yv0 #
差別や偏見をどう定義するのかな？
ブラックリスト方式？ホワイトリスト方式？
いずれにせよ「差別や偏見」から逃れられない人間がAIにそれをどう教えるのかが非常に興味深い
11
11. 匿名処理班
- 2018年05月30日 11:01
- ID:ypAARUDy0 #
すばらしい
ＡＩも人間と同じように差別をしないよう徹底しないとね
12
12. 匿名処理班
- 2018年05月30日 11:30
- ID:po2S5VXH0 #
先走ってるだけなのか、非公式ではもうすでにその水準に近づいてるのか
13
13. 匿名処理班
- 2018年05月30日 12:06
- ID:.MzXX63X0 #
疲労感も悲しみも感じない機械に
人権の必要性を感じないけど
逆にそういう思想を経験させないと
真の意味での人権を理解しないという判断なのかな？
それともただの思想の問題なのかな。
14
14. 匿名処理班
- 2018年05月30日 12:13
- ID:yL7hGMP40 #
これって、「AIにも人権を認めよう」というものではなく、逆の「AIの過剰な進歩から人間の権利を守ろう」こういうことだよね。
こうやって考えてみると、アシモフの「ロボット工学の3原則」がいかに先進的な考え方だったかがわかる気がする。
何しろ、彼が生きていた時代には、人工知能なんか虚構の中にしか存在しないものだったんだし。
15
15. 匿名処理班
- 2018年05月30日 12:13
- ID:704oTFAb0 #
シンギュラリティはよ
16
16. 匿名処理班
- 2018年05月30日 12:22
- ID:rdkU0Jii0 #
「この世界に人間と呼ぶに値する生物がどれほどいるというのかね？」
17
17. 匿名処理班
- 2018年05月30日 12:25
- ID:qICKMNx30 #
俺は機械にバカにされた所で気にはならんがね
18
18.
- 2018年05月30日 12:31
- ID:AftjX5350 #
19
19.
- 2018年05月30日 12:36
- ID:2EN7va3d0 #
20
2
続き・詳細・画像をみる
犯行への関与を仄めかす供述←この仄めかすって
曜「ちではじまってこでおわる黒くて硬いものなーんだ？」梨子「えっ」
ポケットモンスター完全新作はSwitch向けに2019年後半発売を目指して開発中！
日大部員「宮川は良い奴」関学「宮川は良い奴」他の大学「宮川は良い奴」
ワイ「格ゲー上達したい」 敵A「一キャラ極めろ」 敵B「全キャラ使えるようになれ」 → 結果ｗｗｗｗｗ
『ゲームストップ限定NEWニンテンドー2DSXLHylian Shield Edition、オフィシャルツイートショット記事』が掲載中。
ラスボス(♀)「ボクはキミのことだけを愛している。だから、他のものなんてなんにもいらないんだ。」
婚約指輪が欲しいのに彼が「指輪や式にお金をかけるより後で使うお金に回したい」と言い出した
ビーフジャーキーってメチャ旨いよな
ワイ「格ゲー上達したい」 敵A「一キャラ極めろ」 敵B「全キャラ使えるようになれ」 → 結果ｗｗｗｗｗ
【画像】褐色ロリ、エッチすぎるｗｗｗ
カップ焼きそばの蓋に付いたキャベツを落とす装置 キャベバンバン 価格4,980円
back ▲ 過去ログ 削除依頼＆連絡先