完璧なフェイクニュースを作成することも可能な高精度のAIが開発される。危険性が高すぎるため完全公開を断念
続き・詳細・画像をみる
1. カラパイア »
2. 知る »
3. サイエンス＆テクノロジー »
4. 完璧なフェイクニュースを作成することも可能な高精度のAIが開発される。危険性が高すぎるため完全公開を断念
-->
完璧なフェイクニュースを作成することも可能な高精度のAIが開発される。危険性が高すぎるため完全公開を断念
2019年02月21日 ι コメント(12) ι 知る ι サイエンス＆テクノロジー ι #
istock
実業家のイーロン・マスク氏らが支援する非営利研究団体「オープンAI（OpenAI）」は、映像変換AI「ディープフェイク」の文章版とでも言えそうな、文章自動生成AI（人工知能）を開発した。
その高性能ぶりはすさまじく、悪用された場合の危険性が高すぎることから、完全版ではなく、ひとまず簡易版のみの公開となったほどである。
スポンサードリンク
-->
これまでのAIとは一線を画すナチュラルな文章を生成
問題の「GPT2」は、数文字の単語であれ、完全な文章であれ、何らかのテキストを与えられると、そこから次に続くだろう文章を予測して、これに基づいた文章を書き出すことができる。
その生成結果の自然さと潜在的な用途の幅広さは、これまで常識を大きく超えている。
GPT2が元の文章の文体と主題を踏まえつつ生成した合成文章には、文章の途中で主題が忘れ去られていたり、長文で構文ミスがあったりといった、これまでのAIシステムでは散見された違和感がほとんど見受けられない。
ジョージ・オーウェル風の小説を生成
たとえば、ジョージ・オーウェルの『1984年』から、「四月のよく晴れた寒い日だった。時計は十三時の鐘を打っていた。」という文章を入力してみる。
するとGPT2はその近未来を感じさせる文体を認識し、次のように続ける。
私は、シアトルでの新しい仕事へ向かおうと車の中にいた。ガソリンを入れ、鍵を差し込み、発車した。その日がどうなるだろうかと少し想像してみた。
今から100年後のことだ。2045年、私は中国の片田舎にある貧しい地域の学校で教師をしていた。最初は中国史と科学史の授業を受け持った。
istock
新聞記事を入力すれば新聞風の文章を生成
またガーディアン紙に掲載されていたブレグジット（イギリスのEUからの離脱）についての記事の最初の数段落を入力してみる。
すると、いかにも新聞記事といった文体で、政治家の発言や、アイルランドの国境問題についての言及、首相のスポークスマンによる回答をたっぷりと引用してみせる。
GPT2が生成した完全にフェイクである一節はこんな感じだ。
報道について明確にするよう求められたメイ首相のスポークスマンは、次のように述べた。『先週の女王の発言で確認されたとおり、自身の意図が可能な限り早期にEUを離脱することで、そのことが交渉目的になるということを、首相ははっきりさせている。』
専門的には2つの点で画期的
研究者の視点から言えば、GPT2は2つの点で画期的だ。
オープンAIの研究ディレクター、ダリオ・アモデイ氏によれば、その1つは、サイズだという。既存のAIモデルに比べて、このモデルは12倍も大きく、訓練に使用されたデータセットは15倍と、はるかに広範な範囲をカバーしているのだ。
そのデータセットは、オンライン掲示板レディットで、投票が3つ以上寄せられたリンクから選ばれた1000万本もの記事が含まれている。40ギガバイトものデータであり、この大きさが生成される文章の質に直結している。
2つめの画期的な点は、従来よりもずっといろいろな用途に利用できるということだ。
入力された文章を構造化することで、翻訳や要約といった作業を行ったり、簡単な読解能力テストをパスしたりといったこともできる。
istock
高性能すぎて危険と判断
しかし、そのあまりの高性能ぶりゆえに、オープンAIはGPT2の完全な公開を見送らねばならなかった。
モデル自体はネット上で訓練されたものであるために、スパムやフェイクニュース、あるいは偏見に満ち満ちた意見や陰謀論などを生成するよううながすのもそう難しいことではないからだ。
そのために、このAIを社会に広く導入する前に、その悪用の可能性について慎重に評価する必要があったのである。
istock
オープンAIのポリシー担当者ジャック・クラーク氏は、「それによってできることと、できないことを明らかにするために実験を行う必要があります」と説明する。
「モデルの全能力に見当がつかないのならば、それを確かめるためにうながしてやらねばなりません。私たちよりも悪用の仕方を考えるのが上手な人たちはたくさんいますから。」
今回公開されたGPT2の簡易バージョンはそのためのものだ。これによって、今後1、2年のうちに可能になるであろうことに対して、世界がどのように備えるべきなのか把握するのである。
クラーク氏は、これについて「地獄からのエスカレーター」という言葉を用いている。
「それは必ずテクノロジーのコストや価格を下げます。テクノロジーを制御するためのルールは完全に変わったのです。なにも私たちがどうすることが正しいのか知っていると言っているのではありません。方針を立てて、こうするべきだと言っているわけでもありません。私たちが行おうとしているのは、もっとしっかりとした考え方を作ることです。そのための道を作ろうとしています。そこを進むのは私たちなのですから。」
References:arstechnica / theguardian/ written by hiroching / edited by parumo
あわせて読みたい
AI（人工知能）にハリーポッター全7巻を学習させてハリポタの新作を書かせてみた。タイトル「ハリー・ポッターと山盛りの灰のようにみえるものの肖像」
人の思考を解読してリアルタイムで文字に変換する「心を読むマシーン」が開発される（米研究）
注文どおりの仕上がり・・・なのか？AI(人工知能)に言葉で指示して画像を生成してもらったところシュールすぎる結果に
人の心を読むAIがついに開発される（米研究）
連続殺人犯「ゾディアック」と同じ思考をするようプログラミングされたスーパーコンピューターが作り上げた不気味なポエム。事件解決の糸口となるか？
この記事が気に入ったら
いいね！しよう
カラパイアの最新記事をお届けします
スポンサードリンク
- twitter公式アカウント
- facebook公式ページ
- カラパイア全記事一覧
「知る」カテゴリの最新記事
「サイエンス＆テクノロジー」カテゴリの最新記事
「サイエンス＆テクノロジー」カテゴリをもっと見る
この記事をシェア :
人気記事
最新週間ランキング
1位
4213 points
汚職を取り締まるために導入したAI（人工知能）が高性能すぎてお蔵入りに（中国）
2019年2月16日
1677228515794
2位
3365 points
睡眠時無呼吸症候群と診断された男性。寝る時に吸引マスクをしろといわれたのでフェイスハガー風に改造してみた
2019年2月13日
127420242344
3位
3250 points
行方不明になっていた飼い犬を探しに出かけたら、謎の犬とヤギを仲間に従えていた件（アメリカ）
2019年2月13日
14311730980
4位
2022 points
アメリカでは毎年53万世帯が破産している。そのほとんどが医療費と病気が原因（米研究）
2019年2月11日
639100729284
5位
1930 points
チョコミン党大歓喜。生八ツ橋にチョコミント味が登場！
2019年2月18日
13385292043
もっと読む
----------------------------------------------------------------------------
スポンサードリンク
カラパイア
コメント
1
1. 匿名処理班
- 2019年02月21日 09:43
- ID:RAULHjY90 #
普通に文脈可笑しくね？
84年の100年後が2045年になるのも訳わかめ
2
2. 匿名処理班
- 2019年02月21日 09:45
- ID:PU3wsX7j0 #
AIって人間に比べてマジに純粋だよな。
まるで加減を知らない子供のようだ。
しかも、なまじ賢いからとんでもない物を生み出す。
ってことはAIってのは実質天才の子供のようなもの？
3
3. 匿名処理班
- 2019年02月21日 09:47
- ID:nxU.lzRZ0 #
よく出来てるなぁ
思わず信じちゃったよ
4
4. 匿名処理班
- 2019年02月21日 09:53
- ID:Klcv6i620 #
自動で自分が読みたいジャンルの小説を生成してくれないかな。
5
5. 匿名処理班
- 2019年02月21日 09:58
- ID:TN.29eiT0 #
※1
入力された文を参考にそれっぽい文を作るAI、つまりあたかも作者が書いたような文を生成できるってことだろ。
てか、入力された文の中にタイトルの「1984年」って数字は入ってないし・・
6
6. 匿名処理班
- 2019年02月21日 10:07
- ID:abp4W8TH0 #
Aｌの能力が上がっているのは勿論だけど、人間が情報に求めるのが真実では無く、自分の求める情報である事が、このAIが作るフェイクを成り立たせているように思いますね。
7
7.
- 2019年02月21日 10:11
- ID:5flt1pHB0 #
8
8. 匿名処理班
- 2019年02月21日 10:13
- ID:phY8.YMK0 #
＞その日がどうなるだろうかと少し想像してみた。
＞今から100年後のことだ。
その日のことなのに１００年後を想像している
＞今から100年後のことだ。
＞2045年、私は中国の片田舎にある貧しい地域の学校で教師をしていた。
100年後のことなのに「教師をしていた」と過去形を使っている
適当に文章作っているけれど全く内容を理解していないから
文章のつながりが全くダメ
たった３行でこれほどひどい文章は人間には無理かな
その低性能ぶりはすさまじすぎる
9
9. 匿名処理班
- 2019年02月21日 10:15
- ID:7qKpUl6z0 #
「四月のよく晴れた寒い日だった。時計は十三時の鐘を打っていた。」という文章に近未来感ないけど、原文にはあるのかな。
10
10. 匿名処理班
- 2019年02月21日 10:18
- ID:5fPXVMPW0 #
現時点でAIに文章力で負けてる奴がいるらしい
11
11. 匿名処理班
- 2019年02月21日 10:34
- ID:9ZoVz2ta0 #
PKディックの小説をベースになんかやってほしい
12
12. 匿名処理班
- 2019年02月21日 11:20
- ID:4iJV6CNx0 #
※9
1948年に書かれた1984年想定の小説だから
13
13. 匿名処理班
- 2019年02月21日 11:39
- ID:.NmL.8rY0 #
日常的にフェイクニュースを垂れ流してる人間側が、AIのフェイクは危険視するって笑っちゃう。
14
14.
- 2019年02月21日 12:12
- ID:MBchmTpA0 #
15
1
続き・詳細・画像をみる
つい最近、親族の相続会議があった。なんと故人の財産には自宅だけじゃなく山があって皆で絶句
妹「いいよお兄ちゃんのバカー、自分で出来るもん」
【兵庫】 乳児を連れた女性に、30代男が「あかちゃん、かわいいですね」と声をかける事案発生
「キャットつながりだから〜」ってことなのか？猫を布団代わりにしようとするミーアキャット
【兵庫】 乳児を連れた女性に、30代男が「あかちゃん、かわいいですね」と声をかける事案発生
義妹が旦那の兄弟の命日で親族で集まる日に彼氏を紹介してきた。違う日にしようよ・・
【悲報】パパ活女子、パパに騙されてしまうwywywywywywyw
【警告】これがNHKによる“スマホによる脳過労”危険度チェックテスト・・・普通に20個当てはまってワロタ
【乳房】なんだよこの漫画ｗｗｗ【注意】
【話題】小藪千豊さんが車イス女性に“神対応”…さすがやで…
【記者会見】東京新聞「国民の代表として会見に臨んでいる」 官邸側「国民の代表とは選挙で選ばれた国会議員」
【画像】松本人志の飲み仲間が豪華すぎる！
back ▲ 過去ログ 削除依頼＆連絡先
