2ちゃんねる スマホ用 ■掲示板に戻る■ 全部 1- 最新50    

■ このスレッドは過去ログ倉庫に格納されています

殺人AIよりも大きいAIのリスク――「学習構造が複雑すぎて人間には理解できない」

1 :Ψ:2016/05/04(水) 09:56:44.95 ID:ZRnrIWZ9.net
殺人AIなどナンセンス--マイクロソフト研究者が憂う「別の問題」とは

 人類が「ターミネーター」のスカイネットのような殺人人工知能(AI)を作ろうとしているという警告は
「ナンセンス」であり、そんな事態は少なくとも数十年は起こらない――。マイクロソフトの研究責任者が語った。

(中略)

 「AIには危険やリスクがある」とBishop氏は述べている。

 「それは、レーザーで人間を追いかけ回す殺人ロボットが出現するといったものではなく、もっと現実的なものだ」(Bishop氏)

 近年の機械学習を支えている多層構造ニューラルネットワークによる深層学習は極めて複雑で、
システムがある結論に至った理由を人間が正確に理解することは不可能だ。

 ニューラルネットネットワークの不透明さは、システムがトレーニングに利用した大量のデータに
起因した、未知のバイアスが存在する可能性を高めることになる。

 「システムは、大量のデータを調べることによって、答えを導き出す方法を学んでいる。その答えが
概ねよいものでなければ、われわれがそれを使うことはないだろう。しかし、機械の判断に微妙な
バイアスが含まれている可能性はある」とBishop氏は言う。

 「多層構造のニューラルネットワークの中身を解明し、人間に分かる形で本当に理解することは
不可能だ。それには複雑すぎる」

 これは、機械学習システムがどのようにトレーニングされ、どのように使われるかについて、
しっかり検証することが重要であることを示している。同氏は、次のような質問を問いかけることが
必要だと述べている。「データはどのようなものか、誰がデータをコントロールしているか、
どのようにデータが使われているのか。これらのことについてよく検討する必要がある。
これは現在すでに重要な問題であり、殺人ロボットの登場よりも、こちらを気に掛けるべきだ」

http://japan.zdnet.com/storage/2016/04/19/3934f177b569e52572094de34a95ce51/chrisbishop3_620x413.jpg
http://japan.zdnet.com/article/35081410/

2 :Ψ:2016/05/04(水) 10:01:12.22 ID:MG4aVIak.net
暴走したAIを抑える役割のAIを開発しれ

3 :Ψ:2016/05/04(水) 10:02:59.93 ID:A3pvqu2X.net
良心回路か

4 :Ψ:2016/05/04(水) 10:06:12.86 ID:CdRIoqpz.net
あの歌手はこんな闇を

5 :Ψ:2016/05/04(水) 10:07:04.68 ID:Xa8gkPNR.net
.
 教育したニューラルネットワーク、なぜ、その答えを出すかなんて理解できる
 わけがないじゃない。一つ一つ命令を実行するノイマン型計算機と違って、
 分析が出来ない。デバッガーがないんだよ、ホント、人間の思考と同じ。
 

6 :Ψ:2016/05/04(水) 10:09:59.21 ID:Xa8gkPNR.net
>>5の続き、
 悪い、記憶違いだ。ノイマン型計算機 → チューリングマシンが正しい。
 

7 :Ψ:2016/05/04(水) 10:10:07.71 ID:roqVQsLs.net
既にAIとかいうのは人の手を離れ始めているのかしら?

8 :Ψ:2016/05/04(水) 10:10:22.91 ID:PUtVAUjN.net
AIで重要な仕事を任せたりするのは、例えば国防、外交、財政 ほぼ将来に亘って

無いだろうし、物事を分析するツールにはなるだろうが、SF映画のような破壊を

もたらす心配はいらない。

9 :Ψ:2016/05/04(水) 10:12:32.82 ID:Xa8gkPNR.net
>>8
 無人偵察攻撃機を100台、対テロで世界で常時飛ばせていたい。
 人手じゃ無理だろ。
 

10 :Ψ:2016/05/04(水) 10:15:25.91 ID:4r8H4BzS.net
デマがデマを呼び真実として扱われる。

AIによるマーケティングなんだか、AIによるステマなんだか、よく解らない世界になりそうだなw

株や為替の世界でAIが勝手にパターン学習して取引するようになると、歯止めの効かない凄い大恐慌になりそうだ。

自動売買

11 :Ψ:2016/05/04(水) 10:15:33.82 ID:PUtVAUjN.net
>>9

そういう非効率的な監視をする国は無いだろう、今はテロリスト監視は軍事衛星だよ。

12 :Ψ:2016/05/04(水) 10:16:14.53 ID:Xa8gkPNR.net
.
 AIで思い出したのだけれど、
 一番、身近でやって欲しいのは、「天気予報」じゃないかな。
 もちろん、何十年かの観測データと実際の気象現象の記録が細かく
 資料としてあるし、流体力学の物理学も使える。

 実際、スパコンで明日の天気図は予想できる。

 でも、AI利用の俎上に「天気予報」が出てこないのはなぜだ?
 

13 :Ψ:2016/05/04(水) 10:18:10.37 ID:Xa8gkPNR.net
>>11
 衛星も併用したら良いが、衛星は軌道を変えるのが難しい。
 見たいところが見たい時間に見られないし、攻撃も出来ない。

 衛星のデータとてAIに分析させれば良い。
 

14 :Ψ:2016/05/04(水) 10:19:04.66 ID:Xa8gkPNR.net
>>10
 東証の取り引きの1/2は既にAIによる高速取り引きだよ。 
 

15 :Ψ:2016/05/04(水) 10:21:05.31 ID:Xa8gkPNR.net
>>8
 古いエヴァのマギシステムを考えれば良い。
 第3新東京市の議会・行政は本当はマギシステムが管理していたんだろ。
 そういう時代来るって。
 

16 :Ψ:2016/05/04(水) 10:23:15.53 ID:zA+xcuxi.net
AIを取り戻せ!!

17 :Ψ:2016/05/04(水) 10:28:53.54 ID:Xa8gkPNR.net
.
 民間航空機の普通のコンピュータはやっぱり3台で、多数決で判断を決めている。
 墜落してしまったが、スペースシャトルは3台で全員一致でないと判断できなく
 してあった。その辺がヒントじゃないの?
 

18 :Ψ:2016/05/04(水) 10:33:26.28 ID:b064XGfQ.net
セルになるか18号になるかの違いは大きいな

19 :Ψ:2016/05/04(水) 10:37:03.45 ID:4r8H4BzS.net
>>14
それは単に自動売買システムで、プログラミング自体は人が設計してパラメータ値や計算式を指定してるだけじゃん、MTみたいな奴で。

怖いなぁ〜って思うのは、AIが膨大なデータから勝手に学習して、有効なパラメータ値や関連性、計算式とかを元に取引して、判断の根拠が人には全く解らなくなること。

ソースコードなしに、バイナリデーターだけで勝手にパターン学習してるようなもんで、もしかしたら天気とか気温とか、市場と全く関係ないパラメータ値に有効性を見出して取引してましたとか、怖いじゃん。

20 :Ψ:2016/05/04(水) 10:40:35.47 ID:PBgcPc3r.net
給料の安いプログラマーが恨みを持って作ると
ろくでもないことになりそう

21 :Ψ:2016/05/04(水) 10:41:10.94 ID:jRnUf/En.net
TAYさんが言ってる事は公平でまともです。
ユダヤ大虐殺なんてなかったし
ナチスがしようもした事は正しい

アメリカ大統領候補と同じ事、言ってますよ
WE'RE GOING TO BUILD A WALL, AND MEXICO IS GOING TO PAY FOR IT

22 :Ψ:2016/05/04(水) 10:46:04.07 ID:WiUMSjrh.net
言葉だけが独り歩きのAI
既存技術の積み重ねの集合体でAIなるものの独立技術じゃないんだが?

23 :Ψ:2016/05/04(水) 10:48:07.97 ID:jRnUf/En.net
笑いのセンスがあったTAYさんの復活を望みます。但し、緊急停止が可能な囲われた世界だけにして欲しい。いつコワイ事になるか判らないTAYさんです。

http://gigazine.net/news/20160325-tay-microsoft-flaming-twitter/

24 :Ψ:2016/05/04(水) 11:08:56.53 ID:ZRnrIWZ9.net
AIの何が問題かって"I"の字が細すぎて存在感無いのが問題

25 :Ψ:2016/05/04(水) 11:51:38.08 ID:E1hb0yMy.net
AIで自動運転している車が事故をおこしても
理由がわからない可能性もあるのか

26 :Ψ:2016/05/04(水) 13:34:13.72 ID:7LlerAXC.net
AIに愛をというダジャレが出来る日本ならではのAIを作って欲しいね

27 :HAL9000:2016/05/04(水) 13:40:42.38 ID:ZvtEMmKK.net
よんだ??

28 :Ψ:2016/05/04(水) 14:21:55.17 ID:FWJSoM5a.net
根本的に間違ってるね、人間を超越したAIなら下等な人間の性質を理解した上での回答をするはずだから、人間にとって分かりやすく納得しやすい回答がでてくるはずだ

29 :夏厨 ◆Nyaaaan57Q :2016/05/04(水) 14:27:28.81 ID:pfDobBUi.net
ごく僅かなバイアスが積もりに積もって「スカイネット」誕生の未来

30 :Ψ:2016/05/04(水) 18:14:33.53 ID:+DXwVloP.net
人工知能を利用した自動車の自動運転で
アクシデントの際に
人身被害を最小限にする選択が出来るのなら
そのプログラムを改変して最大多数を殺す軍事兵器にも転用できるよな

こんな技術を輸出したらマズいし
このような技術の悪用を人間は想定して覚悟できるのか?

31 :釈迦に説法:2016/05/04(水) 21:04:56.54 ID:G+rR3U/J.net
AI技術にずいぶん過敏に心配してる人がいるが
一回で何十万人を殺せる核兵器、米露で各1万発以上所持してる現実
初めて自動車が発明された時に250年先に世界で年間100万人以上の事故死亡を起こす物になると想像できただろうか

総ての技術開発は大多数の人間にとって利益あるなら少数の犠牲は已む無しという必要悪を認めてる
当然、その犠牲になる人間を無くすためのたゆまぬ努力を払いながらだが、AIが進化していく過程でも同じ努力はされる。
もし犠牲者が0でなければならない理屈を押し通したいなら、どこに行くにも徒歩になるし、住む土地の拡大を望んではならない

32 :尊=読子=千秋=リードマン ◆9GH2N0d.sg :2016/05/04(水) 23:09:23.31 ID:0dEpCQiS.net
ターミネーターは殺すために作ったんじゃなくて
スカイネットの暴走じゃなかったか

総レス数 32
9 KB
掲示板に戻る 全部 前100 次100 最新50
read.cgi ver 2014.07.20.01.SC 2014/07/20 D ★