人工知能書いてるプログラマーも人工知能が何故そんな答え出したか分からないらしい

1 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 19:53:46.576 ID:/rqVBUr50.net

膨大な量のデータ与えて機械学習させて超賢くなって瞬時に最適な答えを出す
だけどそれを作ったプログラマーさえも何でそんな答え出したか分からない
答えに至った過程が分からない
これってヤバくね？本当にターミネーターみたいなSFが現実になるんじゃないか

2 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 19:54:35.082 ID:84IC4//nH.net

それ言い始めて何年経ったと思ってんの？まだまだそんなもんできねーよ

3 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 19:54:42.754 ID:29V9xVCS0.net

技術的特異点さえくれば問題ないよ

4 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 19:55:41.528 ID:OzAksdz80.net

トリップだって似たようなもんだろ

5 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 19:56:08.155 ID:2F4PGn+K0.net

いやわかるだろ
たとえばパチンコのリーチの発展の仕方の％はわかってるから
作ったヤツならすぐに見ててピーンって感じだろ
こういうときどうするかのパターンはプログラムしてるわけで

6 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 19:56:40.569 ID:JIFn0f1w0.net

ちゃんと停止ボタンの研究もしてるから大丈夫だよ

7 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 19:56:53.305 ID:DABN5Sxy0.net

評価関数作るのは人間だからな
機械だけじゃなにもできない

8 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 19:56:55.494 ID:GLeF7fT80.net

>>5
機械学習って知ってます?

9 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 19:57:01.296 ID:3Sxe3LQga.net

お前みたいな奴がオウム真理教にハマるんだよな

10 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 19:57:39.071 ID:6yqgKm5/M.net

>>1
それのなにがやばいんだよ

11 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 19:57:49.930 ID:EovjitmV0.net

>>5
お前がわかる程度のこと考慮してないわけないだろ

12 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 19:58:28.435 ID:qfWEYJEYa.net

直感を説明できないのと同じなのに機械の場合は騒ぐ
理解不能

13 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 19:59:37.274 ID:2F4PGn+K0.net

こういうときはこうするというプログラムがしこんであり
そのアルゴリズムはＤＢからアルゴリズムで抜き出して判定してるわけだろ
つまるところその答えにいきつくまえにこういうことがありそれを選択したんだなってのは
作ったヤツなら間違いなくわかる
これすらわかんないやつはプログラムなんもしらないガキだけだろ

14 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 20:01:13.300 ID:80o3mrkZ0.net

>>1
答えに至った過程は分かってるよ
過程の中に含まれる評価指標の重要度の比重が学習によって求められてるから、人間にはわからないだけ

15 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 20:01:21.187 ID:hga5nn1s0.net

プログラムができるのはわかったわかった。で、機械学習に関しては無知だろ？

16 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 20:02:02.324 ID:85HXSQkGd.net

人工知能って騙される情弱の識別ワードになったよな
ニューラルネットワークとか知らないんだろう

17 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 20:04:47.242 ID:DqX8pAx6a.net

機械「(どうせ適当な事言ってもバレんだろ！)」

18 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 20:04:49.526 ID:JIFn0f1w0.net

>>13
ディープラーニングってのがあってだな
まぁ分からないか、この領域(レベル)の話は

19 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 20:05:46.346 ID:TJaoY0EE0.net

昨日NHKでやってたAI特番のことか
確かに将棋AI作ってた人がなんでこんな風に考えたのかわからん見たいなこと言ってたな

20 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 20:06:29.525 ID:KiwfT0VH0.net

俺の両親だって俺の考えてることなんて何も理解してないよ

21 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 20:07:07.482 ID:6yqgKm5/M.net

Googleの翻訳AI作ってる人も同じこと言ってたよ
過程を知ってれば高度になるほど理解できなくなるのは当然のことだと思うんだけど

で、それのなにが問題なのかという

22 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 20:07:56.829 ID:d8l2qpd8d.net

>>19
将棋のプロと技術者は別だろ

23 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 20:08:18.544 ID:aTHrTaSa0.net

>>13
それはAIではなくて既存のプログラムな
ディープラーニングとか言われるAIの独自学習方法で進化を遂げられたら結果は分かるが過程はブラックボックスになるって事

24 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 20:08:25.033 ID:qeBJGAeua.net

金属バットで殴れば勝てる

25 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 20:08:34.370 ID:/rqVBUr50.net

>>19
そうそれ
他の分野の人工知能も答えは示すが何故そう判断したかは示さないからブラックボックスだと言ってた

26 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 20:10:11.049 ID:fykxAPAO0.net

もう人工知能が勝手に対象を分析して特徴やらトレンドやら見つけ出して人間以上の分析結果を出せるとこまできてる
将棋とかに限らず金融経済サービスまで

27 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 20:10:30.982 ID:LsiEZqUP0.net

>>23
深層学習は階層を触らないだけで独自でもなんでもないぞ

出力結果は機械学習と同じ傾向でしかない
精度が高くなるだけ

28 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 20:11:06.090 ID:sHvYu5+c0.net

わかれば人間でいいわけだからな

29 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 20:12:36.600 ID:TJaoY0EE0.net

>>22
わからん言うたのはボナンザ書いたプログラマの方だ
https://www.youtube.com/watch?v=fq8pRbgP_-A

30 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 20:13:12.983 ID:J1d9EvdXd.net

>>22
これだな
その作成者はプロの棋譜みて全部理解できるのかよ

31 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 20:13:44.382 ID:RIfuiCrG0.net

なぜそう判断したかというのはいわゆる想定パターンみたいなものだろうけどそれを示すUIを作ってない（作る必要がない）だけの話

32 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 20:15:08.238 ID:RIfuiCrG0.net

ボナンザの作者は化学屋だからな

33 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 20:15:36.745 ID:LsiEZqUP0.net

計算で出してるだからルートがあるに決まっとるやん
人工知能を知性かなんかと勘違いしてるんだろ

34 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 20:17:45.251 ID:/rqVBUr50.net

>>31
出来るのなら人工知能開発にはそれ義務付けした方が良くね？
ブラックボックスのままだと怖いし

35 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 20:19:21.915 ID:GLeF7fT80.net

まぁつまり膨大なデータの中に無いルートは勝手に作り出す事は無いと

36 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 20:20:16.813 ID:KiwfT0VH0.net

>>34
そういう行程を省くためにAI開発してるのになんで逆行させるんですか

37 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 20:23:50.842 ID:cfI1hFBo0.net

コード作った人は分からないけど
入力データを決める人は
「このデータを食べさせるとこうなる」
って分かるらしい

38 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 20:23:58.880 ID:RIfuiCrG0.net

>>35
たまにランダムな要素を交えてやるのが主流
迷路で例えると長いハズレルートでうろうろするよりたまに思いきって別の場所に移動したほうがゴールに近くなるみたいなイメージ

39 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 20:25:10.162 ID:DWBCUnB60.net

>>36
怖いじゃん
デバッグのためにつけておこうよ

40 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 20:25:31.396 ID:65F5GzEG0.net

問題によっては凄まじく簡単なルールが生成されることはありうる

41 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 20:25:53.746 ID:DWBCUnB60.net

>>37
生みの親より育ての親だな

42 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 20:26:09.161 ID:eqqU5J7v0.net

機械学習の基礎もわかってないやつ多いのな

43 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 20:26:59.688 ID:Ua5AVCl10.net

具体的にどう答えを出したかは分かんないけど、答えを出す原理は分かってるんだぞ

44 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 20:27:46.659 ID:8WRR7CadM.net

AIじゃなくても自分の書いたソースの細かい部分はなんて数ヶ月経てば忘れるよ
AIみたいな複雑な処理ならなおさら細かい所忘れる

45 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 20:28:39.192 ID:KiwfT0VH0.net

>>39
膨大なデータ吐くから自己判断できるようにしてるのになんでまたマンパワーで解決しようとするんだよ
だったら最初からAIいらないだろ

46 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 20:30:09.447 ID:3/Bn2QA+0.net

テスラの自動運転車が白いトレーラーに突っ込んだ話みんな知らんの？

47 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 20:30:58.669 ID:pWj28bcz0.net

機械学習のアルゴリズムは何なんだよ

48 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 20:32:29.807 ID:DWBCUnB60.net

>>45
その自己判断というのが怪しい

49 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 20:32:44.326 ID:eqqU5J7v0.net

人間だって何故それが犬だと認識してるのかわかってないじゃん

50 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 20:32:46.453 ID:65F5GzEG0.net

>>45
人工知能同士が「会話」できるようにすればよくね？

51 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 20:33:29.164 ID:LsiEZqUP0.net

>>50
だから人工知能をなんだと思ってるんだよ

52 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 20:34:03.123 ID:jB373u3za.net

いやデバッグ用に学習ログぐらい吐かせてるだろ
ただ量が膨大だから確認してないだけで

53 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 20:34:13.064 ID:KiwfT0VH0.net

>>48
怪しむなら最初から採用しないだけだろ

54 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 20:34:14.639 ID:65F5GzEG0.net

>>49
「犬」クラスに属するオブジェクトは人間の外に実在するが
「犬」クラス自体は人間の頭の中にしか存在しない
という話？

55 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 20:34:16.692 ID:bzloBs+wM.net

機械にゲームクリアさせるAI作ったらまずバグを探す話思い出したわ

56 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 20:35:08.707 ID:eqqU5J7v0.net

>>54
クラスとか定義してる時点でもう人工知能じゃねーんだよ

57 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 20:35:23.420 ID:KiwfT0VH0.net

>>50
人口知能自体の判断を怪しんでいる人間に対して人口知能の対話の妥当性はいかにして得られるというのか

58 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 20:38:57.678 ID:kYfqJ0Kr0.net

過程をアウトプットさせた所で、そいつを解析すんのに膨大な手間と時間が必要になりそう
ってかその解析に別のAIが必要になりそう

59 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 20:39:13.536 ID:/rqVBUr50.net

人工知能がこんなに発達してるのに自然な翻訳が出来ないのが不思議でならないんだが何でなの？

60 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 20:40:04.700 ID:eqqU5J7v0.net

>>59
もう一段階抽象化する必要があるから

61 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 20:41:02.639 ID:KiwfT0VH0.net

>>59
言語は文法以上にニュアンスの差が大きいから

62 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 20:42:11.563 ID:3/Bn2QA+0.net

みんな知らんで喧嘩してたのか

63 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 20:43:04.015 ID:kYfqJ0Kr0.net

りんなと話してても、賢い人工無脳って印象しか無いのはその辺が壁になってるからか

64 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 20:43:45.189 ID:DWBCUnB60.net

>>53
判断基準って学習によって変化するんじゃないのか？
つまり考え方

65 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 20:48:02.251 ID:KiwfT0VH0.net

>>64
そりゃそうだろ
データを繰り返し解析して判断基準に加えるんだから
正確性に欠いた判断がなされたら今度はそれを解析するということの繰り返しなんだし

66 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 20:56:28.506 ID:DWBCUnB60.net

>>65
その過程で判断基準がおかしくなってるかも…？
つまりAIが悪い道に入ってしまうことがあるかも…？

67 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 21:00:25.572 ID:KiwfT0VH0.net

>>66
お前は人工知能を何だと思ってるんだ
悪い道ってなんだよ、データ解析に良いも悪いもあるか

68 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 21:00:58.361 ID:eqqU5J7v0.net

まず教師あり学習と教師なし学習からググってこよっか

69 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 21:01:00.461 ID:RIfuiCrG0.net

結果の算出方法における基準（重み付け）は変化するけど
基本は算出した結果を評価する善悪の基準は変えない
変えるとしても変え方は知ってるはず

70 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 21:10:23.264 ID:DWBCUnB60.net

>>67
データ解析するだけなの？
さて人間を殺すか的な事は考えないの？

71 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 21:11:20.018 ID:RIfuiCrG0.net

こういうことを考えるかもクソもない
そもそも考えてないから

72 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 21:15:05.462 ID:KiwfT0VH0.net

>>70
例えば将棋の駒を動かすAIがどうして指し手の生命に関して考える余地がある

73 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 21:19:29.645 ID:Ml+hzLmA0.net

そんなに疑問ならpythonとchainerかkerasインストールして自分で軽いAI作って動かしてみろよ
妄想だけで考えが固められてる奴にそんな事はないって事を理解させんのは無理

74 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 21:20:22.661 ID:RIfuiCrG0.net

敵視するならちゃんと敵は知っておかないとな

75 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 21:23:07.480 ID:ObWSqoDT0.net

コンセント引き抜けばいいじゃん

76 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 21:23:59.094 ID:m/sA9WPz0.net

SNSで学習したAIがネトウヨになって困惑してたわｗｗｗ

77 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 21:28:34.533 ID:DWBCUnB60.net

>>73
なるほど軽いAIと同レベルなら問題ないな

78 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 21:28:57.850 ID:L669XCs2a.net

わからないっていうか勝手に学習するから
どこでそんなの覚えたんだって感じ

自動運転やロボットが問題起こしたら
プログラムしたメーカーが俺しらねするため
こんなこと番組で話してんだろう

ちゃんと説明機能つけろよ
そんなもの使えるかよと思う

79 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 21:32:51.897 ID:iGfnrOwCd.net

>>78
事故の原因は今までより分かりやすくなるだろ

80 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 21:36:16.510 ID:IyVrNbhO0.net

ログ取れば余裕だろ

81 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 22:51:52.306 ID:VTfs2Qw30.net

大したことしてないのに
家電に人工知能とかAI搭載とかやめて

82 ：以下、＼(^o^)／でVIPがお送りします：2017/06/26(月) 23:59:10.961 ID:Gf6DsSqZd.net

深層学習は複雑系みたいなところがあるから層を多くするほど結果の予測が難しくなるってだけ
要は出来上がるものの詳細な解析が難しい

83 ：以下、＼(^o^)／でVIPがお送りします：2017/06/27(火) 00:02:30.843 ID:nLo49gDH0.net

一年後のセブンイレブンのツナおにぎりのサイズと値段、予測できるかなl？

もしかして安くて大きくなってたりして・・・どきどき