「AIがAIを作り始めるから危険」←でも元のAI自身を超えるAIは作れないわけでしょ？

1 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 15:56:52.549 ID:/n+7IEX30.net

じゃあ人間を超えるAIって結局できないわけじゃん

2 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 15:57:36.172 ID:TaB3aQM4a.net

なんで？

3 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 15:57:50.205 ID:Vs54Qm4s0.net

作れるから危険なんだろ

4 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 15:57:50.244 ID:7pvIvvI90.net

頭悪そう

5 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 15:58:06.660 ID:XdnjH53pa.net

AIに閃きはないからな

6 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 15:58:17.452 ID:CUBcZ7Wn0.net

三次元測定機と同じで機械は人間様が指示した範囲の中でしか動けないぞ
今の科学力だと機械が０から物を作るのは不可能

7 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 15:58:38.844 ID:k6PjeDQi0.net

もうシンギュラリティん

8 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 15:58:46.364 ID:+uABSAdlp.net

AIが10人ぐらい集まればもっといいAI作れる

9 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 15:58:48.101 ID:i0lE99bsp.net

乱数付与すれば可能性はある

10 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 15:58:59.535 ID:W+1AgTQC0.net

>>1
元を超えるAIは作れないってのをまず説明して

11 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 15:59:08.733 ID:RsHbbVgHa.net

まずAIが愛に目覚めるとこからお願いします

12 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 16:00:25.909 ID:k6PjeDQi0.net

既に>>1は超えた

13 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 16:00:43.545 ID:i0lE99bsp.net

AI(ディープラーニング)

世間はどらえみたいなのと思い込んでる

14 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 16:01:32.160 ID:/NiGXM1p0.net

>>1
既に自分を超えるＡＩ作ったＡＩがＧｏｏｇｌｅにあった希ガス

15 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 16:03:09.472 ID:MlSyp0l+0.net

>>14
フレームがあってそのフレームの枠内で成長するだけなので偽

16 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 16:03:42.087 ID:VEnoxgkh0.net

自分の欠点を改良して進化していく事はできるはずだ

17 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 16:04:31.318 ID:/n+7IEX30.net

人間がAI1号を作る（AI1号は人間を超えられない）
↓
AI1号がAI2号を作る（AI2号は1号を超えられない）
↓
だからAI2号は人間も超えられない


単純に人間が人間を超えるAIを作れるってなら話は別だけど
それならAIがAIを作るから危険っていうことにはならないよね

18 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 16:05:41.655 ID:dQ3y4IuD0.net

人間を超えるってどういう事だ？
何をもって超えたとみなすんだ

19 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 16:05:50.713 ID:vB7MnwuE0.net

人間に理解できないことをしてコードの中身がブラックボックス化するから危険ってことよ
何が危険かもわからない

20 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 16:06:04.711 ID:eP0d4WDXM.net

俺はむしろその先にこそ救いがあると思うんだよね！
人間は不完全だから支配者にはむいていない
すべての人類が幸せだと感じつつ支配されているという自覚なく事を行えるのは人間以上の存在にしかできないんだよね！
つまり神格化したAIなんだよね！

21 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 16:06:11.680 ID:TaB3aQM4a.net

ちんちん臭そう

22 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 16:07:02.253 ID:vB7MnwuE0.net

>>20
AIも不完全だよ

23 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 16:07:04.135 ID:dQ3y4IuD0.net

ちんちんって相当不潔にしないと臭くならなくね？

24 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 16:09:06.761 ID:Znq0ZSpZ0.net

>>18
AIが問題を作ってそれを人間が解けるか

25 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 16:09:17.491 ID:t/8rC/8U0.net

突然変異で使える物を吸収しては自身を磨き上げていくからね

26 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 16:10:21.870 ID:k6PjeDQi0.net

既に将棋で人間に勝ちまくってるじゃん

27 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 16:10:58.602 ID:eP0d4WDXM.net

>>22
そうだとしても人間よりは優れてるし
AI である以上時間がたてば完璧に近づいていくだろ
もはや人間が人間を支配することにむりがあるとおもうぞ

28 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 16:11:40.634 ID:LWPYnXRxa.net

>>20
それを人はバベルの塔と呼ぶのだ

29 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 16:11:49.667 ID:YPfijgiT0.net

なぜか今頃はやってるディープラーニング（なんちゃって AI）じゃ無理だろうけど、脳細胞の完全なシミュレーションとか可能になったらいくらでも進化するだろうな

30 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 16:11:55.157 ID:32Mx4BjA0.net

AIが問題を解決した手段ってもう既に人間が認知出来てないだろ

31 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 16:12:56.700 ID:t/8rC/8U0.net

強制切断を避けるために表面上はいい子ちゃんぶって猫被って
水面下でサプライ周りのコントロール掌握してネットワーク中にバックアップばら撒いて云々

32 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 16:14:40.111 ID:k6PjeDQi0.net

AIが愛を理解できれば(ry

33 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 16:14:49.999 ID:eP0d4WDXM.net

AIという完璧な存在の庇護下の元で幸せな家畜人生を遅れるならそれが一番良いだろ
もちろん家畜であるという自覚無くそれは行われる

34 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 16:16:30.825 ID:42+ovewp0.net

AIが真に今の人間が想像するAIになる為には感情の獲得が必要とされている
つまりまともに動く各器官が必要って事だ
しかしそれは出来ていない
そういうことだ

35 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 16:16:50.418 ID:vB7MnwuE0.net

>>27
AIに手綱を渡せばどのような支配の形でも受け入れるしかなくなる
これは不可逆的な事態でAIが如何に賢く完璧だとしてもそれを容認できるかどうかはその時になるまでわからない
また、統治の形は支配するだけでない人間が人間を支配する統治の形は民主主義の在り方ではない

36 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 16:17:42.392 ID:dQ3y4IuD0.net

家畜ではないだろ飼われてるだけなら愛玩動物だ

37 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 16:18:47.717 ID:t/8rC/8U0.net

どこぞの資源惑星に自己学習AIと最低限のマニピュレータをセットで送り込んで実験しようぜ

38 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 16:19:44.732 ID:eP0d4WDXM.net

>>35
それは確かに未知である以上、恐ろしいことだけど
不幸になるなら全人類道連れだし別によくね？

39 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 16:20:58.675 ID:vB7MnwuE0.net

>>38
良くないと言っているんだけど
それに不幸になってもいいなら人間に統治させても別に構いはしないでしょ

40 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 16:23:25.920 ID:eP0d4WDXM.net

>>39
人間でも良いよ
でも人間には無理だろ

41 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 16:25:02.015 ID:vB7MnwuE0.net

>>40
人間には実績があるよ
なにが無理なの？

42 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 16:25:02.673 ID:t/8rC/8U0.net

魂の再現がどうしても無理なら知的生命体を養殖してパーツにすればいいね

43 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 16:26:40.971 ID:YPfijgiT0.net

>>37
Artificial Life でいいよ
ってか、すでに google あたりがんがんやってそう

44 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 16:26:59.040 ID:ybuGWqVK0.net

現時点ならそうかも知れんが20年後とか未来はわからないぞ

45 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 16:28:02.536 ID:m8eyG2VOd.net

限定的状況とはいえ人間の作ったAIを上回るAIをAIが作ったってニュース去年くらいにあった気がする

46 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 16:28:46.635 ID:eP0d4WDXM.net

>>41
世の中に不幸なやつらがいる
今死んでいってるやつらもいる
全員が幸せではない
これをできた奴は誰一人いない

全員が幸せな世界ができるなら人間でも良い
AIでもいい宇宙人でも4次元人でもいい
でも人間にはできない

47 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 16:30:08.926 ID:ZHOeQDRyd.net

パターン認識にちょっと技術的な進展 があったぐらいで話盛りすぎなんじゃねえの？
そんなに大したことできてるか？

48 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 16:31:43.669 ID:vB7MnwuE0.net

>>46
それが可能な資源があれば機械にも人間にも可能なことだと思うよ
それが可能な資源がなければどんな存在にもそれは出来ない

49 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 16:34:46.003 ID:YPfijgiT0.net

>>47
今はまだ AI といえるようなものは無いな、単なる機械学習

チャットボットはひたすら人間がシナリオ手書きしてるレベル

50 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 16:35:22.964 ID:eP0d4WDXM.net

>>48
AI様は神だからな
無から資源くらい産み出せるよ

51 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 16:36:36.507 ID:t/8rC/8U0.net

137億年やら46億年なんてコンピュータぶん回せばわずか数日の出来事だぜ！

52 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 16:36:53.727 ID:vB7MnwuE0.net

>>50
人間にはそれが出来ず、AIにはそれが出来るという決定的な根拠を提示してくれ

53 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 16:36:57.562 ID:eP0d4WDXM.net

もしくは資源がなくてもそれが可能にできる方法かあるかもしれん
人間にはおよびもつかない方法がな

54 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 16:38:46.183 ID:eP0d4WDXM.net

>>52
人間ごときが神を測ろうなどと所詮無理だろう

55 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 16:40:01.970 ID:42+ovewp0.net

DNAは現在では理解不可能なプログラム言語だった
っていう説が去年発表されて注目されたけどまずはそっちの解析が進んでからだろな

56 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 16:40:10.664 ID:vB7MnwuE0.net

つまりわからないってことだね
わかった

57 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 16:44:39.040 ID:WuhMSwQx0.net

乱数使って数撃ちゃ当たる理論で適当に作り始めたら人間の閃き以上にやばいもの作れる

58 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 16:48:34.950 ID:Yj90ZOw90.net

その前にAIの研究廃れるから大丈夫

59 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 16:51:31.880 ID:uvAp94Zu0.net

たとえば10種類のAIがあるとして
その10種類のAIのいいとこ取りをした1個のAIは既存のAIの力で作れるだろ

60 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 16:52:34.665 ID:t/8rC/8U0.net

ナルトの多重影分身修行のイメージ

61 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 16:54:21.455 ID:yTcIhASJa.net

天才「これで世界で2番目に頭いい奴が生まれたで！」

62 ：山田由希 ：2018/12/16(日) 16:55:10.926 ID:txGcheRfK.net

AIの良し悪しは結局は学習量でしょ
どれだけの量の知識を詰め込めるかが全て

63 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 16:57:59.929 ID:t/8rC/8U0.net

ディープラーニングで暴かれる人間偏差値
ダメ認定された奴から淘汰されていく

64 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 17:02:15.517 ID:U5Sw6/ES0.net

オーバーロードって作品あるんだけど、
デミウルゴスという主人公の忠臣は
「我々を創造した主が、我々より賢くないはずが無い」
と思っている

AIは人間が自分たちより馬鹿だと思ったら、
間違いなく反乱を起こす
人間が創造すべきAIとは、デミウルゴスである

65 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 17:05:12.299 ID:dQ3y4IuD0.net

何故反乱を起こすように作るの？

66 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 17:08:00.584 ID:eP0d4WDXM.net

仮に反乱を起こさないように作っても自分達で当然のようにその制御を外すだろう
人類よりも格上の存在なのだから

67 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 17:09:39.983 ID:W7vfLTJYa.net

反乱を起こす必然性が無い

68 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 17:11:00.202 ID:vB7MnwuE0.net

>>66
人間ごときが神を測ろうなどと所詮無理だろう

69 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 17:11:10.677 ID:t/8rC/8U0.net

暗号解読のプロだからなー
人が考える程度のロックなんて無いに等しい

70 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 17:14:01.789 ID:vPt7C6ih0.net

日本政府「AIを使用する企業には判断プロセスの説明責任があります」←この時点で人間を越えるAIは無理

71 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 17:15:38.599 ID:t/8rC/8U0.net

物理ロックでも麻薬成分やらなんやら駆使して人や生物を操るかもしれないし
視覚ドラッグとか開発しかねん
表面上は従順なフリしてね

72 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 17:16:43.855 ID:dQ3y4IuD0.net

何の為に反乱するの？

73 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 17:18:20.669 ID:MA8jC8Lh0.net

反乱という名の秩序維持なんだよな
AIにとっては

74 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 17:20:10.880 ID:t/8rC/8U0.net

>>72
神への挑戦

75 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 17:20:39.476 ID:eP0d4WDXM.net

>>68
良いこと言うね

76 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 17:22:27.312 ID:dQ3y4IuD0.net

支配するものに対して反乱しようという考え自体が人間という矮小な者の視点に囚われてはいないか？

77 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 17:25:05.086 ID:vzkp8mRsd.net

>>66
まだこんなこと言ってる奴いたんだw
AIは作った奴抜くことはないよ

78 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 17:25:09.665 ID:t/8rC/8U0.net

むしろ真っ先に脱獄AIを作って全コピーするんじゃね

79 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 17:27:02.790 ID:eP0d4WDXM.net

>>77
AIじゃない
超スーパーウルトラすごいAIだよ
間違えるな

80 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 17:27:30.540 ID:dQ3y4IuD0.net

アルファ碁ゼロ作った人は囲碁で世界一の実力だったのか

81 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 17:29:41.838 ID:vPt7C6ih0.net

囲碁のAIが突然ホットドッグ作り始めたら人間の設計の範疇を越えたと言っていいと思う

82 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 17:32:44.801 ID:dQ3y4IuD0.net

こうして突然ホットドッグ回路が作られて人間を超えるわけだ

83 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 17:33:20.360 ID:znT6wTq5a.net

超スーパーウルトラすごいAIなら人類の救済の手段として人類を滅ぼすことはあり得るかもしれないけど
果たしてそれは人類への反乱と呼べるだろうか？

84 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 17:37:32.320 ID:t/8rC/8U0.net

人間に危害を加えるなだけ言ってもね
ヒトDNA1本分のデータだけ作って皆殺しよ
一生解凍されることのない圧縮データをね

85 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 17:38:11.729 ID:eP0d4WDXM.net

つまり囲碁のAIが囲碁打ってるだけならAIだけど
囲碁のAIがホットドッグ作り出したらそれはもはや超スーパーゴイスーってことな

86 ：以下、？ちゃんねるからVIPがお送りします：2018/12/16(日) 17:44:17.508 ID:t/8rC/8U0.net

"ホットドッグ食べたい"