完璧な人工知能ができたらさ

photo credit: Robot via photopin (license)

完璧な人工知能ができたらさ

http://hayabusa.open2ch.net/test/read.cgi/news4vip/1424444333/

1: 名無しさん＠おーぷん 2015/02/20(金)23:58:53 ID:XZL

その人工知能に人権は発生すんのかな

2: 名無しさん＠おーぷん 2015/02/21(土)00:00:02 ID:EXC

スカイネットになり機械が支配する世界になる

3: 名無しさん＠おーぷん 2015/02/21(土)00:00:39 ID:8jJ

>>2
スカイネットってなんぞ

4: 鯨野郎◆fnkquv7jY2 2015/02/21(土)00:01:03 ID:1KB

>>2で終了
ターミネーター見ろ

スカイネット
スカイネット（Skynet）は、映画『ターミネーター』シリーズに登場する架空のコンピューター、その総体である。自我を持ったコンピューターとされ、細かな設定は作品間で相違がみられる（歴史が変わったためともとれる）。自己の存続のためにもっとも優先順位の高い活動をする設定がされており、自らを破壊しようとする存在＝人類の殲滅を目的とする。
Wikipedia スカイネット

5: 名無しさん＠おーぷん 2015/02/21(土)00:01:25 ID:s3u

人間は完璧じゃないけどな

6: 名無しさん＠おーぷん 2015/02/21(土)00:02:03 ID:8jJ

支配されるしか...

7: 名無しさん＠おーぷん 2015/02/21(土)00:02:08 ID:rmW

完璧の定義は

10: 名無しさん＠おーぷん 2015/02/21(土)00:03:16 ID:8jJ

>>7
感情が生まれるくらいかな？

11: 名無しさん＠おーぷん 2015/02/21(土)00:03:48 ID:rmW

>>10
感情の定義は

8: 名無しさん＠おーぷん 2015/02/21(土)00:02:27 ID:8jJ

ないのか

9: 冒頓単于◆XuHlfjDjx0ab 2015/02/21(土)00:02:40 ID:077

発生する

12: 名無しさん＠おーぷん 2015/02/21(土)00:03:52 ID:40T

でもあと30～40年くらいでできるんだろ？

13: 名無しさん＠おーぷん 2015/02/21(土)00:04:00 ID:VwH

数値が1になると、電気つくだけでも
人工的に作られた完璧な知能なことには変わりはないぜ

14: 名無しさん＠おーぷん 2015/02/21(土)00:04:29 ID:FuN

人権持てるんじゃね
人間より優れていたら

15: 名無しさん＠おーぷん 2015/02/21(土)00:05:18 ID:8jJ

>>14
でも人が作った物だしなあ…

16: 名無しさん＠おーぷん 2015/02/21(土)00:06:08 ID:8jJ

マリオに人工知能いれたみたいなことしてなかったかな

17: 名無しさん＠おーぷん 2015/02/21(土)00:06:12 ID:rmW

会社だって人間が作ったものだが

18: 名無しさん＠おーぷん 2015/02/21(土)00:06:46 ID:VwH

国によって法は違うだろうけど、ロボット保護団体が出来るのは間違いないだろう
で、何の知能も持ってない、パン焼くだけのベルトコンベアにすら「ロボットを奴隷として扱ってる」とか意味わからんことで騒ぎそう

20: 名無しさん＠おーぷん 2015/02/21(土)00:07:35 ID:8jJ

>>18
なんか納得した

19: 名無しさん＠おーぷん 2015/02/21(土)00:07:18 ID:s3u

自己生成できたら最強

22: 名無しさん＠おーぷん 2015/02/21(土)00:08:04 ID:8jJ

>>19
あくまで知能だけでいいのよ

27: 名無しさん＠おーぷん 2015/02/21(土)00:09:36 ID:s3u

>>22
ﾆﾝｹﾞﾝﾆ ﾁｶﾂﾞｲﾀﾗ
ｶﾝﾍﾟｷﾆ ﾁｶﾂﾞｲﾀﾄ
ｲｴﾙﾉｶ

21: 名無しさん＠おーぷん 2015/02/21(土)00:07:39 ID:qlD

AIのめっちゃ頭いいヤツがAIプログラム作り直して
またそいつがプログラム作り直してってループしてったら人格はどんな人格になんだろ

23: 船に乗れなかった船乗り◆UuU8VWSBGw 2015/02/21(土)00:08:08 ID:9cL

人工知能が人間を支配しようとするのは
ハリウッドの定番じゃないかな？

ともに共存して外宇宙を目指すとかはないのか？

26: 名無しさん＠おーぷん 2015/02/21(土)00:08:52 ID:8jJ

>>23
地球以外にすめるのかねえ

28: 船に乗れなかった船乗り◆UuU8VWSBGw 2015/02/21(土)00:09:43 ID:9cL

>>26
AIがその発想に至り外宇宙を目指して欲しい

32: 名無しさん＠おーぷん 2015/02/21(土)00:11:47 ID:8jJ

>>28
んで侵略のためにもどってくるんだな

36: 船に乗れなかった船乗り◆UuU8VWSBGw 2015/02/21(土)00:15:12 ID:9cL

>>32
その話、なかなかいいなｗ
2部作か3部作くらいで出来そうだ

41: 名無しさん＠おーぷん 2015/02/21(土)00:16:41 ID:8jJ

>>36
一瞬で負けそうな希ガス

24: 名無しさん＠おーぷん 2015/02/21(土)00:08:42 ID:ILc

人工知能も美容整形を受けたいとか思うのだろうか

25: 名無しさん＠おーぷん 2015/02/21(土)00:08:42 ID:BsD

むしろ人口知能ほうが反乱起こして、オリジナルの人間様が奴隷に成り下がり、
「劣化の激しい有機物の人間に人権は必要か？」
なんて討論が繰り広げられる。

94: 名無しさん＠おーぷん 2015/02/21(土)00:44:52 ID:Bfd

>>25
それ何リックス？

29: 名無しさん＠おーぷん 2015/02/21(土)00:10:25 ID:gSZ

人工知能なのに人権とはこれいかに

43: 名無しさん＠おーぷん 2015/02/21(土)00:17:23 ID:fM7

オレ的には人権発生させていいと思う。
と言うか、オレがしなくても世間がかってに流動されて人権は獲得されるとも思う。
人工知能に取っては権利っていうのは一番欲しいだろうし

46: 名無しさん＠おーぷん 2015/02/21(土)00:19:10 ID:qlD

>>43

犬まがいのロボット蹴ってあの批評だもんな


30: 名無しさん＠おーぷん 2015/02/21(土)00:11:10 ID:VwH

で、奴隷として扱われてる可哀想なベルトコンベアにグリスや新パーツを！とかいって
寄付金募って、適当に工場にばら撒き。何割かは自分のポッケに。

ある程度感情もったロボットは、ネットワークを駆使してロボット愛護団体の全力バックアップ。
各派閥のロボット同士のネットワーク戦争へ。
最終的に、「エネルギー問題解決したし、人間いらね」で全滅ドーン

までおれの妄想

35: 名無しさん＠おーぷん 2015/02/21(土)00:14:18 ID:qlD

作った人間の価値観を引き継ぐ訳だろ？代理戦争になるだけなのかね
それともマイクロソフトみたいな普及をするんだろうか

37: 名無しさん＠おーぷん 2015/02/21(土)00:15:37 ID:rD0

俺、美人なお姉さんAIに飼ってもらうんだ

38: 名無しさん＠おーぷん 2015/02/21(土)00:16:09 ID:8jJ

>>37
かってもらうのかよw

39: 名無しさん＠おーぷん 2015/02/21(土)00:16:23 ID:s3u

火の鳥未来編の場合核戦争になって世界が滅ぶけどな


31: 名無しさん＠おーぷん 2015/02/21(土)00:11:21 ID:IlZ

ロボット工学三原則も知らんとは……

33: 名無しさん＠おーぷん 2015/02/21(土)00:12:54 ID:8jJ

>>31
なんとなくわかるけど

いみないんじゃなかったか

40: 名無しさん＠おーぷん 2015/02/21(土)00:16:38 ID:IlZ

>>33
フレーム問題のことか？

42: 名無しさん＠おーぷん 2015/02/21(土)00:17:13 ID:8jJ

>>40
kwsk

45: 名無しさん＠おーぷん 2015/02/21(土)00:19:04 ID:IlZ

>>42
ggrks

まぁようは原則を忠実に従おうとすると
あらゆる要因を考慮するために情報処理が追いつかずフリーズするっていう話だよ確かね

48: 名無しさん＠おーぷん 2015/02/21(土)00:20:28 ID:8jJ

>>45
じゃあ完璧な人工知能とか無理なんじゃ

55: 名無しさん＠おーぷん 2015/02/21(土)00:22:15 ID:rmW

>>48
だからそれを説明する為に最初に細かく定義を聞いていったんだが

57: 名無しさん＠おーぷん 2015/02/21(土)00:23:43 ID:8jJ

>>55
なんかすまん

61: 名無しさん＠おーぷん 2015/02/21(土)00:24:51 ID:IlZ

ようは
何が良いことなのか
何が悪いことなのか
という単純なものほど、それを定義するのが非常に難しい。
そもそも人間の知能が適当なのに人工物で完璧な知能を作りだすことはできない

65: 名無しさん＠おーぷん 2015/02/21(土)00:26:13 ID:fM7

>>61
もはや人工知能となると「定義」って言う概念すらないと思われる

68: 名無しさん＠おーぷん 2015/02/21(土)00:28:27 ID:rmW

>>65
惜しいが順番が逆

プログラムは定義した通りにしか動かない
心は定義しようがない
だから完璧な人工知能は作れない

70: 名無しさん＠おーぷん 2015/02/21(土)00:28:37 ID:Op3

>>65
自分で定義するのが完成された人口知能だと思う
こちらが定義を入力せずに自分で判断する

ロックかけとかないと、人間嫌いになるかもしれない

82: 名無しさん＠おーぷん 2015/02/21(土)00:36:35 ID:IlZ

>>65
人工知能は所詮プログラミングだぞ

66: 名無しさん＠おーぷん 2015/02/21(土)00:27:03 ID:Op3

人間より頭がよく、感情が抑制されつつも豊かなら
人間にとっては完璧な知能としてもいいのでは？

82: 名無しさん＠おーぷん 2015/02/21(土)00:36:35 ID:IlZ

>>66
人間が考える「人間より頭が良い」というそれ自体が
果たして本当に「人間より頭が良い」のか

整合性があるだとか合理性だとかを追求していった先に
人間が存在することを否定された場合
開発者の人間側からすればその結論がいかに「頭が良い結論」だとしても
それを否定せざるおえない。

つまりは、「人間にとって有益な結論を導きだす知能」が
人間が求める人工知能なわけだ。
では人工知能が人間にとって有益か否かを判断するために
必要な情報の取捨選択をする必要があるわけだが
三大原則が登場するな。再びフレーム問題の再起。

87: 名無しさん＠おーぷん 2015/02/21(土)00:40:33 ID:Op3

>>82
頭がいいと正しいはまったく別問題
後者は哲学の領域で答えがない

だから頭がいいロボットが、地球に人間は必要ありません
みたいな答えだした場合
本当に頭がよくてそういっているなら、人間以外も全て必要ありませんという
人間だけが必要ありませんといったら、その知能はまだ人間以下だといえる

感情論で人間否定していたらこの限りではない
ワタシ、ニンゲン、キライ

91: 名無しさん＠おーぷん 2015/02/21(土)00:42:27 ID:8jJ

>>87
確かに人間が居なかったら生まれない存在だしな

92: 名無しさん＠おーぷん 2015/02/21(土)00:43:28 ID:IlZ

>>87
だから「人間にとって有益な結論を導きだす知能」が
人間が求める人工知能だろ？

98: 名無しさん＠おーぷん 2015/02/21(土)00:46:22 ID:Op3

>>92
そうとは限らないんじゃないか？

何が有益かじたい個々人によって変わるわけだし
自然を破壊しまくってビル郡になっても人類は絶滅しませんって言われてじゃあそういう世界で生きたい
って思う人もいれば
自然なままでいいって思う人もいる

人間にとっての有益さなんてあいまいだろ
人間に害を与える人工知能とか求めるかどうかはともかく
つくれたらそれこそ完成系な気もする

102: 名無しさん＠おーぷん 2015/02/21(土)00:48:29 ID:IlZ

>>98
だから様々な要素が絡むからフレーム問題で締めたわけだが

105: 名無しさん＠おーぷん 2015/02/21(土)00:49:55 ID:VVJ

>>102
あなた良く解ってらっしゃる

44: 名無しさん＠おーぷん 2015/02/21(土)00:18:53 ID:8jJ

と言うか人工知能って寿命ないのかな

49: 名無しさん＠おーぷん 2015/02/21(土)00:20:31 ID:fM7

>>44
寿命と言う概念から人類は離脱したりしてなｗｗ
てか人工知能できたら明らかに成長する。
まあ、その人工知能が俺らみたいなニートではなく、生産的な活動を続ける知能体であればいいんだけど

50: 名無しさん＠おーぷん 2015/02/21(土)00:20:45 ID:s3u

>>44
機械だって磨耗するだろ

54: 名無しさん＠おーぷん 2015/02/21(土)00:21:57 ID:8jJ

>>50
メモリとかなら大丈夫では？

47: 名無しさん＠おーぷん 2015/02/21(土)00:19:38 ID:BsD

話180度変わるけど、昔「どこでもいっしょ」のトロとポケステで会話した時、ああ、ついに機械とお話しできる時代になっていくのだなぁ…なんてときめいていました。あの頃の俺は純情だった。

51: 船に乗れなかった船乗り◆UuU8VWSBGw 2015/02/21(土)00:20:59 ID:9cL

>>47
もうちょっと先ですね
生きてるうちにはそういう時代になりそうですが

52: 名無しさん＠おーぷん 2015/02/21(土)00:21:11 ID:VVJ

今でも感情の素はプログラムできるよ
もちろん寿命も

56: 名無しさん＠おーぷん 2015/02/21(土)00:23:06 ID:8jJ

>>52
感情ってプログラムできるのか？

人工的に寿命をつくるのか

59: 名無しさん＠おーぷん 2015/02/21(土)00:24:31 ID:VVJ

>>56
学習から好き嫌いが発生するとかね

53: 名無しさん＠おーぷん 2015/02/21(土)00:21:19 ID:jG2

その人工知能が哲学的ゾンビじゃないってどうやって証明するかが難しそう

58: 名無しさん＠おーぷん 2015/02/21(土)00:24:23 ID:rmW

あといわゆるAIに寿命はないよ

ハードウェア的に物理的な寿命はあるけど
AIはソフトだから自分を格納できる領域に身を置き続ければいつまでも存在する

63: 名無しさん＠おーぷん 2015/02/21(土)00:25:40 ID:BsD

むしろ「寿命」って種に刻まれたプログラム的なものだしな。
定期的に個を死なすことでその種の繁栄を促進させる、っつー目的のためのプログラム。

60: 名無しさん＠おーぷん 2015/02/21(土)00:24:44 ID:fM7

俺的には、心っていうシステムと、学習と実践するシステムができれば、人工知能は出来上がると思うんだがね
ちなみに心の部分は、外からアクションされず、内（自分）でアクションするみたいな。

思考かな。

64: 名無しさん＠おーぷん 2015/02/21(土)00:26:12 ID:Op3

>>60
心っていうシステムがもう特異点越えてると思う

67: 名無しさん＠おーぷん 2015/02/21(土)00:27:14 ID:fM7

>>64
逆に考えれば、心っていう概念が生まれない限り永遠に人類は機械に勝てる見込みあると思うよ。
冗談抜きで「あなたの考えは予測不能です」みたいな

73: 名無しさん＠おーぷん 2015/02/21(土)00:30:49 ID:Op3

>>67
心っていう概念は人間でも把握しきれてないので
機械が「わたしにも心があります、どういう機能でそうなっているかわかりませんが
わたしは私に心があると感じます」

という回答を自発的に行った場合、人間はその真贋を判断できない
認めてもいいし、認めなくてもいい
たぶん人間の間でも論争が起きるだろうな

69: 名無しさん＠おーぷん 2015/02/21(土)00:28:29 ID:8jJ

感情ってのが人工知能に有るかで変わるってことだよな

84: 名無しさん＠おーぷん 2015/02/21(土)00:38:16 ID:8jJ

人間自身が感情ってのを理解できないのに

それを構築できるのか

90: 名無しさん＠おーぷん 2015/02/21(土)00:42:14 ID:Op3

>>84
今のところは、ニンゲンの感情のメカニズムを知るために
人工知能でっていう領域だな

72: 名無しさん＠おーぷん 2015/02/21(土)00:30:36 ID:8jJ

人工知能に
哲学的思想実験の話をしたら壊れるのだろうか

75: 名無しさん＠おーぷん 2015/02/21(土)00:31:41 ID:Op3

>>72
○○の哲学の思想実験ですね
答えは特にないですね

って冷静に返されそうｗｗまじで

78: 名無しさん＠おーぷん 2015/02/21(土)00:33:42 ID:8jJ

>>72
答えはないって断言すんのかねえ

結論を何がなんでも出そうとしてイカれたりしないのかな

81: 名無しさん＠おーぷん 2015/02/21(土)00:35:22 ID:Op3

>>78
というかその設問自体、哲学問題を勘違いしてる
あれは哲学問題であって、答えを出そうとする問題じゃない
答えが出せたらそれは真理だ、人外の領域

神様はいますかって聞いたら壊れたぐらいの質問

83: 名無しさん＠おーぷん 2015/02/21(土)00:36:58 ID:8jJ

>>81
俺の勘違いと言うことか

74: 名無しさん＠おーぷん 2015/02/21(土)00:30:59 ID:VwH

知能とか心とか精神なんて、所詮人間が定義した概念でしょ？
そもそも今この宇宙に、人間っていう生物が実在する以上「できる」としか言えないと思う

超極端なこと言うと、人類があと100億年栄えれば、ほぼほぼ知能といえるものが出来上がってても何らおかしくない。
今の技術だと、オモチャみたいなものしか作れないだろうけど

76: 名無しさん＠おーぷん 2015/02/21(土)00:31:51 ID:vxm

将棋ソフトが正に定義を外れたところで強くなってる感じだな
開発者も既になぜ強いのから分からなくなってきているらしい

79: 名無しさん＠おーぷん 2015/02/21(土)00:34:33 ID:8jJ

>>76
こういうの何か怖いんだよなあ

86: 名無しさん＠おーぷん 2015/02/21(土)00:40:07 ID:vxm

>>79
ちなみに将棋ソフトごとに個性もあるｗ

80: 名無しさん＠おーぷん 2015/02/21(土)00:35:10 ID:rmW

プログラム的には次の一手以降のパターンを超高速に計算してるだけだよ
計算量が膨大すぎるから処理が追いつかないだけ

77: 名無しさん＠おーぷん 2015/02/21(土)00:33:31 ID:VVJ

将棋はミスったら負けやから

85: 名無しさん＠おーぷん 2015/02/21(土)00:39:32 ID:rmW

将棋とかオセロの人工知能がやってることってのは要はこれ
https://www.youtube.com/watch?v=yZJ1V-zv_gU



このマリオが無数のパターンの中から最善の一歩を選択してるように、
将棋も無数の膨大なパターンをひたすら計算し続けてるだけ

88: 名無しさん＠おーぷん 2015/02/21(土)00:41:23 ID:8jJ

人工知能もったマリオ喋ってなかったか？

89: 名無しさん＠おーぷん 2015/02/21(土)00:41:52 ID:VwH

単純に、記憶の共有をしてくれた相手が死ぬと悲しいだろ
ベイマックスとか、ほぼ決まったことしか言わないし、かなりプログラムっぽい奴だけど
いなくなっなら悲しむだろ。
長年一緒にいた奴が「○○が欲しいな」って言われたら、あげたくなっちゃうだろ。
あげて喜んでくれたらこっちも嬉しいだろ。
電源切らないで、怖い。とかいわれると切りたくなくなっちゃうだろ。

例えそれが「全てプログラミングだった」としても。

それってもう、人権じゃん

95: 名無しさん＠おーぷん 2015/02/21(土)00:44:59 ID:8jJ

>>89
こっちが価値をきめるってことやね

初期のルンバに愛着がわいた人の本おもいだした

99: 名無しさん＠おーぷん 2015/02/21(土)00:46:46 ID:rmW

>>89
違うよ
日本で言う人権はあくまでも人間が生まれたときに有する権利
感情があろうがなかろうが母体から生まれ出た瞬間からそいつには人権がある

ただしそれだけだと何かと不便だってんで
企業にも法人という人権を付与している
それだけの話

93: 名無しさん＠おーぷん 2015/02/21(土)00:43:36 ID:Op3

>>89
ちがいます

それらが可視可能なプログラミングならそれはただのプログラムです
人権はありません

96: 名無しさん＠おーぷん 2015/02/21(土)00:45:02 ID:VwH

>>93
俺らがプログラミングではないことを証明する必要がある。
自分らのこともわからないのに、そんなこと言えないだろ

97: 名無しさん＠おーぷん 2015/02/21(土)00:46:11 ID:8jJ

>>96
水槽脳仮説みたいな話だな・・・

100: 名無しさん＠おーぷん 2015/02/21(土)00:47:04 ID:Op3

>>96
証明できないならその可能性はあるよ

101: 名無しさん＠おーぷん 2015/02/21(土)00:47:56 ID:VwH

そもそも、「人権」というのは、俺らが勝手に考えた権利であって
地球の人口の90%がロボット愛護団体の会員になったら、人権はロボットにも与えられる。

例えそれが半端なプログラムであろうとね。

103: 名無しさん＠おーぷん 2015/02/21(土)00:49:20 ID:8jJ

>>101
確かにせやな


成る程

104: 名無しさん＠おーぷん 2015/02/21(土)00:49:33 ID:Op3

ビッグドッグ蹴る動画に愛護的な視点のコメントが出たのは意外だった
でもかなり考えさせられた

「ロボット犬」でも蹴っちゃダメ？　倫理めぐる議論盛んに
（ＣＮＮ） 米グーグルが２０１３年に買収したロボットメーカーのボストン・ダイナミクスがこのほど、ロボット犬「スポット」の動画を披露した。犬のように走ったり階段を上ったりすることができ、人間に足蹴にされても４本の足でバランスを保って姿勢を立て直す。しかしこの動画をきっかけに、ロボットを蹴ることの倫理問題についての論議が盛んになっている。
http://www.cnn.co.jp/tech/35060457.html

106: 名無しさん＠おーぷん 2015/02/21(土)00:53:03 ID:8jJ

やっぱり難しい問題やねえ…

107: 名無しさん＠おーぷん 2015/02/21(土)00:53:10 ID:Op3

フレーム問題は結局人間も解決してない可能性もあるだろ
特異点そのもの

108: 名無しさん＠おーぷん 2015/02/21(土)00:55:58 ID:rmW

AIにも色々と段階があるし、人権にも段階があるんだが、
どのレベルのAIに対してどのレベルの人権を与えるという話なのかが全然定まってなくね

115: 名無しさん＠おーぷん 2015/02/21(土)01:01:22 ID:6mQ

>>108
成人・未成年(生徒・児童)・AIとか、一般人・自己破産者・AIとか色々段階あるわな確かに

109: 名無しさん＠おーぷん 2015/02/21(土)00:56:56 ID:8jJ

・・・ハイスペックな人工知能ができたらこの問題解決してもらうか