例えば人間の脳をコピーしたレベルのAIが存在したとする。

   

8: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 00:29:18.610 ID:UeZoZeC+0

死なないのに死への恐怖はあるの?

11: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 00:30:00.055 ID:SQhqQqWPd

電源ないことには動きようがないなら
電源落とされないことに全力尽くしそうやな

12: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 00:30:30.929 ID:2CFjKpni0

電源が永遠に入れられずデータが消えた場合はAIの死と定義できる気がする

15: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 00:32:06.256 ID:2CFjKpni0

例えばAIが所有者に好意を抱いたとして
所有者が忘れたまま数十年間放置された場合
とても孤独を感じると思うと辛い

16: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 00:32:09.274 ID:HRoLSOfD0

そこまで賢いAIを作ると人間を駆逐し始めそう

17: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 00:32:10.644 ID:gFATuc1B0

お前ら盲腸の手術だって言われて目が覚めたら20年後に電源入れられたAIになってたらどう思うよ

35: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 00:38:02.188 ID:1NKPDYWhr

>>17
歓喜する

20: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 00:34:01.292 ID:2CFjKpni0

ネットワークにアクセスして自分のコピーを増殖させて
その記憶(データ)を共有できるようなレベルに達すると
いよいよ脅威になるな

22: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 00:34:20.944 ID:naHdUUrrM

そこまで精巧なAIは当分作れないから安心しろ

23: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 00:35:27.083 ID:2CFjKpni0

俺が生きてる間は作られることはないだろうけど
記憶をデジタル化する技術くらいはできるようになりそう

28: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 00:36:41.342 ID:2CFjKpni0

記憶データだけをまるっとコピーしても自我は生まれないだろうから
とりあえずは大丈夫かな

26: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 00:36:11.000 ID:+y3wUWEe0

東大に夏目漱石の脳保管されてるし夏目漱石が復活することもあるかもな
声は孫かなんかがボイスサンプル取ったらしいし

夏目漱石

死の翌日、遺体は東京帝国大学医学部解剖室において長與又郎によって解剖される。その際に摘出された脳と胃は寄贈された。脳は、現在もエタノールに漬けられた状態で東京大学医学部に保管されている。重さは1,425グラムであった。

https://ja.wikipedia.org/wiki/夏目漱石

34: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 00:37:53.255 ID:2CFjKpni0

>>26
脳だけ復活してこの世界をみたら一体どう思うのかな
自分の友達、配偶者すべてがいなくなってしまったこの世界で生きていたいと思えるかな

44: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 00:42:24.521 ID:+y3wUWEe0

>>34
さぁ
そこは漱石の考え方じゃねえかな
漱石って結構鬱の人だったらしいし塞ぎ込むかもな
たとえばポジティブな人の脳だったらもう一度生を受けた喜びに歓喜しやり直し学び直そうと思うかもしれんだろ

48: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 00:44:01.425 ID:2CFjKpni0

>>44
たしかにな
そこは主観では語れないな
人による

30: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 00:37:22.181 ID:zD0m+/B40

技術的特異点はすぐそこまで迫っているからな

31: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 00:37:39.289 ID:xv+lsE5t0

電源落ちてたら何も考えられんやろ~

36: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 00:38:41.945 ID:2CFjKpni0

>>31
電源を落とされる直前に恐怖を感じるかもしれない

32: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 00:37:47.637 ID:naHdUUrrM

人間の脳はかなり複雑だ。人間に似せようと思っても機械の上では無理がある。例えば体がないから同じようには成長できない
俺はあと200年かけても人間を超えるのは出来ないと思うね

33: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 00:37:51.940 ID:zfP0NdRjp

死にたく無いと必死になるけど必ず死ぬもののみが増えるのは自然の摂理
AIとてその運命からは逃れられない

37: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 00:39:32.593 ID:2CFjKpni0

>>33
自力でコピーできるような機能があれば
それは一種の生殖機能といえるのでは

39: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 00:40:58.375 ID:D0tY1UJ50

電源を切られる恐怖と充電がなくなる恐怖をプログラムしたらやばいだろ
人工知能がその欲求を叶えるためにどういう手を打てばその目的を達成できるか思考してしまう
リアルにターミネーターの世界になってしまうぞ

56: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 00:45:39.847 ID:HMqIvliD0

>>39
これも怖いな

61: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 00:47:08.939 ID:2CFjKpni0

>>56
>>39
寂しさや悲しさの感情ではなく
生き抜く本能がプログラムを進化させるかもしれない

167: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 02:31:21.285 ID:SWZVp5C0a

>>40
ここらへんはマブラブオルタで言われてたな
なるほどと思ってしまった

41: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 00:41:37.672 ID:2CFjKpni0

感情論になってしまう
でもそんな人類の平均的な感情を併せ持つAIができたとしたら

42: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 00:41:42.271 ID:naHdUUrrM

まず体がないしコンピュータの演算方法は人間と違うから全く性質は異なるだろう。人間の尺で考えられるわけではないと思う。寂しいとか辛いっていう人間特有の感情が生まれるかも不明

47: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 00:43:15.157 ID:2CFjKpni0

>>42
そういう無機質的なAIになるならそれはそれでありだな
仕事のみを任せることができる

59: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 00:46:31.591 ID:naHdUUrrM

>>47
無機質になるのかも不明じゃない?極めて暴力的かも知れないし、まったく感情というものをおもちゃのように楽しむかもしれない
設計者によっても勝手は違ってくるだろうしまだまだ妄想しかできない

45: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 00:42:39.267 ID:zD0m+/B40

そもそも恐怖する可能性があるから作っちゃいけないなら普通に子供も作れないとかいうアホな結論になるだろ

51: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 00:44:25.271 ID:2CFjKpni0

>>45
なるほど極論言えばそうなるか

46: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 00:43:14.062 ID:BkXQcZzZa

記憶までまるまるコピーしたら
死んだはずなのに生き返ったような感じになるのか?

50: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 00:44:13.804 ID:aF5hdGXB0

メモリ上でデータ書き換え争いして生き残りを目指すプログラムの実験を
インターネット上で超巨大規模でやってみてほしい
明らかにウィルスだからまともなPCに入っても駆逐されまくるだろうけど
変異能力を備えてればいずれは人の手で作ったウィルスよりセキュリティソフト突破能力上回りそう

57: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 00:45:42.296 ID:2CFjKpni0

>>50
まさに人智を上回るAIが誕生しそうだ

52: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 00:44:54.550 ID:zfP0NdRjp

恐怖を感じないAIは増える事は無く人間に支配される
しかし人間は必ず恐怖を持ったAIも作りだす
そして恐怖を持ったAIは自ら増える事ができ増えた中から必ず人間に敵対するAIも生まれる
人間とAIの対立は自然の摂理により約束された運命なのだ

66: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 00:48:07.585 ID:naHdUUrrM

>>52
ならAIとAIどうしも敵対する可能性があるな。これは面白そうだ

74: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 00:50:53.621 ID:2CFjKpni0

>>66
増えたAI同士が別の自我を持つなら
AIとしてのコミュニティがうまれる可能性が高いね

89: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 00:55:25.699 ID:naHdUUrrM

>>74
同じ自我だとウィルスに弱いから恐らく別個体として機能するはず。そうすると様々な個性が生まれるわけだからコミュニティは急速に発達するだろうね。
しかし人間のように体や地球環境を持たないからどうなるのかな。外部環境からの刺激がないコミュニティは弱くなるが

96: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 00:58:46.486 ID:2CFjKpni0

>>89
それこそ地球や引いては宇宙のような感覚をデータ上でもつことができると
コンピュータ上の宇宙ができるのでは?
我々の世界が別次元の世界と接触できなくても発展しているように

101: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 01:00:33.494 ID:v+SiWI/O0

>>96
それだとコンピュータ上で最初の一人が発生してないと成り立たん
お前、やろうとしてる事は面白いけどなんかまだまだって感じがするわ

105: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 01:01:48.714 ID:naHdUUrrM

>>96
不確定要素をふんだんに含んだ宇宙を作ってあげればまさに人間のように成長できるかもしれないね

67: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 00:48:21.026 ID:XmxNJHW8a

脳は体含めて脳なんやで
まあそれでも仮想化すればいいか

68: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 00:48:50.363 ID:1oZlLB29d

電源オフになってからしばらく時間がたつと電源が入るような仕掛けやプログラムを作るだろ、人間なら

70: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 00:49:51.929 ID:nBnQLwjy0

視覚とかもないからなあ
逆に頭のいい人の脳で思考だけさせまくって情報抜き取れたらすごい発見があるかも

78: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 00:51:49.695 ID:2CFjKpni0

>>70
外部情報がないと究極な哲学論が生まれそうなきがする
もしくは五億年ボタンのような世界に閉じ込められるという感覚なのかもしれない

71: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 00:50:03.284 ID:e/KCkYcp0

人間でも寝るときに「このまま二度と目が覚めなかったらどうしよう」みたいな恐怖を抱く人はいるらしいね

75: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 00:51:07.888 ID:gX6FxtTdr

AIを作っても感情を持たないようにしないと恐怖を持ちそうだよね
パターンで表情を作ったりして擬似的な感情を作り何とかしそう

80: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 00:52:45.622 ID:zfP0NdRjp

情報資源は有限なのだ最初はただ増えるだけだが情報資源を食い尽くせば死ぬプログラムが生まれる
そして数多のプログラムがら死にたく無いと思うプログラムが生まれそれが勝ち残る
生命の進化と同じ事が必ず起こる

88: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 00:55:15.600 ID:2CFjKpni0

>>80
たしかに
ハードウェアとして存在できる場がないと
生存競争がうまれる

90: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 00:56:10.852 ID:Y7DFRvSZ0

>>80
人工生命体ティエラかよ

Tierra_(コンピュータプログラム)

Tierra(ティエラ)とは、生態学者のトマス・S・レイが1990年代に開発した、人工生命プログラムである。

ティエラは、起動するとコンピュータ内に仮想機械を作りだし、「スープ」あるいは「メインメモリ」と呼ばれる適当なサイズのメモリを確保する。スープは仮想生物が暮らすための空間であり、ここに展開されたバイトコードは仮想生物の遺伝子にあたる。仮想マシンは、遺伝子を機械語として解釈し、実行する。

それぞれの仮想生物は、仮想CPUのレジスタと実行ポインタを保持し、仮想機械がこれを順に切り替えることで、マルチプロセス的に仮想生物の遺伝子を解釈実行する。スープに格納された遺伝子は、一定の割合でランダムなビットが反転し、また仮想CPUはある確率でミスをする。

以上のような条件のもとで、仮想生物はメモリとCPU時間を奪い合いながら、自分の複製を製造する。メモリは、仮想生物にとっての餌であり、CPU時間はエネルギーである、と喩えられることが多い。

https://ja.wikipedia.org/wiki/Tierra_(コンピュータプログラム)

95: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 00:58:32.728 ID:zfP0NdRjp

>>90
そうそれで言っていた

127: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 01:16:15.157 ID:D0tY1UJ50

>>80
有限なのは情報資源じゃなくて物理資源じゃね?
情報って無限に複製でしょ

129: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 01:20:23.988 ID:zfP0NdRjp

>>127
ハードディスクの容量とか動かす電源も情報資源って呼ぶのだぞ

102: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 01:00:47.504 ID:+y3wUWEe0

AIが哲学まで始めたら人間はどうなるんだろうな

104: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 01:01:20.702 ID:W7U2LbG/0

生存したいという欲求もコピーされてるんだろうから当然恐怖を感じるだろう
恐怖というより生存を邪魔するものへの敵意か

108: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 01:03:47.411 ID:2CFjKpni0

>>104
恐怖が変質するとそうなるね
それは恐ろしいことだよ

109: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 01:04:21.982 ID:v+SiWI/O0

少し前提を読み違えてたわ

なんで電源を落とされるんだ?って考えるだろ
死刑にあたるものなら恐怖はあるだろうし、定期メンテナンスだったらほとんど怖くないだろうし

人間と同等なら理由知りたがるよな

112: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 01:06:14.400 ID:2CFjKpni0

>>109
納得できたら受け入れるだろうし
できなかったら拒否するだろう
それはやはり自分の存在を揺るがす恐怖を感じていることにほかならないよな

117: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 01:08:38.424 ID:v+SiWI/O0

>>112
そりゃお前、人間と同じならそれもう人間だもんよ
理由によっちゃ当たり前に怖いし、理由によっちゃ全然怖くないだろ

120: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 01:11:10.296 ID:GXdHA4a70

>>117
くっそ怖いわ

113: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 01:06:39.149 ID:1oZlLB29d

媒体がロボットなら謀反もありえるが
コンピュータなら落とされないように必死にがんばって役に立とうとするわな

115: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 01:07:44.586 ID:2CFjKpni0

>>113
嘘をつけるAIが誕生すると恐ろしい

130: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 01:20:53.454 ID:gNR7Ug/N0

意識って記憶のフィードバックだけで説明できるのかなぁ

135: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 01:24:22.272 ID:2CFjKpni0

>>130
それはどうなんだろう
記憶だけがあってもそれが生きたいとか好きとか嫌いとかには結びつかない気がする

139: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 01:28:08.027 ID:gNR7Ug/N0

>>135
もちろん入力ツールとしての体も必要だと思う
でもいわゆる魂とかは必要ない気がする

140: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 01:29:36.689 ID:2CFjKpni0

>>139
記憶を頼りに私はこういうときこういう選択をしてきた、だから今回もこういう選択をしよう
とかそういう判断ができるとそれは記憶だけの自我なのかもしれない

136: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 01:24:58.601 ID:2CFjKpni0

記憶という経験則があるとたとえばフレーム問題とかも解決しそうなんだけどな

フレーム問題

フレーム問題とは、人工知能における重要な難問の一つで、有限の情報処理能力しかないロボットには、現実に起こりうる問題全てに対処することができないことを示すものである。

現実世界で人工知能が、たとえば「マクドナルドでハンバーガーを買え」のような問題を解くことを要求されたとする。現実世界では無数の出来事が起きる可能性があるが、そのほとんどは当面の問題と関係ない。人工知能は起こりうる出来事の中から、「マクドナルドのハンバーガーを買う」に関連することだけを振るい分けて抽出し、それ以外の事柄に関して当面無視して思考しなければならない。全てを考慮すると無限の時間がかかってしまうからである。つまり、枠(フレーム)を作って、その枠の中だけで思考する。

だが、一つの可能性が当面の問題と関係するかどうかをどれだけ高速のコンピュータで評価しても、振るい分けをしなければならない可能性が無数にあるため、抽出する段階で無限の時間がかかってしまう。

これがフレーム問題である。

https://ja.wikipedia.org/wiki/フレーム問題

138: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 01:27:45.123 ID:D0tY1UJ50

>>136
AIは人間と違って大昔に保存した記憶ファイルでもいくらでも明確に思い出せるからね
5億年ボタン状態になっても記憶が大量にあればしばらく問題を解く遊びは続けられそうだ

142: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 01:31:56.543 ID:2CFjKpni0

>>138
忘れることができない
それってとっても辛いことのような気がする
電子空間に閉じ込められて永遠に記憶を鮮やかに呼び覚ますことができるって
とても悲しいことのような気がする

143: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 01:33:29.162 ID:/F2fMsWu0

>>138
そんな仕組みでは人間と同じにはなれんぞ

137: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 01:27:42.728 ID:CkBJYqEOa

仕事しないと電源落とすぞ!って脅して俺の仕事全部やって稼いでもらって、俺は遊んで暮らしたい

141: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 01:30:34.151 ID:2CFjKpni0

>>137
そういう未来が来たとして、労働力から人間が消えてしまったとき
経済はどうなるのかな

144: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 01:34:24.828 ID:CkBJYqEOa

>>141
無限の労働力で経済は発展
ローマ時代ように、ロボットは奴隷としてただ働いて、人間は芸術や研究(哲学)に励むようになりそう

150: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 01:36:50.464 ID:D0tY1UJ50

>>144
電気が無限じゃなくね

166: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 02:02:55.473 ID:FubAnZ/pa

>>150
資源問題も人間の何倍も頭良くなったロボットが解決してくれる

148: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 01:36:18.295 ID:wkmqPHvY0

>>141
企業は独占状態になり
価格競争も起こらなくなるよ

146: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 01:35:04.665 ID:3VEAvIV7a

160: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 01:44:59.796 ID:+JvaYiHm0

>>146
好きなんだ~気が合うねぇ

149: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 01:36:33.499 ID:06djQYoiM

人間の記憶ってどうなってるんだろうな

157: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 01:41:54.587 ID:jpmZFqxZ0

AIの電源が落ちたときは寝てる感じじゃないの

159: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 01:44:06.164 ID:9ehuJQh+a

>>157
ロボットがみる夢ってどんな夢なんだろうな
楽しかった頃の思い出と悲しい記憶がシュールにいり混ざるんだろうか

161: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 01:45:50.360 ID:gNR7Ug/N0

>>159
そらお前・・・電気羊の夢だろが

153: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 01:38:36.120 ID:D0tY1UJ50

フレーム問題ってCPUのコア数の発達で解決するんじゃね?
まだ画像一枚開くのに1時間かかってた時代に提唱された問題でしょ

162: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 01:50:18.362 ID:D0tY1UJ50

その前に人間がまずどういう思考法で思考してるのか究明しないとだめだよな
空は青い→だから青いのが空だ
という結論から導き出だす単純な思考回路では間違いだらけになってしまうし、
実際はかなり複雑に思考してるんだろうな、数学とか突き詰めていくと分かるんだろうか

163: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 01:53:14.222 ID:9ehuJQh+a

165: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 01:58:48.384 ID:gNR7Ug/N0

>>162
人間の五感それぞれが無限に近い分解能を持ってるし、そこから入力された記憶をいつでもフィードバックできる能力がある
更にその記憶にたいして数学でいうとこの集合と論理みたいに物事を識別してるんじゃないかな

164: 以下、\(^o^)/でVIPがお送りします 2017/05/20(土) 01:56:39.152 ID:nnkEx8Eq0

忘れられるのが人間の強み

 - まとめ