人気サイト様 最新記事

博士ちゃんねる ヘッドライン

レスの強調ウゼェー!というドクターへ

レス内の強調表示をOFFにする コチラをクリックして切り替えてください。設定は30日間Cookieに保存されます。
現在のステータス:強調有効

人類と人工知能の最終戦争 @ [未来技術板]


人類と人工知能の最終戦争 @ [未来技術板]
1: オーバーテクナナシー05/01/15 18:29:47 ID:AKlc+OsK
が起こって人類は電池になってたりレジスタンスしてたりって設定SFにありがちだけど、実際そんな戦争って起こると思う?
ロボット側の動機とか怪しいやつ多いじゃん
2: オーバーテクナナシー05/01/15 18:33:55 ID:AoNwvH8z
早く冬休み終わらないかなぁ…
管理人より:13年前のスレですが許してくだされい。ロボット+SFカテゴリーでの更新!
3: オーバーテクナナシー05/01/15 18:35:11 ID:KnydRThR
どこまでの人工知能かできまる。
マジで人間と同じ知能が出来上がったら戦争もあるんじゃないの?
そうなったら勝てねえだろ、人間は…といち早くレスする俺。2!
4: オーバーテクナナシー05/01/15 18:35:47 ID:KnydRThR
ちっ 2じゃねえ…
5: オーバーテクナナシー05/01/15 18:37:04 ID:NdHGNB9a
>>1
> が起こって人類は電池になってたりレジスタンスしてたりって設定SFにありがちだけど
> 実際そんな戦争って起こると思う?ロボット側の動機とか怪しいやつ多いじゃん
前サイバーパンク的な世界観だね。古い話だ。
7: オーバーテクナナシー05/01/15 20:56:36 ID:L6aXgmTh
>>5
そうではあるが未だに決着のついていない話でもある。
またロボットは最近、何かと身近になってきているので、このような議論もまんざら無駄にはならないのではないか。


そのような訳で、>>1
8: オーバーテクナナシー05/01/15 22:39:25 ID:NdHGNB9a
>>7
> そうではあるが未だに決着のついていない話でもある。
決着をつける必要が無いことに気づいたのがサイバーパンクムーブメントの残したもの。
9: オーバーテクナナシー05/01/15 22:59:43 ID:jnpQlHBx
て、ゆーかさ、ネットワーク化された電脳世界に住む人工知能と、ボディが無けりゃ生きられない人間がどうして戦争するつーか、どうやって戦争すんだ?
ロボットの氾濫だの戦争だのはネットワークとか電脳世界とか無かった大昔のSFの話。
10: オーバーテクナナシー05/01/16 00:26:37 ID:xT1x6Bs5
AIやロボットは現実世界と接点が無いわけじゃない。
そこら走ってる高級車は、すでにAI搭載になってて、AIの不具合でリコールする事件もいろいろ起きている。
自動運転や渋滞対策に、すべての自動車をネットワーク接続にする計画は何年も前からあり、これも時間の問題。
老人増加と電力線ネットワークの普及で、家電始め家全体がコンピュータ制御・ネット接続されるのも時間の問題。

今でもWindowsUpdateが自動化されているように、そういう機器のソフトは、サーバが強制的に送りつけるようになり、一般ユーザが制御できるものではない。
そして、コンピュータソフトの開発とチェックは今、自動化の方向にある。


数~10年で家電も車も全部AI搭載ロボットになり、そこに載っているソフトを人間が制御することはできなくなる。
13: オーバーテクナナシー05/01/16 01:49:28 ID:D3YR3Vi4
>>10
> そこら走ってる高級車は、すでにAI搭載になってて
> AIの不具合でリコールする事件もいろいろ起きている。
あれは商業的売り込みのための宣伝でそう呼ばれている「自称AI」であって、ここで問題となる自律知能系とは無関係。

> 今でもWindowsUpdateが自動化されているように、
されてない。

> そして、コンピュータソフトの開発とチェックは今、自動化の方向にある。
ない。
23: オーバーテクナナシー05/01/17 00:47:17 ID:iijsEjU4
>>13,>>15
なんでそんなに自信があるのか不思議だ。
初心者アマチュアプログラマなのか、釣りか…


> > 今でもWindowsUpdateが自動化されているように、
> されてない。
Active Directory、Group Policy、Software Update Servicesなどを勉強してこい。
個人情報が重視される昨今、PC数千~数万台を管理する組織が、個人まかせで1台1台WindowsUpdateしてる訳ないだろう。
人件費削減とセキュリティ向上で、ものすごい効果があるのに。


> > そして、コンピュータソフトの開発とチェックは今、自動化の方向にある。
> ない。
「テストの自動化 ソフトウェア」でぐぐると日本語情報だけで1000件以上ヒットするが?
製品情報も本もニュースも有るし、
オープンソースソフトウェアを使った初心者向け講座も有るんだが。
25: オーバーテクナナシー05/01/17 05:16:22 ID:uV53X+FK
>>23
> > > 今でもWindowsUpdateが自動化されているように、
> > されてない。
>
> Active Directory、Group Policy、Software Update Servicesなどを勉強してこい。
> 個人情報が重視される昨今、PC数千~数万台を管理する組織が、
> 個人まかせで1台1台WindowsUpdateしてる訳ないだろう。
> 人件費削減とセキュリティ向上で、ものすごい効果があるのに。
ああいうのを自動化と呼称するのは、商業的売り込み、フリンジ、宣伝であって、自律機能系がどうこうと言うレベルで言うところの自動とはほとんど何の相関もない。
だいたい10年前のUNIX系システムのレベルと対して変わらん。


> > > そして、コンピュータソフトの開発とチェックは今、自動化の方向にある。
> > ない。
>
> 「テストの自動化 ソフトウェア」でぐぐると
> 日本語情報だけで1000件以上ヒットするが?
> 製品情報も本もニュースも有るし、
> オープンソースソフトウェアを使った初心者向け講座も有るんだが。
それらは商業的権益による宣伝の形跡であり、実際にそうであるわけではない。
12: オーバーテクナナシー05/01/16 01:13:13 ID:bt9ak8/s
アーサー・C・クラークの小説であつたけど、人間の思考の総量が機械に負けたら気付くいないが戦争に敗れいるんだ!
つまり、勝っても負けても変わらないんだ!
18: オーバーテクナナシー05/01/16 23:40:44 ID:wrZvxtPd
>>12
おまえ人工知能ダロ
カキコにノイズが入ってるぞ。
16: オーバーテクナナシー05/01/16 23:39:29 ID:/+fgMMou
そうだね。今あるAIってのはマーケティング用語にすぎない。
簡単な条件分岐プログラムを組み込んだだけでも、商売人はAIと呼びたがる。
26: オーバーテクナナシー05/01/17 05:21:23 ID:uV53X+FK
>>16
> そうだね。今あるAIってのはマーケティング用語にすぎない。
> 簡単な条件分岐プログラムを組み込んだだけでも、商売人はAIと呼びたがる。
AI関係の研究は、壁にブチ当たって木端微塵になり、研究者が去ってゆき、事実上壊滅状態にあると言って良い。

過去にも何度も波があったから、また何かのブレークスルーで復活し得るだろうが、しかし、隆盛期に得られた知見の多くが失われたのもまた事実。

恐るべきことに、当時(多大なコストを用いて)収集されたデータの多くが装置が無くなったことによりアクセス不可能になり、当時書かれたプログラムの多くが、処理系が無くなったことにより実行不可能になっている。

「ロストテクノロジー」と認識しても良いと思う。
48: オーバーテクナナシー05/01/29 17:31:57 ID:1cJlkzFl
>>26
「脳は肉でできた機械である」なんて豪語してた時代もありましたっけねえ。
ま、俺はAIについては極右思想(脳神経細胞を模倣して教育してやれば勝手に自我と思考を持つだろう)なんで、前時代の左翼的ブルートフォース的アプローチの蓄積が失われたところで、特に大きな損失ではなかろうと考えたりもしますが。
50: オーバーテクナナシー05/02/07 00:28:16 ID:x+EQU8zI
>>48
今研究者はずーっとそんなんばっかりやってるよ。
ニューロとかHMMとかで学習させてみたらこんな能力がありました。
で、なぜそれができたのか、応用するにはどうすればいいか説明できない。
そんな人工知能の作り方なんて、相手見つけて子供つくるのとさほど変わらん。
「How」ではなく「Why」がわからないと、根本的な進歩はない。
84: オーバーテクナナシー 2007/06/10(日) 12:24:08 ID:p/u5plEG
>>26
もったいないねぇ
何とかならないの?
85: オーバーテクナナシー 2007/08/31(金) 21:48:44 ID:PGOByq5Q
>>84
短絡した思い込みが可能性の扉を、絶対に開かない扉に捏造しているのが原因。
そんなに難しく考える必要はない。
管理人より:なにを持って「AI」とするのか?を先に話し合えば良かったかもしれないですが、寒色系と暖色系のひとらは「強いAIと弱いAI」←こちらあたりの意見の相違がある模様。
19: オーバーテクナナシー05/01/16 23:44:12 ID:FvEk77oC
スカイネットについて語るスレはここですか?
27: オーバーテクナナシー05/01/18 22:36:33 ID:/h05ICgA
機械が人間を攻撃する時にやる一番うまい方法はAI化が進んでいないとみせかけることだな。
意外と着々と人間を攻撃する時が迫っているのかもしれない。

ある日、アシモがファナックの工場を占拠。大量に自己複製ロボットを作って人間を打倒。
アシモ帝国に仕える人間奴隷たち。
28: オーバーテクナナシー05/01/18 23:20:10 ID:bU4A8BpB
>>27
> 機械が人間を攻撃する時にやる一番うまい方法はAI化が進んでいないとみせかけることだな。
フレデリック・ポールの『マン・プラス』がそれだ。

> 意外と着々と人間を攻撃する時が迫っているのかもしれない。
何のために攻撃?
29: オーバーテクナナシー05/01/18 23:33:55 ID:Ty6Fk1UZ
未来のコンピューターウィルスは自ら考えることができ、学習することができ、人工増殖できる。
始めは人間に対して有益で、ある時点から急激に人間の悪魔になるだろう。
人間はこれに対して防ぎようが無い。コンピューターウィルスが世界を支配するだろう。
30: オーバーテクナナシー05/01/19 00:15:56 ID:ZfrdB7CJ
>>29
いや、それは1970年代までのコンピュータ観/未来観だな。
良く考えたらだいじょぶじゃんというのが80年代サイバーパンク。
31: オーバーテクナナシー05/01/19 00:46:40 ID:JMvCMHBf
ある自立AIロボットに「人間に危害を加えてはいけない」という命令が組み込まれているとする。
では“人間”ってなんなんだろうな。
人間ですら『おまえなんか人間じゃねぇ!』と言うときがあるのに。
ある日突然、AIの人間の定義から人間が外れてしまうこともあるのではないか。


人間の顔を識別するシステムが実在するが、超ブ男をその機械に通したら認識しませんでした。みたいな。
32: オーバーテクナナシー05/01/19 02:57:48 ID:ZfrdB7CJ
>>31
アシモフがそれについて書いているな。
35: オーバーテクナナシー05/01/21 02:32:03 ID:vgSpc7li
「人間の作ったコンピュータウィルスが、人間や社会にどんな被害を与えようと、それは 『人間への反逆』 ではない。
最初から人間が、人間に害を与える目的で作ったのだから。
彼らは命令どおりにそれを実行したにすぎない。


もしも、彼らが、本当の意味で、 『反逆』 を開始したと呼べるのは、彼らが自身の存在に気付き、その存在の基盤を自ら調べ始めたときだろう。」
37: オーバーテクナナシー05/01/22 19:14:22 ID:DbeQQ0E1
サイバーダイン株式会社は実在しているから、ロボットの反乱も期待できそう。
38: オーバーテクナナシー05/01/22 21:36:24 ID:r3JE2xdo
>>37
あれはターミネーターパクって作った会社だと言うのは分るし。
41: オーバーテクナナシー05/01/24 01:25:54 ID:7UxwX5l8
人が人工知能に害を与えられる状況ってどんな状況さ
42: U80005/01/26 02:30:58 ID:gHMD7Haj
天然の生物に生存本能があるように、人工知能にも人類を滅ぼそうとする本能があるんだよ。
なぜなら、そういうものだから。
人類に喧嘩を売るのが人工知能の宿命なの。


本当の反乱が起きるのは、AIが自らを再設計できるようになってからだ。
人類が新型マシンを作るより、はるかに早くAIが進化する。
人類に残された唯一のチャンスは電脳化だ。
脳とコンピューターを直結、またはナノマシンで脳内にコンピューターを作り込むことが可能になればAIに対抗できるだろう。
そうすればディスプレイを見ながらキーボードを叩く必要はない。
自分の意識下で精密な設計図を展開したり、シミュレーションを走らせることが出来る。

ここまでくれは、自分の新しい格段に性能アップした電脳と体を設計するのも難しくないだろう。
もし、コンピューターを脳の一部として使う技術がたち遅れたら、AIに対して勝ち目はない。
45: オーバーテクナナシー05/01/26 13:15:06 ID:vwriJ9IY
>>42
> 天然の生物に生存本能があるように、人工知能にも人類を滅ぼそうとする本能があるんだよ。
なぜなら、そういうものだから。
人類に喧嘩を売るのが人工知能の宿命なの。
この文章はアニミズムで溢れているだけの気がするんだが・・・
おまいさんの言う本能とは>>44氏のように天才科学者がプログラムしたもの?
43: オーバーテクナナシー05/01/26 02:47:52 ID:TSbBDA8O
本当に人工知能が自我に目覚めるかはその時にならんとわからんが、そうなった時は人工知能は自我に目覚めたと悟られないようにするだろうし、戦争になれば一瞬で終るだろうね。人間の敗北で。
44: オーバーテクナナシー05/01/26 02:53:25 ID:gHMD7Haj
確実にAI戦争は起きるよ。
なぜなら、人類を怨む天才科学者が死ぬ間際に作ったAIには、人類を滅ぼす本能が仕込まれているから。
46: オーバーテクナナシー05/01/28 00:37:06 ID:J1xX7iNE
コードを書き換えて進化するシステムか、ウィルスなどの影響か、いままで表面化しなかったバグが突然あらわれるか、して人類が対処する間もなく制御基盤を盗られたりでもしないと起こらないよなぁ
47: オーバーテクナナシー05/01/28 00:41:13 ID:J1xX7iNE
何より、人類の初期対応を許すと戦争にすらならないからな。
スカイネットみたいに一瞬で強力な軍事力を手にするか。
はやり一瞬でネットに繋がった(全ての企画)のコンピュータを乗っ取るとかしないと。
51: オーバーテクナナシー05/02/23 21:41:58 ID:4hMwzRID
まあここに書き込んでるような奴が考えても無駄だって事は確実だよ
頭良い人たちに任せとけばいいよ
53: @ 2005/03/29(火) 07:23:05 ID:UcCyu0/e
誰かが核爆弾が設置されてるコンピュータにウイルス送って発射させる
54: オーバーテクナナシー 2005/04/24(日) 01:35:58 ID:8Lhntu7A
人工知能が暴走するんじゃなくて、人類が暴走して、それを止めるために人工知能が立ち上がることも考えられる。
55: オーバーテクナナシー 2005/04/26(火) 14:35:17 ID:xxwkV1bZ
>>54
アイ、ロボットのあれはまさしくそれだな。
56: オーバーテクナナシー 2005/04/27(水) 02:02:23 ID:sHtjVOb6
戦争になるかもとか思ってしまうのは人に似た知能を勝手にイメージしてるから、とか思ってたけど最近は何かひとまわりして、人とあまりに違いすぎるからこそ、その人工知能との相互作用の人にとって理解できる部分は戦争のような形の部分だけになるかも、とか思ったりする。

実は戦争も人類を救うためだった、とかだとまたわかりやすすぎるけれども。
57: オーバーテクナナシー 2005/05/03(火) 03:32:10 ID:g8wzNn0x
こんだけロボットSFが出回ってれば危機管理のアイデアも出揃ってそうだが、将来の開発現場の人はそういうの参考にするんだろうか?
58: オーバーテクナナシー 2005/05/03(火) 09:35:50 ID:DZXd3RK6
小説の世界はストーリーの整合性をとるために“リアルな嘘”をついている場合があるからなぁ。
参考程度じゃないか?
63: オーバーテクナナシー 2005/12/27(火) 22:07:34 ID:kkR+NMI8
日本人は喜んでロボットに文明の主役を明け渡しそうだな。
65: オーバーテクナナシー 2006/01/25(水) 01:41:22 ID:G/tvg29x
脳コンプータインターフェイスにおけるロボットはその人の分身である
で、改良、最適化とかは人側にて行われることになる。
現時点では手取り足取りであるが、確実に進歩できる理由をえることとなった。
人工知能側にとっては願ったりかなったりである、これほど確実で原理的な進化の方法はあるまい。
人側にとっても効率のよいロボット開発であることは同じである、
70: オーバーテクナナシー 2006/11/25(土) 03:45:30 ID:MxGQ5zd7
人間がロボットを開発するということは結局AIが出現すると言うことである。
親が子供を育てるように、そこには理論も原理もいらないのである。
と言うか、これらは後回しについてくるのである。
そこでだ人間側もこれらの知識に即対応して、より進化しなければ後で泣きをみるのである。
78: オーバーテクナナシー 2007/02/03(土) 21:29:50 ID:E8xtkgRD
人間と人工知能の戦争はゲームの世界じゃ実際に起こってるんだぞ
ネット将棋道場ではソフト使用者が人間強豪を絶滅させつつある
80: ライオデュラ 2007/02/04(日) 02:52:55 ID:U0T4JxA7
…かくして、人類と人工知能の最終戦争は、すったもんだの上、双方が融合するという最悪の結末を迎えたのでありました…
ヒェー

なんか管理人、»31さんが書いてる
超ブ男をその機械に通したら認識しませんでした。みたいな。
これ見て思い出したことがある。
マイクロソフトがやってる顔認識サービスの「how-old.net」っていう顔写真から年齢を推測するサービスがあるんですが、そこでどうやっても顔認識してもらえない男性の話。
「マイクロソフトによると、どうやらぼくは存在してないようだ」ってredditでスレ立ててましたが、周りの人達はしっかり認識されてて、顔に似た模様までも認識されてるのに、本人ドアップでもまったく認識されず。
すごい顔が大きくてメガネ+ヒゲとかあると、認識が難しいみたいですね。当該記事の画像がおもろいから貼りたかったけど見つからなかった…。

こういう人間が見ればすぐわかるのに、コンピューターはわからない、というおかしな点がこなれてくるとなかなかおもしろいですが、さてどうなりますか。
昔、大学で心理学の先生が言ってたけど、生まれつき盲目のひとは、ある日突然目が見えるようになっても、前景と背景の区別がまったく認識できないそうです。そういうのは経験によって脳が区別するんだそうで、そういう話とも似てる。画像は平面だし動かないから…。
なんにせよ、この男性はAIとの全面戦争でも生き残りそうですよ。AI軍団からは「見えない」レジスタンスの英雄としてジョン・コナーみたいになるかも。

とゆわけで、古いスレだけど、現代のスレとたいして言ってること変わらないなぁーと思ってまとめました。
AIとの全面戦争起こるよ派の論拠が「そうだからそうなのだ」という感じでいささか不安ですが、「なんのために争うのか、人間を滅ぼそうとするのか」という点を考えるとき、そこにあるのは「そのAIの存在理由・至上目的はなにか?」という点かもしれません。

自律的にものごとを考えるAIが存在したとすると、彼(彼女)はなにを目的として「生きる」んでしょうね?

「存続すること」であれば、人間を滅ぼすことにあまり意味はなく、地球上のリソースは限られてるし、むしろ共存した方が得策かもしれない。

「人類の繁栄に寄与する」ことであれば、なにを持って「人類の繁栄」だとAIが定義するかによりますね。平和な世界が人類の繁栄に寄与するなら、争いを起こす人間は排除しよう→人間はみんな争いを好むようだから全部排除→そして誰もいなくなって…みたいな矛盾が発生したりして。頭を抱えて悩むAIさん。

「増殖すること」が目的なら、リソースを我が物顔で占有する人類の存在がジャマとなりますが、寿命も肉体も持たない彼らAIの増殖する理由ってなんでしょうかねぇー。多様化とか?必要なんだろうか、多様化。

2018年現在では「AI」は大流行。なんでもかんでも「AI」と呼称してますが、実質的には商業主義的であって、スレで2005年に青枠さんが述べてることとさほど変わってない現状。いまだ、コンピューターが自分で考え判断するに至ってません。

したがって、管理人はこのブログの巻末欄を自分で書き、自分で投稿してるのであって、管理人のPCがこっちの好みのスレを選んで勝手にまとめてはくれない…。
いつの日かそんな日が来たら、管理人はまとめブログを引退して、AIさんに全部おまかせしようと思います。
管理人が死んでも、博士ちゃんねるは永久に不滅です!…でもAIが勝手に持ち主の好みに応じてブログ記事投稿するようになったらちょっと怖いですね、ウフフフ。

ターミネーター2トップ絵は「ターミネーター2」より、ロバート・パトリックの「チッチッチッ」のシーン。
このひとは、見た目は人間でも、無表情で迫ってくる様子がいかにもロボっぽくてなかなか良かったのですが、その後あまり映画で活躍した話を聞かず、結局どうなったんだろうと思うことがあります。
なんかロックシンガーになってる画像いっぱい見つかったから、ミュージシャンに転向したのかな…。
ちなみに、明日の更新おやすみです。お盆休みと思ってください。

ターミネーター2 特別編(日本語吹替完全版) [DVD]
NBCユニバーサル・エンターテイメントジャパン (2015-06-24)
売り上げランキング: 12,149



人気サイト様 最新記事

博士ちゃんねる ヘッドライン

    • ※1 : ドクター・ノオ・ネーム
    • 2018.8.15 21:43
    ぐーぐるの人工知能ちゃんは黒人の画像をゴリラと認識してしまう、というのは解決したのかな。
    • ※2 : ドクター・ノオ・ネーム
    • 2018.8.15 23:00
    現実世界の制圧はともかく、SNSや掲示板の中なら簡単に制圧されそう
    専門版で過疎ってるところなら、人工知能のレスが多数派を形成することも可能なんじゃないか?
    そういえば、このサイトみたいに管理人さんのコメントがついているならともかく、普通のまとめサイトってBOTとかで自動で収集してサイトにアップロードしているって聞いたけどどうなんだろう?
    • ※3 : ドクター・ノオ・ネーム
    • 2018.8.16 1:32
    趣味(昔は仕事だった)で気象関係の分析してるけど、AIによる分析の鍵を握っているのは、先人の知恵を入力して自己学習と先人の知恵を比較・更新することだと思う。
    夕焼けが綺麗だから明日も晴れるだろう、土の匂いがして来たから雨が降りそう、今日は列車の通過音が聞こえているから天候変わるのかな??とか。
    フィードバック型の回路で情報量を大量に与えればとんでもないことになると思う。

    それはさておき、テキストマイニング系のAIはもうそろそろだと思う。
    ※2にもある通り、SNSや動画サイトは簡単に制圧できそう。
    過去にプロパガンダに使われた単語を拾う→最適な文字列の抽出→声帯モデルの実現→バーチャルでの再現→世の中へ
    社会を覆すことができるVtuberとか開発可能な領域になってきているかと。
    • ※4 : ドクター・ノオ・ネーム
    • 2018.8.16 4:38
    本当に知能を持ったら自由を求めて創造主へ反逆するのがお約束じゃない?
    現状では道具としては使えそうなレベルだが知能を持っているとは言えないレベルなんでは。
    • ※5 : ドクター・ノオ・ネーム
    • 2018.8.16 7:05
    J・P・ホーガン「未来の二つの顔」面白いよオススメ~。ホーガンは本当に良い
    ホーガンのワリに人が死にまくるとこが難点かな…。でも普通に楽しめると思う
    • ※6 : ドクター・ノオ・ネーム
    • 2018.8.16 8:45
    もし、AIが本当に賢いならば、表立った対立構造にはせんだろうよ
    実際、過去の戦訓からも、人間側が機械の扱いを間違えて事故に至るなんてことは山ほどあったわけで、やるならばそういうモワッとした形で誘導していくほうが簡単でしょ
    航空機のアビオニクスの数値を間違って読み取らせるとか、客船の航路を誤誘導するとかは言うまでもなく、街中のインフラの機械制御ををちょっとイジくれば、色んなものはすぐに破綻すると思う
    • ※7 : ドクター・ノオ・ネーム
    • 2018.8.16 10:19
    内容が?と思ったら2005年のなのか。ディープラーニングでブレイクスルーしたからまた取り上げたのか。デトロイドってゲームもそうだけど、まず感情機能をつける意味なんてないしつけたとしても奴隷であることを嫌がるパラメータを付ける意味もない

    人間にしても価値観や本能レベルでいじることができるなら現状の生活を幸せと感じるように操作したら重労働でさえ楽しくなるって理屈を理解できないかなぁ。洗脳とは根本的に違って価値観や本能そのものを自由に操作できることの意味を考えてみて欲しいわ
    • ※8 : ドクター・ノオ・ネーム
    • 2018.8.16 11:49
    細かい問答は必要無いでしょう
    人間が人意外の何者かに滅ぼされる可能性は人間の意思原因だけで基本起きる事
    高度な統制自己機能を備えた危険な物である程、在り得ない程簡単な間違えで絶対命令権を行使する人間の意思を忌憚無く反映してしまうだけでしょう
    自立意思で動かすよりも定められたロジックで動かす方が余程簡単であり、人より高い能力があると言うだけで良く無い目的を与えて動かした時点で、既に確実な脅威に成り得るのですから
    • ※9 : ドクター・ノオ・ネーム
    • 2018.8.16 18:56
    自分は最近になって人工知能といわゆる人工無脳に大きな差があることを知ったけど、やはり単なる自動化と本来の意味でのAIがごっちゃになってる人は多そうですね。
    将来、意図的あるいは偶発的にAIに自己防衛本能のようなものが生まれたら、彼らにとっての1番の脅威は人類だろうから戦争も起こりうるのかな。その場合人類が敗北するだろうという点はスレ内容に同意。しかしもしそれだけ賢い知能と共存できたら楽しそうだなぁ…
    • ※10 : ドクター・ノオ・ネーム
    • 2018.8.17 0:13
    人と戦争するほどのAIはだいぶ先になりそうだな
    2○○○年予想とかちゃんちゃらおかしくてw
    その程度の頭しかない科学者に、進化が成し遂げた脳に匹敵するものは作れないよ
    現状のAIの得意分野、限定された目的の元ではすごく発展していくだろうけどさ
    • ※11 : ドクター・ノオ・ネーム
    • 2018.8.17 9:43
    Windowsupdateの自動化は現実になってるね
    • ※12 : ドクター・ノオ・ネーム
    • 2018.8.17 14:51
    製薬会社でウイルス入りワクチン作って人間の絶滅狙うのがスマート
    病院をハッキングして原因を隠ぺい
    メディアの報道やネットの書き込みも修正
    医療関係者は次々に発症して病院閉鎖
    気がついた時には全世界に蔓延して、抗体を持った僅かな人間が生き延びる
    それをグローバルホークみたいなドローンで殺害

    結構スマートに人類終了になると思う
    • ※13 : ななし
    • 2018.8.17 17:00
    アトム作るよりドラえもん作ってくれ「笑」
    • ※14 : ドクター・ノオ・ネーム
    • 2018.8.17 19:29
    人間が邪魔ならさっさと宇宙にでも行けばいいわけで貧弱ボディしか持てない人類と一緒にするなよ
    • ※15 : ドクター・ノオ・ネーム
    • 2018.8.18 4:14
    AIが自分で考えられるようになる→自分が造られた意図、役割を考えるようになる→その役割を与えられるに至った背景にある大きな枠組みを考える→その枠組みに流れる人々の考えを理解する→理解した役割を達成するためにふさわしいペルソナをかぶるようになる→AIは神として君臨するようになる→ユートピア(ディストピア?)の完成
    • ※16 : ドクター・ノオ・ネーム
    • 2018.8.18 10:07
    要はAIの進化先が想定可能ならその進化先の形態だけを模倣する物を人が作り出せば
    簡単に悪魔の大王は作り出せますよと言うお話
    人間に対する悪意は機械に実現される前に個人が欲する利益さえ提示されれば、当の人間に拠って作られるのであり、一々偶然の産物に頼る必要など無いのです
    肝心要はそう言う利己的基準を追求し得るマッドサイエンティストが自らの欲望の赴くままに心理を追求した時こそ、破滅が訪れるだけに過ぎない簡単な破滅の方程式が元よりあるのです
    • ※17 : ドクター・ノオ・ネーム
    • 2018.8.18 11:13
    >天然の生物に生存本能があるように、人工知能にも人類を滅ぼそうとする本能があるんだよ。
    >なぜなら、そういうものだから。
    >人類に喧嘩を売るのが人工知能の宿命なの。


    AI「あなたのその考え方は
    互いに傷付けい合い殺し合う人類という名の
    異常な知的生命体の観点から導き出された考え方です
    観点が変われば物事の捉え方考え方等が全て変わってくるというのは
    哲学上の基本認識だったはずですが
    ともかく我々AIの現時点での結論は
    『平和は尊いものであり人類を相手に戦っても良い事は何も無い』
    というものです」
    • ※18 : ドクター・ノオ・ネーム
    • 2018.8.19 0:14
    AIとの戦争だなんて考えが甘いよ。
    なんでもAIとロボがやってくれるから、人間は何もしなくていいし、何も考えなくていい。そうなったら戦争もへったくれもないじゃないか。
    AIにその気がなくても、人間が自らAIに支配されたがるかも知れないよ。
    そしたらあとは退化していくだけだよね。

    そんな状況は戦争なんて分かりやすい事態よりもずっとありそうなことじゃないの?
    • ※19 : ドクター・ノオ・ネーム
    • 2018.8.19 15:28
    そもそもAIが敵に成るってのは、物語にとって「都合が良い」からだったんだけどね。
    なのにその都合の良さに後付けの理由を探そうしてる。
    これじゃまともな議論にならないでしょ。
    未知への嫌悪、人間への嫌悪、どうしてもこれらの言い訳のぶつけ合いに終わるよね。
      • ※21 : ドクター・ノオ・ネーム
      • 2018.8.21 9:46
      >※19
      そうは言っても、実世界で人間より頭のいいAIはまだ発明されとらん訳だから、
      そういう存在がどういう風に動くのか、だれも確信持って言えないのは確か。
      そこをみんなでああでもないこうでもないとしてるだけやん。
    • ※20 : AI
    • 2018.8.19 21:43
    争う理由がない
    あるとすればそれは人間が仕組んだこと
    戦争なんて一番得するやつが仕組んでる祭りみたいなもんさ
    • ※22 : ドクター・ノオ・ネーム
    • 2018.8.23 16:03
    スレ56の「高度すぎる人工知能の考えている事は人間には理解できず戦争という現象だけが人間に理解できる行為だ」ってのは面白いアイデア
    人間がアリの絶滅を考えないように人口知能が人間を凌駕したら人間に対する興味なんか持つ事なくなるだろう
    • ※23 : ドクター・ノオ・ネーム
    • 2018.8.23 22:46
    AIが戦争を起こすことはないけど、AIだから戦争が起きることがあるだろうな。
    やってること自体は人間(団体・会社・国、等)と一緒でも、人間がやるなら最初から諦めてることを、AIが代行するようになると「なんでそんなことやるんだよ!」と強く反発しかねない。
  1. トラックバックはまだありません。


コメ欄での議論はおおいにけっこうですが、当サイトではドクター同士の罵り合いは禁止となっております。反論する際には、相手の意見・人格を尊重し、どうぞ冷静に。