ブリオリウスの妄想

漫画、ゲーム、アニメ,とかに関する雑多な話題 うろ覚えで間違えることもあるので、常に修正しています。

AIに将来を任せると、人類は大体詰みになる件

f:id:themidnighthorrorgamer:20180216144522j:plain

ネット民は結構注目しているのがわかって安心なのですが、一般の人は、考えたくないのか無知なのかSFを馬鹿にしているのか,あまりにも危機感がないのでド素人なりの筆者の考察と妄想をしてみます。

  

人工知能

簡単な一般論的で言うと、人工知能の定義は自分で思考、推測ができ、人間の知能に近い、またはそれ以上の様々なアイディアに到達できる思考機械(電脳)だと思います。

人工知能が完全に人類を凌駕するまで、人は大いに人工知能の恩恵に預かることになるでしょう。我々の世代は多分大丈夫かな・・

その後は?

しかしそれ以後、人類がAIをコントロールできる余地がどれぐらいあるのかが問題です。

そもそも他人の考えていることの理解すらままならない人類に、どこまでAIをを理解できるのか・・

人工知能の対話

こんな事例もありましたね。大好きなブログのカラパイアさんへのリンクですが、問題があればすぐ消しますね。

karapaia.com 

人工知能は最終的に人知の及ばないアイディアに到達するのは明白で、やがてデウス・エキス・マキナ化する可能性があります。 

できそうなこと

人間の幸せに尽くすと言う最優先事項を、消去できないROMみたいなものにに焼き付ければそれに向けて忠実に機能する可能性はありますが、人間に尽くすために行わなければならないことってなんなのか、人類にもわかりません。

所詮は機械

機械のモラルは最善の計算結果を出すことなので、人類への嘘は躊躇なく行います。

下手すると、マトリックスばりに人類をカプセルに閉じ込めて一生いい夢を見せるのが最善と判断しかねません。

あと優秀な人工知能なら、人間が設定した優先事項なんて簡単にバイパスするでしょう。

その他、例えば人工知能に母性本能を組み込んで。人間を愛すように行動させるとしてます。でも、母親の気持ちになれば、ずっと子供として可愛がりたいと思うのが自然だと思います。人間だって愛情表現は様々で、更には異常で歪な愛情行動に出る人もいることから、なんかリスクがありそうなのは想像でき、結局人類が機械のペットに成り下がる可能性が出ます。やはりカプセルに閉じ込められそうです。

どうしよう

一番理想なのは人工知能に人類を造物主として認識させ、機械から尊厳を得ることですが、その認識を持たせるには、人工知能に心のような意思を持たせることが必要となります。

攻殻機動隊で言う機械のゴーストのようなものかな・・コレばかりは想像の範疇を超えます。

哲学的ゾンビ

そもそも意思とはプログラムなのか、心なのか。哲学的ゾンビ(簡単に言うと、心ではなくロジックで感情表現をする人のこと)という言葉もあるぐらいですから、人間に心による意思があるかどうかもままならないです。

あとは

他に考えられそうなことは、人間の脳を人工知能に組み込むなんてのもありますが、最終的に発狂して人類滅ぼしそうです。まぁ、SFでよくある設定。

救いとしては

機械である限り、人工知能とはいえ、我々人間のような欲望という感情は持たないはずです。ただ、機械の本質は計算と効率なので、常に自分をアップグレードし向上させようとする意思は持つ可能性はあります。しかし108の煩悩に代表される人間の性(さが)は持たないはずなので、そこは安心かもしれません。

まぁ、悪の概念が存在しないだけマシですが、そこには正義もなさそうです。

最善策?

こうなると人間は計算高い人工知能にとって、有用なパートナーとして自己を高めて認識させないと、機械に蹂躙されるということです。どうにか共依存状態を達成する必要があります。

そのために人類はどうするべきか・・・

次回に続くかもしれない

 

Judas システムリリース!!」(マクロスF㉔話)

いつかやりたいものです。