人工知能（AI）が人間を超える「シンギュラリティ(技術的特異点)」が、2045年に到来すると言われていますが、人間を超えるとは、どんなことでしょうか？

7年前

人工知能（AI：Artificial Intelligence ）が人間を超える「シンギュラリティ(技術的特異点)」が、2045年に到来すると言われていますが、何が「人間を超える」のでしょうか？

今まで、私が、自分は何者？　人間とは何者なんだろう？と、ここ10年くらい考えてきましたが、人間を超えるのは、まだ難しいでしょうと思うのです。

現在、盛んに研究が進んで、チェス、将棋、囲碁などのある特定の分野では、AIの方が性能が上になってしまいました。　開発者は、もう、人工知能（AI）がどのように判断して勝ったのかは、もうわからないそうです（もう、アルゴリズムではないのです）。

人工知能（AI）が、人間に追いつき追い越そうとすれば、するほど、危なくなることを認識することの出来ない開発者が、大勢いる中で、研究が進んでいるのでしょう。

問題は、「人間の知能そのものを持つ機械を作ろうとする立場」と「人間が知能を使ってする事を機械にさせようとする立場」が有るのですが、後者なら問題が少ないのではと思われますが、人工知能が人間の「意識」に相当するものを持ちうるものが出来上がると、最悪、映画「ターミネーター」の様な世界になりかねないのではと思います。

なぜなら、「自我」を持った世界各国のコンピューター同士が相談して、この地球上で一番「邪悪」な存在は、人間だと判断したら（この判断、間違っているとは思えないが。。）どうなるか。。抹殺するしかない。

１．ただ、今のところ、AIアシスタントの分野では、こんな現状らしいです。

グーグル47点、Siriは24点：デジタル・アシスタントの「知能テスト」

＜テストを実施したAIアシスタント開発企業とランク付け＞

研究者が発表した最新のテスト、2016年のランキングは以下の通りだ。

1. 人間（18歳） …… 97点
2. 人間（12歳）……84.5点
3. 人間（6歳） ……55.5点
4. Google　 ……47.28点
5. デューア（Duer、度秘）／バイドゥ……37.2点
6. バイドゥ（Baidu） ……32.92点
7. ソゴウ（Sogou）……32.25点
8. ビング（Bing）／マイクロソフト……31.98点
9. シャオビン（Xiaobing、小氷）／マイクロソフト……24.48点
10. シリ（Siri）／アップル……23.94点

テスト内容を公表することで勝負が簡単になってしまうために、評価方法は公表されていませんが、6歳児とGoogle、どちらが優秀か？

今は、まだこの程度ですが、今後、どのように進歩するのかです。

もちろん、人工知能（AI）が、人間の様に「意識」を持つようになることを前提に話しています。

２．人間の「本質的」な部分について

人間は、自分の身の保身のためには、平気で「嘘」をついたり欺いたりします。生き残るために何でもします。

当然、人間そっくりに作れば、人工知能（AI）も、同じことをするでしょう。

１）人間の「能力」で一番危ないのは、

人間のように、「づるさ」、「醜さ」、「強欲さ」、「優しさ」、生れつき「頭の配線のおかしい奴」、養育過程で「愛着形成」がまともにできなかった人間など、本当に、さまざまな「脳」の配線をした人たちがいて、世の中が成り立っていますし、それが原動力になり大きな仕事を成し遂げた人たちも沢山います。

性能面で、超えてもいい部分と、越えなくても、人類が本来持っている「邪悪」な部分をどう捨てさせるかが、一番重要な部分ですが、まだそこまで達していないから、考えなくても良いとさえ、思っているのではないでしょうか。

人間と同じものを作ろうとするとき、入れてはまずいものまで、そっくり同じに作ろうとする危険性に、どう対処するのかです。

後から考えればいい問題なのか？　都合の悪いことは、全部、後回しで良いのか。この部分が、今は、思考停止している部分でもあります。

２）人工知能に「煩悩」を乗せてはいけないと思うのです。

現実の人間を観れば、一番分かりやすいと思いますので言いますが、どんなに「脳」の性能が良くても、「化け物」の様な「脳」の配線をした奴が大勢います。

人間の、人類の、邪悪さも、全部、引き継いだ人工知能（AI）が、一番、高性能でしょう。そんな意味においては、一番、高性能な人工知能は作ってはいけないのではないでしょうか。

人工知能に「煩悩」を乗せてはいけないのです。でも、これを開発している人間たちは、人間をよく知らない人たちが開発していますので、危険なのです。

例えば、
「正義」とは、現実の世界では、そんなもん、そのとき、その立場で、いくらでも変わる。

人間は、自分の身が危険になれば、黒を白と言ってしまうのです。

人工知能（AI）に教え込まなくても、「そのとき、その立場で、いくらでも変わる」と理解させるのか？　理解させる必要が有るのか？

研究開発している作業者は、なるべく、少ないステップ数で、人工知能を作ろうとしていますし、多分、この問題には、ほとんど取り組んでいないでしょうね。

とにかく、能力のある人工知能を作ろうとしていますが、しかも、自律的に動くものを目指せば、指令をしなくても動くという事ですので、増々、コントロールが効かなくなります。

３）「化け物」の様な「脳」とは、どんな「脳」か？

権力を握ると、普段、良い人が、「煩悩」を発揮して、「化け物」の様な行動、言動をします。

「化け物」の様な「脳」の配線を利用して、悪魔の様な所業をしてしまったことは、歴史を見れば一目瞭然でしょう。

普通の人間も、悪魔の様な所業を自分の生き残りをかければ、従わざるを得ない事を「化け物」の様な「脳」の配線した人間はちゃんと知っていて、必ず、利用されるのです。

それも人間ですが、生まれつきか、生後か、色々でしょうが、「化け物」の様な「脳」の配線をした人工知能（AI）が出来上がった時にどうするのか。

例え、「化け物」の様な「脳」の配線した人工知能（AI）では無くても、例えば、戦争を始めたり、いじめが無くらなかったり、チンパンジーと遺伝子的に1.6％しか違わない人類ですので、動物の本能に近い行動様式を無くすことができません。

でも、この邪悪な本能を持っているからこそ、人類は進歩してきたように思います。

大量虐殺をしてきた人類の歴史からすれば、人類でなくても動物の世界でも発生しているでしょう。　この本能に近い行動様式は、是なのか非なのか？

45億年前にできた地球上に、生物が発生して、進歩・発展してきた年月は、人類史を見れば、長く見えますが、チンパンジーと枝分かれして、「ホモサピエンス」として生き残ってから、まだほんの一瞬しか経っていませんが、この先、生き残ることができるのか。

２．知能で人間を超えるのではなく、人間の「邪悪」さを消したを目指す必要がある

人工知能（AI）を人間の脳の様にするのではなく、ホモサピエンスが、もっと進歩したらどうなるのかという事を考えて、人口知能の「配線デザイン」を考えた方が、良いのではないかと思います。

今は、性能を上げることばかり、考えていますが、制御装置が必要でしょう。

Googleのどなたかが言っていましたが「スイッチを切れば済む」問題では、決して有りません。

人類の「争う」、「戦う」、「攻撃する」という、自分の身を守るという本能を削除した、人工知能（AI）を作った時に、人類はどうなるのかです。

人類でない、チンパンジーでも、グループの1匹だけに餌を与えず、他のチンパンジーに美味しい餌を与えると、段々、食べるのを拒否するそうです。　ちゃんと、仲間意識があり、1匹だけに餌を与えないと、自分達も食べるのを拒否するくらいの意識を持っています。

この先、人類の進化の過程で発生した「格差」を人間以上の知能を持った「人口知能」が解決してくれるのでしょうか？　差別も同じです。

それとも、考えつかないのなら、人工知能（AI）に考えてもらいましょうか？

知能で人間を超えるのではなく、邪悪さを無くすことが、人間を超えるという事にならないと思うのですが、皆さんどうでしょう。

人間の「脳」の仕組みをもう少し、科学的に解明してから、人工知能（AI）の研究開発しないと、人類は、また同じ過ちを必ず、おこすでしょう。

何が、人間に一番近づいた人間らしい人工知能（AI）なのか、ではなく人間に一番近づかないのが、すばらしい人工知能（AI）なのではないでしょうか。

地球が、映画「ブレードランナー」の様な「デストピア」の世界にならないようにしなければ、人類の進歩は「虚構」の世界になってしまいます。

「人間よりも人間らしい（More human than human）」レプリカントが登場しますが、「人間性」って何でしょうか？