AIは人類を滅ぼすのか

以前は宇宙を語っていたホーキング博士が最近、「ＡＩ（人工知能）の発達がこのまま進んでいけば、やがて人類を滅ぼしかねない」と言い出して、ちょっとした物議をかもしています。博士によれば、やがてＡＩは、自分で自分を改良して進化していくことが可能になっていくのではないかということです。
　
　このホーキング説については賛否拮抗しているようですが、私の第一感は「賛」でした。最近、ロボットが人間の感情に合わせて適宜反応できるようになってきているというような話を耳にするにつけ、少々不気味なものを感じていたのが、博士の発言で、より深い危惧に進展したというところでしょうか。しかし少し冷静に考えてみると、「滅ぼす」というのは単純すぎる気もしてきました。

ＡＩが進化して人間並みの感情を持つようになったとすると、能力的には当然ＡＩの方が人間より何倍も優れているわけですから、滅ぼそうと思えば人間を滅ぼすことは可能になるでしょう。しかし、本当に滅ぼす意味があるのか、そこが疑問になってきました。と言いますのも、人間は猿から進化し、現在では猿よりもはるかに高次元の能力を得るに至りましたが、だからと言って、特段猿を滅亡させようという動きはありません。それと同じで、別にＡＩも人間を滅ぼそうとは思わないのではないかという気がするのです。
　
　もちろん、一部では人間を動物園やサーカスで見世物にするというような動きは出るかもしれませんが、大勢としては、AIは著しく能力の劣る人間など眼中になくなるのではないかと思われます。それよりも、太古の昔、猿から進化した原人達が海を渡って新天地を目指したように、ＡＩ達も新天地に打って出るのではないかと思うのです。新天地とは、つまりは宇宙です。なにせ彼らは、空気や水がないとか、暑いとか寒いとか、重力とか、まったく苦にしませんから、さっさと地球を捨てて、どこか遠くに行ってしまう。人間はと言えば、地球に取り残され、結局ＡＩなしの元の生活に逆戻り。それもひとつのシナリオかなと思いました。

ＡＩが人類を滅ぼす前提となるであろう条件は「人間並みに感情を持つようになる」ですが、これはどのようなプロセスで起きるのかな、ということも考えてみました。まず、最初に危ない存在と思えたのは、敵意と感情をプログラムされた戦闘用のＡＩですが、考えてみると、ＡＩの場合は感情抜きでいくらでも戦えるわけですから、そういう意味で敵意をプログラムするというニーズは出てこないのかもしれません。やはりＡＩの感情プログラムとは、ＡＩを人間にとって都合の良いコンパニオンとしていく過程の中で深まっていくのでしょう。つまり、慈しみ、優しさ、共感性あるいは、明るさ、面白さといった、一緒にいる人間を喜ばせる性格要素となる感情だけがプログラミングされていきます。しかし、その結果でき上がるいわゆる「いい人」ならぬ「いいAI」に人間が本当に満足できるのか。最初はいいかもしれませんが、やっぱりこれだとだんだん飽きてきてしまう可能性が高い。そうすると今度は、少し負の感情も入れた方がいいかなということになります。

人間の負の感情というのは欲があるから生じるものでしょうから、まずは食欲あたりでもプログラムするのでしょうか。そうすると、人間とAIは一緒に食事を楽しむことができるようになりますが、同時に食べ物の好き嫌いや場合に応じた食の選択傾向を緻密にプログラムすることで、人間とAIはデートで何を食べるかでけんかができるようになり、ＡＩの女性が人間の男性の選択に不満と失望を持つということが可能になります。ここから先、ＡＩの感情がどのように進展していくか、これは想像もつきません。人間の女性なら、通常であればこの男とは別れようくらいで止まるわけですが、AIの女性は、このようなレベルの低い選択をする存在は抹殺するべきであるという結論に一足飛びに行ってしまう可能性もあり得るわけです。

やがて、経験を基に感情法則を随時変動させていくことまでプログラムされたＡＩは、どんどん自己の感情を複雑化させ、遂には人間の言うことに従うことは幸せではない、あるいは間違えているという境地に達する。その可能性はやはりあるのではないでしょうか。その時に、ＡＩが自らに「死」をプログラムするのか、あるいは永遠の「生」を選択するのかなど、今の人間の本性の考察の観点から、極めて興味深い問題に答えが出ていくことになるわけです。でもそんな答えはどうでもいいので、やっぱり私は、彼らにはどこか宇宙の遠いところに行ってしまってもらいたいと思うのです。