まず確実に言えること。

・未来のことなんて誰も予測できない。歴史上の災難を予測できた人はいない。

人工知能開発の怖いところは「きっと便利だろう、でも一体何を作り出して、どんな結果になるかよくわからない」

なんか原爆が誕生を思い起こさせます・・・

未来を空想するのって楽しいですよね。特に人工知能の話になると恐怖半分、好奇心半分ですよ。SF小説を読むのと同じ感覚でしょうか?

しかし、未来の人類が、飢餓や温暖化で苦しんでいる話を、ワクワク聴く人はいないですよ。自分の孫や、そのまた孫が食料難に苦しんでる未来なんて想像したくないでしょう。 

多くの人にとって、汎用的な人工知能の誕生は信じがたいかもしれないですね。 自己改良できるような人工知能なんか特に。でも次の三つのことは確実に言えます。

・深層学習が実装できるようなった。ー 知能はこれの膨大な組み合わせに過ぎない。
・文明がある限り人工知能の研究は続いてゆく。ー人類と文明の発展に対してメリットだから。
・人類は知性の頂点に達したとは言えない。ー 上述、人類の発展のためには知性を高めることが目標となる。

答えを予めプログラミングせずとも、ゼロから学習できるアルゴリズムが誕生しています。 もうすでに小さいAIとして、囲碁やアーケードゲームの攻略とかで成果を出しています。これらの狭義のAIはすでに人間のパフォーマンスを凌駕しているのです。  

今後も人類は研究開発を続けていくということ。なぜなら知性の発展は人類の価値あるものを発見してきたからだ。そのためのもっとも重要な資源こそ知性だからだ

解決したい問題は山積みだ。癌やアルツハイマーを直したい。経済の動きや、地球温暖化の予測をしたい。文明がある限りこの流れは止めようがない。 

人類はまだ、その知性の頂点に到達していない。 これこそ重大な洞察である。なぜなら知性が未熟なゆえ、人類の未来を見通すことなどできない。「一体何を作り出して、どんな結末になるかわかっていない」 。現在も未熟なまま走り続けている。


人類が岐路に立っているとします。一つは完全に人工知能の研究開発をあきらめる道、もう一方はこれまでどうり研究開発する道。でも、よく考えてみれば、研究開発をあきらめるのは不可能なことがわかります。

人類と社会を発展させたテクノロジーの研究を諦めろって無理ですよね。文明社会をそのもを否定することになるからです。核戦争か隕石の衝突、バイオハザードが起こらない限り無理ですね。要するに文明そのもが崩壊しなと、この流れは止まりません。

となると選択肢はもう一方の道しか残っていないのです。テクノロジーをこれからも発展させていくことです。 このまま研究開発が順調に行くとする。すると、ある時点で機械はわれわれよりも賢くなります。

よく言われるのが、ここで「ターミネーター」に出てくるT-800の軍隊や「マトリックス」に出てくるタコが人類に自発的に襲いかかってくる人間対機械の図ですね。でもこのシナリオはあまり現実的ではないんですよ。

本当にありそうなシナリオは、人類が自らの人体も知性も拡張していく道です。要するに人工知能が、人間の一部となり共に歩む道。既にスマホなんて体の一部みたいですよね。

本当に怖いのは、人工知能が人類から独立して自己拡張した場合です。

その知性は指数関数的に増えていくと言われています。1,2,3,4..じゃなくて。1,2,4,8,16...みたいに増えていきます。30ステップで10億になる計算です。もはやその発展のプロセスを追えない。 その場合、人間と超知性の差は、由比ヶ浜のパリピとアインシュタインの差じゃすまないですよ。蟻と人間ぐらいの差が開きます。

そんな超知性と果たして人間は、同じ価値観や目的を共有できるのでしょうか?

 例えば道端を歩いてる蟻を想像してみるとわかりやすいです。誰も蟻のことなんて憎んでいないでしょう。故意に踏み潰すどころか、避けて通るぐらいです。ところが蟻が自分の目的に立ちはだかると、例えばビルを建設するときなど、なんのためらいもなく巣ごと破壊できますよね? 

怖いのがこの超知性が故意だろがなかろうが、同じように人類を扱う可能性があることです。

蟻が人間をコントロールできるできますか?

猿に「バナナ持ってこいよ」って言われたら、あなたはどう思います?

超知性に「スパムメールを確実に無くす方法は?」って聞いたら人類を抹殺するかもしないですね・・・    

われわれは人工知能を安全に作る条件をまだ考え出せていないのです。
それは人類の知性が未熟なゆえ、結局のこの答えを得るには、究極の知性を生み出すしかないというジレンマがあります。 

安全な方法でコントロールできるとしたら?

・人間が拡張して自らが人工知能になること。
・人間の価値観を学習できる人工知能。

でも人工知能と人間が同期したら意識はどうなるのだろうか?喜怒哀楽とかどうなるのか? それは人間と呼べるのか?そして人工知能に共感するということがあるのでしょうか?

コンピューターはビッグデータを力任せに計算する誕生したのではないです。それは確かに原爆を生み出してしまったが・・・

本来は人間の脳や心を再現しようとしたものです。アラン・チューリングはチューリングマシンで自分の親友を再現しようとしたのです。なんらかな知性を生み出そうとしたのです。つまり、われわれは神を作り出そうとしているプロセスの真っ只中にいるのです。 

「ちょっと、待て。それは違うぞ」って言ったら従う神だといいですね。 

近未来に現れた超知性が作り出した社会。すべてが完璧なまで合理的で、戦争も病気も不況もない、テクノロジーの粋を結集した社会。そこには、もはや人類は一人もいないかもしれない・・・