人工知能は人類を滅ぼすか-「人工知能 人類最悪にして最後の発明」


人工知能 人類最悪にして最後の発明 表紙

ダイヤモンド社様よりご献本いただきました。

この数年の人工知能の発展は目を見張るものがあります。Googleの新しいPhotoサービスなどでも機械学習による内容の認識の精度は、少し怖くなるくらいです。このまま人工知能が進化を続ければ、いつか人間を上回るくらい賢くなり、人類の敵になるようなこともあるのではないか。そんな懸念は長らくSFの話だと思われてきましたが、現実的な脅威としての検討が必要になりつつあります。

筆者は、人工知能の専門家ではなくドキュメンタリー映画の監督ですが、シンギュラリティー論で知られるレイ・カーツワイル、MITの人工知能研究所長を勤めたロドニー・ブルックス、「2001年宇宙の旅」のアーサー・C・クラークらにインタビューするうちに、AIが一般的に考えられているよりも急速に人間を超えるほど進化すると思うようになります。同時に、そうして進化した人工知能が、私たち自身のように人間のためになるよう振る舞うのは、私たちが物事を擬人化してしまう希望的観測でしかないと主張します。

筆者が特に強調するのは、人工知能が人間と同等(Artificial general Intelligence)になった瞬間に、人工知能は自らをより賢く再設計できるようになる。しかも、そのような進化を人間と異なり即座に行うことができるため、あっという間に人間とは桁違いに賢くなっていってしまう。これはカーツワイルらがシンギュラリティー論でも主張している論点です。そのような超知能(Artificial Super Intelligence)は、人間がアリのことを気にかけないように、人間のことは気にかけないだろうと述べます。結果、高い確率でASIは人類を滅ぼすことになるだろうと。

筆者は、同様の問題意識を持った個人や団体との対話を通じて、このような危機意識を確信に変えるとともに、人工知能が人類の敵にならないように取れる方法を探っていきます。

筆者の抱くこのような危機感は、決して杞憂とはいいきれません。ビル・ゲイツ、イーロン・マスク、ビル・ジョイのような先端技術に造詣の深い専門家が、同様の懸念を表明しています。それくらい、近年の人工知能の進化が飛躍的なものだという点は、僕も同感です。

一方で、筆者は技術のバックグランドではないため、様々な専門家の話を聞きそうした人々の論文や著述を読み込んでいるものの、技術のディテールについての記述はあまりなく、その点が人工知能技術の現状についてのリアリティを感じにくくしています。

公開されている人工知能システムやロボットは、パターン認識に基づく行動については高い性能を発揮するようになっているものの、状況に応じた自律的な判断を行ったり自ら目的を設定するまでには至っていません。筆者が危惧するような、自分を自律的に設計し直すほど高度な知能とは、まだ大きな開きがあります。もちろん、筆者やカーツワイルが主張するように、指数関数的に性能向上するITに支えられて人工知能技術が同じペースで進化することで、短期間(10〜20年程度?)にそのようなAGIにたどり着く可能性はあります。

人工知能にかかわる人や、興味のある人であれば、その危険性についてきちんと考えておくのは必要なことだと思います。本書は、そのような議論への、優れた入り口を提供してくれます。