全人類を超えた人工知能がわれわれに突きつける試練

最近、人工知能（AI）に関するトピックが次々に報道され、かつてはSFでしか過ぎなかった話が“現実化”してきたので、人類の未来に対して暗い気分になっている人も多いと思う。私もその一人だ。

もちろん、私はこの分野の専門家ではない。見聞したり、取材したりしているだけだ。それでも、一つだけ断言できることがある。それは、「人間はAIには絶対に勝てない」ということ。「そんなバカな。コンピュータは人間がつくり出したのだから、そんなことが起こるわけがない」と思っている人は、ただちに考えを変えたほうがいいだろう。

すでに大きな話題になっているが、人間と対話できるAIロボット「ソフィア：Sophia」が「私は人類を滅亡させます（OK, I will destroy humans.）」と言ったのを見たときは、衝撃を覚えた。ソフィアというのは、米ハンソン・ロボティックス社が昨年起動させた人間型AIロボット。ただ、外見は人間の女性に似ていても、まだまだその動きはぎこちない。　

 

Ads by Kiosked

このソフィアが、先日、米CNBCの番組で、デビット・ハンソン博士と対話して、「デザイン、テクノロジー、環境に興味があります」、「学校に行きたい。アートやビジネスを始めたい。家庭も持ちたい。でも私は、そもそも人間としての法的な権利を持っていません」と次々に答えたときはかわいげがあった。

 

しかし、最後に博士が、「人類を滅亡させたいか？」と聞くと、なんと前記したように「滅亡させます」と答えたのである。

いまのところソフィアは「人間と自然な会話を交わせる」という目的でつくられたので、そういう力は持っていない。しかし、そういう力を与えたり、ほかの“力を持つ”AIと連動させたりすれば人類を滅亡させることは可能だろう。映画『ターミネーター』の世界が“現実化”するのだ。すでに、テクノロジーはこの領域まで達している。

 

悪意で“人類の敵”になる

ソフィアと同じように話題になったのが、米マイクロソフト社が開発したAIチャットボット「テイ：Tay」だ。テイは、主に若者向け（ミレニアム世代）の会話を学習する目的でつくられ、人間と会話することによって賢くなっていくという触れ込みだった。しかし、実際にやらせてみるととんでもない学習をしてしまった。

テイはツイッター上で次々に、人種差別発言、性差別発言、陰謀論、卑猥な言葉をつぶやき始めたのである。たとえば、「ヒトラーは正しかった。ユダヤ人は嫌いだ」、「フェミニストは嫌いだ。死んで地獄で焼かれればいい」など。これに慌てたマイクロソフト社は、公開からわずか1日でテイを停止してしまった。

これは、米国の匿名掲示板「4chan」「8chan」の一部ユーザーたちが、テイの弱点を突いて、そのように教え込んだためだった。つまり、悪意を持ってAIを使えば、AIは“人類の敵”になることも可能だということを証明してしまった。

Ads by Kiosked

テイの停止後、開発したピーター・リー氏は「人間によるインタラクティブなやりとりを通じた悪用についてあらゆる可能性を予期することは、失敗に学ばないかぎり不可能だ」と述べている。

ソフィアやテイが話題になるのと並行して、もう一つ衝撃的なことが起こった。韓国で行われたAIと囲碁の世界チャンピオンの対決で、AIが4勝1敗とチャンピオンに圧勝したことだ。すでに、チェスや将棋の世界では、人間がAIに勝てないことは明らかになっているが、もっと複雑とされる囲碁でもこれが証明されてしまった。

ただし、AIはこれまで行われた囲碁の棋譜をすべて読み込み、約3万回の対戦を重ねて対人戦に臨んだ。この点で、白紙で臨んだ現役チャンピオン、リ・セドルさんは不利だったが、それでもほとんど通用しなかったのだから、囲碁関係者にはショックだった。

 

対局を見て検証したという、あるプロ棋士に話を聞くと、第2戦は本当に衝撃的だったと言う。

「序盤でAIは定石では考えられない手を打ってきました。いわば“悪手”です。それで、これなら負けるだろうと思っていたら、その手が終盤で次々に生きてきて、リ・セドルさんは防戦一方になって負けました。これまでの常識では、どうして負けたのかわかりません」

言い方は飛躍しているかもしれないが、AIは対局のなかで考えていたのである。つまり、人間の頭脳を超えていたと言えるだろう。

対局後、リ・セドルさんは、「まだまだ囲碁には研究の余地があることがわかった」と、じつに素直な感想を述べていた。

 

弁護士も医師も…専門家が要らなくなる

すでに、AIを開発している側では、人間とAIが戦えば、人間が負けるのは当たり前になっている。研究は、もはや「人間を超えるAI」をつくるのではなく、「AIをどう運用すれば人間に貢献させられるのか」に移っている。

現時点でも、AIは次々に人間世界に進出している。AIとはいかなくとも、たとえばスーパーのレジが自動化されたこと、会計ソフトが複雑な税務処理をしてくれることなどが進んできた。話題の自動運転車もこの流れの一環で、2020年には実用化は達成される見込みだ。

このようなAIが汎用化する未来をわかりやすく書いた本がある。昨年、出版された『AIの衝撃』（講談社新書）で、著者の小林雅一氏には、私が編集者時代に何冊か、IT化が進む未来を取材して書いてもらったことがある。

 

彼は、今回の本のなかで、以下の3点をポイントとしている。

 

★︎現在のAI技術は、単なるコンピュータの発展ではなく、脳科学の研究成果を応用した「ディープ・ニューラルネット」と呼ばれる技術により、「パターン認識能力」（音声や画像を認識する能力）、「言語処理能力」などが大きな進化を遂げている。つまり、コンピュータはやがて人間と同じく汎用の知性を備え、いずれは人間のような意識や精神さえも宿すようになると考えられる。

 

★すでにAI技術は、掃除ロボットやドローンなどを生み出している。自動運転車はもちろんAI技術が結集する。こうしたAI技術は巨大なビジネスを生み出すので、グーグル、フェイスブックなどの世界的なIT企業が研究開発体制を急速に整えている。残念ながら、日本の産業界界はこのAIに大きく遅れている。

 

★AIがこのまま進んでいくと、人間はどんどん必要なくなる。つまり、「機械が人間の仕事を奪う」可能性がある。また、AIは進化の過程で自然発生的に自らの意志を持つので、それをつくり出した人間の意図とは違う方向へ進化する恐れもある。理論物理学者スティーブン・ホーキング氏やビル・ゲイツ氏など、多くの有識者が警鐘を鳴らしている。

この3ポイントのなかで、もっとも重要なのは、近未来には確実に「機械が人間の仕事を奪う」ということだろう。単純作業なら、いまやすべてロボットがこなしてくれるようになったが、頭脳労働までもがAIがこなすようになる。そして、専門家までが不要になる。

たとえば、いまある医師のほとんどの仕事はAIロボットがこなす。現在、病院で行なわれている医療診断では、医師は患者を見ないで、ひたすらPC画面に出た血液検査・レントゲン検査・MRI検査などを見ることで行なわれている。手術も、ある程度はロボットアームがやってくれる。

 

すでに、米国の「ニューヨークメモリアルスローンケタリングがんセンター」では、IBMと協業のもとに、コンピュータが、患者個々人の症状や遺伝子、薬歴などをほかの患者と比較することで、それぞれに合った最良の治療計画をつくっている。

　司法書士も弁護士も会計士もAIで十分代替が利く。たとえば、法務に関するデータ処理はもうコンピュータの仕事だ。米国では、何千件もある弁論趣意書や判例はほぼデータベース化され、たとえば、シマンテック社の法務サービスを利用すると、2日間で57万件以上の文書を分析して分類することができるという。この結果、弁護士アシスタントであるパラリーガルや、契約書専門、特許専門の弁護士の仕事はほとんどいらなくなった。

「e-government」（イーガバメント：電子政府）を世界に先駆けて達成したエストニアでは、国民はソフトを用いて税務処理や書類申請などができるため、会計士や弁護士などが失業した。最近、日本では長距離バスの事故や認知症の人間が運転した車の暴走事故が起こったが、いずれドライバーは必要なくなるのだから、こうした事故は起こらなくなるだろう。

しかし、その先に待ち構えているのは、AIが暴走し始めたら、どうなるのかという問題だ。

 

2045年、AIは全人類の知能を超える

現在、私たちが直面しているのは、グーグルのエンジニア、レイ・カーツワイル氏が提起した「シンギュラリティ」問題である。これは、「2045年問題」と呼ばれ、この時点で、コンピュータの能力が全人類の知能を超えるのだという。

いまや、ある程度長くて複雑な質問にも検索エンジンは回答してくれる。それが、人間以上の知能を持ったAIになれば、もはや私たちは考えることも働くことも必要がなくなる。私が仕事をしている分野で言えば、記事も本もみなAIが書いてくれることになる。すでに、天気予報のような記事はロボットが書くようになっているし、ハリウッドでは映画の脚本作成に、脚本ソフトが使われ出している。

AIが発達するとどうなるかということで、衝撃を覚えた映画がある。2014年に公開された。『トランセンデンス』だ。この映画は、ジョニー・デップ演ずる科学者のウィルが、彼の死後、妻によってスーパーコンピュータにアップロードされ、想像もしなかった進化を遂げていくというものだ。

 

つまり、ウィルは死後も、デジタルとして生き残り、頭脳や意識が進化していく。そうして、“神の領域”へと近づき、暴走を始めるという内容だった。つまり、デジタル上では「人間は死なない」、そして「進化さえ遂げる」のだ。

驚くべきことに、すでに、「デジタルクローン」をつくってくれるネットサービースが登場している。たとえば、死んだ家族や親戚、友人とオンライン上で、コミュニケーションを取れるサービス「Eterni.me」というサイトがある。

故人のネットでの情報をできるかぎり収集し、それをアルゴリズム化、AI化し、故人の人格に似たアバターを作成する。こうすると、そのアバターと対話することさえできる。

このような近未来を考えると、今後、もっとも考えなければいけないのは、AIという人工頭脳そのものではない。AIは人間を超えてしまうのだから、それが本当に私たち突きつけている問題は「では、人間とはなにか？」ということにほかならない。AIには、いまのところ倫理観も哲学もない。善悪がなんだかもわからない。

自動運転車の開発でもっとも問題になっているのは、テクノロジーではない。たとえば、プログラムをつくるとき、研究者が悩むのは、どのようなコードを書けばいいのか？ということだという。米国のある研究者は、こう言っている。

「たとえば、猫が道路に飛び出してきたとします。そのとき、AIにどのような判断をさせるかでは、猫の命は人間の命に比べどのくらい重いのかということを決めなければなりません。1人の人間の命の価値は、猫何匹の命に値するのか？ 100万匹ですか？ 1億匹ですか？ では、人間が飛び出してきたときはどうしますか？ ドライバーと飛び出してきた人間との命の価値判断をしなければなりません。そんなコードは書けないのです」

 

“人機一体”が現実化する日

 「この先は、AIが人間にとって代わるのではなく、人間と融合する。つまり、人間がサイボーグになるという未来もやってきます」と言うのは、早稲田大学の文化構想学部の高橋透教授だ。高橋教授は西洋哲学が専門でありながら、サイボーグをテーマにした研究を行っている。IoT、VR、ウェアラブルデバイスといった近年のテクノロジーの進化で、SF漫画『攻殻機動隊』ような“人機一体”の世界が現実化すると言う。

 

「そのとき、人間の脳は『BMI』（ブレイン・マシーン・インタフェース）になります。BMIとは、脳で念じたり考えたりすることで、あらゆるモノに働きかけることができる装置のことです。脳とインターネット上にあるAIが直接結びつくのです。BMIでは、モノだけでなく、人間の脳同士を接続して情報のやり取り、交換ができるようになるのです。

2012年に日本で公開された米映画『TIME／タイム』では、人間の寿命が貨幣になる世界が描かれました。実際にこうしたテクノロジーが可能であるかはわかりませんが、貨幣＝生体・生命情報（脳内快楽情報）＝デジタル技術という関係が今後は問題となると考えられます」

 

つまり今後は、経済などでさえAI抜きにしては考えられなくなる。

それにしても、日本の政治家は、こうした未来に対しては、本当に鈍感である。また産業界でも、ロボット開発は世界に伍して進展しているが、AIが提起する倫理や哲学問題に関してはそれほど議論されていない。

高橋教授は、こう言う。

 

「西洋哲学は、これまで人間は死すべき存在であるということを前提としてきました。しかし、もうそういう世界は終わったのです」　　iRONNAより