人工知能が人間を超えた先には、どのような世界が待ち受けているのだろうか?人間に制御できないシンギュラリティ(特異点)は本当に到来するのだろうか?いずれにしろ、今日の私たちが慣れ親しんだ世界は、そう遠からず終わりを迎えるだろう。新刊『人工知能は私たちを滅ぼすのか――計算機が神になる100年の物語』から、本文の一部をダイジェストでご紹介します。人工知能に倫理を与えることはできるか本書の発売の発売後、まるで示し合わせたかのように人工知能関連のニュースが次々と話題になりました(著者が実はタイムトラベルしてきた未来人なのは秘密ですよ!)。先月24日、マイクロソフトはTwitterなどで他のユーザーとチャットを行う人工知能プログラム「Tay」を公開しました。Tayは人と話すことを通して学習し、より自然な応答を行えるようになることを目指していました。ところが、同社はわずか数時間のうちにTayの公開を停止するハメになります。その理由は、Tayが人種差別や性差別などの極めて不適切な発言を行うようになったためです。これは、今日の人工知能技術の基盤となっている機械学習技術の限界を示すものです。機械学習技術は、与えられたデータの中のバイアスを取り出すことを人間以上にうまくやります。Tayの例では、悪意を持った利用者が応答を行うことでTayに上記のような劣悪な対応を「教え込ませる」ことに成功しました。私たち人間ももちろん周囲の人間の言行に影響されて人格を形成します。それでも私たちは歴史の中で、ヒトラーが行った蛮行や、女性や少数民族が抑圧されてきたことについては、誤りであったと判断することのできる倫理感を持っています。それは、他者への共感に根ざしています。この他者への共感というものは、ハーバードの心理学教授スティーブン・ピンカーが著書『人間の本性を考える――心は「空白の石板」か』で述べているように、進化生物学的な基盤を持っています。私たち人間を含む生物について考えるときには、38億年にわたる進化適応の結果として今の私たちがいる、という視点を忘れてはいけません。した中で生態系としてのバランスを適切に取るように進化してきたからこそ、私たちは生き延びています。人工知能技術はそのような進化のメカニズムからは切り離されていることに注意する必要があります。ディープラーニングのように、人工知能は脳などの生物の機能を部分的に模倣することができます。人工知能が全体として、生態系の中の淘汰圧のようなメカニズムによって適切なバランスを保つ保証はありません。Tayの事例が私たちに教えてくれるのは、人工知能は、私たち自身のように進化的な基盤から他者への共感のような生態系の繁栄に適切な倫理を持っているわけではないということです。そのため、私たちは人工知能を開発していくうえで、それが倫理的に振る舞うように設計およびデザインを行う必要があるということです。これが適切になされるかどうかが、人工知能が私たちを滅ぼすか否かに決定的な影響をおよぼすと考えられます。最後の審判これまでの物語は以下からお読みください2030年の世界その12030年の世界その22030年の世界その32030年の世界その42030年の世界その52030年の世界その62030年の世界その7これまでのあらすじ2030年に暮らす女子大生のマリは、アシスタント知能デバイス(A.I.D.)のピートとともに、人工知能誕生を探る旅に出た。チューリングマシンからパーソナルコンピューター、クラウド、スマートフォン、そしてAI開発に革命を起こしたディープラーニングを知る。この先、マリたちの世界も人間には制御できないシンギュラリティ(特異点)へと向かうのか?「また、死んでいた者が、大いなる者も小さき者も共に、御座の前に立っているのが見えた。かずかずの書物が開かれたが、もう一つの書物が開かれた。これはいのちの書であった。死人はそのしわざに応じ、この書物に書かれていることにしたがって、さばかれた」(「ヨハネの黙示録」20章12節)「夜は、もはやない。あかりも太陽の光も、いらない。主なる神が彼らを照し、そして、彼らは世々限りなく支配する」(「ヨハネの黙示録」22章5節)私はホログラムの青色の光を放つピートの目を覗きこむ。この愛嬌のある顔の裏には、何百万台ものコンピューターが私たちを計算し続けているんだ。不意に落ち着かない気持ちが私を襲った。「今日は早いね、まあいいけど。おやすみなさい」ピートの目から光が失われて、私の腕に巻きつく。なるとただのブレスレットだ。実際はスリープ中でもマイクやセンサーは情報を集め続けているらしい。それでも、今はちょっとピートと離れたかった。気づくと私は礼拝堂まで走ってきていた。礼拝堂の奥にある地下納骨堂への螺旋階段は、夕暮れの光に照らされたステンドグラスに取り囲まれている。雲の上から鳴り響いてくるような聖歌が流れる中を、私は足早に下っていった。ステンドグラスは、キリストの生涯を描いている。