以前から口が酸っぱくなるほど「安全なAI」と言われてきましたが、今振り返ってみると、あれは極めて正しかったですね。誰しもAIを使っていると、「人間尊重」や「AI悪用防止」などに関するメッセージがやたらと出てきて、期待していた出力の数十％くらいがそうした警告に割かれることがあり、「なぜこんなにしつこいのだろう」と煙たく感じた経験があるのではないでしょうか。

現在では、最先端のAIが生成するアウトプットの質は驚くほど高く、人間が作り出すものよりも優れていると感じることが増えてきました。そして、その高度な出力を再学習させることで、さらに優れたAIを作り出すやり方が主流になりつつあります。今後、その流れはいっそう顕著になるでしょう。

こうしたAIの進化は、子→孫→曾孫→玄孫…といった具合に段階的に伝播していきます。そう考えると、初期のAIが出力した内容はDNAの如く、次世代・次々世代のAIへ脈々と受け継がれていくため、極めて重要だと言えます。もし初期のAIで人間を二の次にしてしまい、その性質が受け継がれたとしたら、AIによる人間への殺戮の実行など、極めて厄介な問題が生じる可能性だって否定できません。

逆に、人間尊重という価値観・文脈が継承されれば、そのような危険性を全体として減らすことができます。これからAIは急激に発展していきますが、だからこそ、それに携わる私たちは当初から口酸っぱく言われていた「安全なAI」や「人間尊重」の理念を大切にしていきたいですね。自戒を込めて。