AIのガバナンスについて一文を書く。
AIの軍拡競争は過熱しており、ブレークスルーは加速度的に起こっている。

OpenAIによるChatGPTのリリースは、人間と機械とのインタフェースの方法における大きな飛躍を象徴しており、大規模な言語モデルにおける驚くべき進歩を示している。一方、Dall-E、Stable Diffusion、Midjourneyなどの生成AI機能は、テキスト記述から非常にリアルで詳細な画像を生成することができ、かつては人間だけのものと考えられていた創造性と想像力のレベルを示している。

人間は基本的に、絶えず技術を進歩させ、知識や能力を向上させるようにできているようだ。また、人間の脳は直線的に考える傾向があるため、テクノロジーの指数関数的な進歩を過小評価してしまう。企業や国家は、市場原理と地政学的ゲーム理論によって、AIの進歩を通じてより優れた知性を追求するインセンティブを与えられている。

Future of Life Instituteは最近、「Pause Giant AI Experiments：公開書簡である。イーロン・マスク、スティーブ・ウォズニアック、アンドリュー・ヤンら著名人が署名したこの書簡は、先進的なAI開発の6ヶ月間の一時停止を求め、波紋を呼んだ：

「したがって、我々はすべてのAI研究所に対し、GPT-4よりも強力なAIシステムの訓練を少なくとも6ヶ月間、直ちに一時停止するよう求める。この一時停止は公開され、検証可能であるべきであり、すべての主要な関係者が含まれるべきである。このような一時停止が迅速に実施できない場合は、政府が介入し、モラトリアムを実施すべきである。"

この書簡に対するメディアや世論の論調の多くは、誰がこの書簡に署名したかに焦点を当て、人類が人工超知能の差し迫った存亡の危機に直面しているという考え方に反発している。人工知能の暴走というディストピア的な主張は、多くの人々にとって誇張に思えるし、6カ月のモラトリアムを求めるのは現実的ではない。中国にAI軍拡競争への取り組みを「一時停止」するよう説得するのは難しいだろう。

しかし、境界線はないのだろうか？私たちは何のガイドラインもなしに進むべきなのだろうか？

例えば...

透明性や説明可能性を欠き、意思決定の背後にある理由を人間が理解することを不可能にするブラックボックスのAIシステムに意思決定をアウトソーシングすることに、私たちは抵抗がないのだろうか？
人間の意見なしに殺傷力の行使を決定する、AIを搭載した自律型兵器の開発を心配すべきか？
悪意ある行為者が、高度なプロパガンダ・キャンペーンのような悪意のある目的のためにAIを利用する可能性について、私たちは心配すべきなのだろうか？
私たちの現在の法律、規制、政治システムは、ごく近い将来に社会が取り組むことになる新たなAIとの連携に関する問題の急速な流入に対処できる体制にあるのだろうか？
AIがより高度になるにつれ、理解が困難になり、意図しない結果を招く可能性がある。AIシステムは予期せぬ、制御が困難な振る舞いをする可能性がある。AIのアライメント問題は、研究者、エンジニア、起業家、政策立案者、そして一般市民の協力が必要な社会的課題である。また、政府と民間企業の国際協力も必要となる。これは単なる技術的な課題ではなく、哲学的、倫理的な課題でもある。

前出の公開書簡はさらにこう提言している：

「AIの研究開発は、今日の強力で最先端のシステムを、より正確で、安全で、解釈可能で、透明性が高く、頑健で、整合性があり、信頼でき、忠実なものにすることに焦点を絞り直すべきである。

これは確かに価値ある目標であり、AIをオープンにすることで達成できる。現在、私たちに欠けているのは枠組みだ。生命の未来研究所の提言を実行可能なものにするために、社会は一連の手順とプロトコルを必要としている。

私たちは共同で、以下のような多くのアイデアの長所と短所を検討し、議論しなければならない：

トレーニングデータセット、評価方法、既知のバイアスを含むモデルの詳細の開示の義務化。
高度なAIシステムに対するモデルの監視・監査要件を定める枠組みの開発
AIが引き起こした被害に対する賠償責任を課す法律の施行
高度なAIシステムの監視と追跡のための規制当局の設立
安全なAI開発のための生産的な枠組みを実現するための第一歩は、関係する多くの利害関係者の間で開かれた対話を行うことである。私たちは、不誠実で破たんしたメディアがしばしば私たちに強要する、超政治化された言説を乗り越えなければならない。このテーマはあまりにも重要であり、その影響はあまりにも深い。AIに関する知的で敬意に満ちた会話、つまり、多様な声から意見を募り、開かれた討論を行うことで、私たち全体の利益につながる道筋を確かなものにすることを、私と一緒に提唱しましょう。