スチュアート・ラッセル著『ヒューマン・コンパチブル』の以下の要約を踏まえて、AI開発の標準的アプローチの限界を克服するための著者の提案は何か？
ラッセルはまず、AI研究の標準的なモデルは、成功の主な定義は、人間が指定した厳格な目標を達成するために、より良くなっていくことであるが、それは危険なほど見当違いであると主張する。そのような目標は、目標に含まれていない人間の価値観を考慮しないなど、人間の設計者の意図を実際には反映していない可能性がある。標準モデルに従って開発されたAIが超知的になった場合、人間の価値観を十分に反映しない可能性が高く、人類に破滅的な結果をもたらす可能性がある。ラッセルは、人間レベルのAIや超知能AIの開発スケジュールが非常に不確定であるからこそ、そのような研究を完成させるのにかかる時間も非常に不確定であるため、安全性の研究はできるだけ早く始めるべきだと主張する。

ラッセルは、AI能力の継続的な進歩は経済的圧力から避けられないと主張する。このような圧力は、自動運転車やパーソナル・アシスタント・ソフトウェアなど、既存のAI技術の開発にすでに見られる。さらに、人間レベルのAIは何兆ドルもの価値を持つ可能性がある。続いてラッセルは、AIリスクをめぐる現在の議論を検証する。ラッセルは、AIリスクを否定する多くの一般的な議論に反論を提示し、その多くが部族主義によるものであるとしている。ラッセルは、AIのリスク懸念を真剣に受け止める正当な理由があり、経済的圧力によってAIの継続的なイノベーションが不可避であることを繰り返し述べている。

そしてラッセルは、人間への敬意に焦点を当てた、証明可能な有益なマシンを開発するためのアプローチを提案する。目的が厳格で確実である標準的なAIのモデルとは異なり、このアプローチでは、AIの真の目的は不確実なままであり、AIは人間や世界についての情報を得るにつれて、その目的についての確実性に近づいていく。この不確実性が、理想的には人間の嗜好に対する破滅的な誤解を防ぎ、人間との協力やコミュニケーションを促すことになる。ラッセルは最後に、AIの研究開発に対する厳格なガバナンスと、AIが支配する世界で保持すべき適切な自律性の量についての文化的内省を呼びかけている。
ラッセルは、人間にとって何が本当に有益であるかという知識を徐々に身につけさせるような方法でAIを訓練すべきだと提案している。このような方法で開発されたAIは、人間に十分な自律性を残しながら、人間と協力するだろう。