Яка головна передумова для того, щоб штучний інтелект перевершив інтелект людського рівня?
Якби надлюдський інтелект був винайдений – або через посилення людського інтелекту, або через штучний інтелект – він значно покращив би людські навички вирішення проблем і винахідливість. Такий AI називається Seed AI, тому що якщо б AI був створений з інженерними можливостями, які відповідали або перевершували тих, що його людські творці, він мав би потенціал для автономного вдосконалення свого власного програмного забезпечення та апаратного забезпечення, щоб розробити ще більш здатну машину, яка могла б повторити процес. Це рекурсивне самовдосконалення може прискоритися, потенційно дозволяючи величезні якісні зміни перед будь-якими верхніми межами, накладеними законами фізики або теоретичним обчисленням. Спекулюється, що за багатьма ітераціями такий штучний інтелект набагато перевершить людські когнітивні здібності.
Система AI повинна мати можливість рекурсивного самовдосконалення. Як тільки така здатність буде доступна, система AI зможе прискорити свій розвиток у швидкому темпі.