Думаю, что человек - это не только набор навыков и способностей, которые можно проверить тестами. Это еще и вся совокупность биологических, химических и мыслительных процессов в огранизме, обуславливающая разум. К тому же эта система постоянно меняется, приобретает или теряет свойства, а её истинную сложность пока невозможно оценить. Даже кажущиеся недостатки, беспричинные и вредные решения - часть её уникальности.

Поэтому любой другой огранизм, пусть превосходящий человека по любым метрикам, заведомо не будет обладать таким же уникальным набором свойств, и не сможет входить на равных в общество людей. А законы всегда формировались и применялись именно в обществе людей. Даже если обшество решит делегировать свои решения ИИ, это всего лишь сделает ИИ частью действующего закона, но не общества.

Но возможно, в будущем концепция "общества" на практике расширится за пределы homo sapiens, если появится достаточное количество существ, самостоятельно претендующих на равные с человеком права. На мой взгляд, это скорее может произойти после контакта с новыми формами разумной жизни, чем после появления полноценного ИИ. Ведь до сих пор ИИ, несмотря на внешние свои проявления, не имеет никаких внутренних побуждений, а по-прежнему следует программе – например, генерировать выходную информацию на основании входной. Можно сказать, это очень "умное", но не "разумное" существо.