Hrozba spočívá v téměř neomezené moci těch, kteří budou umělou inteligenci kontrolovat.
I když strategie efektivního altruismu vypadá logicky, jako socialisty by nás mělo znepokojovat především to, že jejím vedlejším důsledkem je soustředění moci v soukromých rukou. Spoléhat se na altruistické přesvědčení klíčových soukromých aktérů se nezdá příliš bezpečné. Právě socialistické hnutí má ostatně negativní historickou zkušenost s tím, jak mohou dopadnout ušlechtilé úmysly, pokud dovolíme, aby v zájmu jejich prosazení byla soustředěna nekontrolovaná moc v rukou jednotlivců. Na rozdíl od umělé inteligence jsou lidé produkty darwinovské evoluce a touha po moci a sobecké zájmy jsou nám vlastní. Právě i zákulisní mocenské hry, které se v souvislosti s odvoláním Sama Altmana v OpenAI nedávno odehrály, nám připomínají, že není možné se spoléhat na lidské kvality, pokud se hraje o peníze a moc. Hrozba umělé inteligence totiž nespočívá ani tak v technologii samotné – nemusíme se bát Terminátora ani Matrixu. Hrozba spočívá v téměř neomezené moci těch, kteří budou umělou inteligenci kontrolovat. V českém prostředí tuto situaci výmluvně vykresluje scéna s Golemovým šémem z filmu Pekařův císař.