Descrieți un scenariu în care o IA ar trebui să cântărească considerațiile etice și să prezică răspunsul său, pe baza programării IA.
Un autoturism AI se confruntă cu o situație în care trebuie să aleagă între două acțiuni: viraj pentru a evita un pieton care apare brusc în fața mașinii, ceea ce ar putea duce la rănirea pasagerului, sau continuarea pe calea curentă și lovind pietonul.
În acest scenariu, IA va trebui să cântărească potențialele efecte negative ale ambelor acțiuni. Dacă este programată să acorde prioritate vieții umane și să reducă la minimum vătămarea, IA poate lua în considerare gravitatea vătămării potențiale a pasagerului și a pietonului. Ar putea lua în considerare factori precum viteza, posibile puncte de coliziune și apropierea de alte obiecte. Pe baza acestor date și a cadrului etic al IA, aceasta poate alege acțiunea care are drept rezultat cele mai puțin grave consecințe. Procesul de gândire din spatele deciziei poate fi după cum urmează: 1) Recunoașterea situației ca o dilemă etică; 2) Evaluarea potențialelor daune în ambele scenarii; 3) Compararea rezultatelor potențiale și cântărirea considerațiilor etice; 4) Alegeți acțiunea cu cele mai puțin severe consecințe, pe baza cadrului etic programat al IA.