이는 인공지능이 인간 사회의 다양한 편견과 잘못된 가치를 배우고 그대로 반영할 위험이 있음을 시사한다.
더불어, 데이터의 편향으로 인한 잘못된 개발의 위험이 있다. 예를 들어, 최근 발생한 '챗봇 이루다' 사건처럼, 인공지능이 사용자로부터 부적절한 데이터를 학습할 경우, 그 잘못된 가치관을 그대로 이어받아 잘못된 인공지능이 개발될 수 있다. 이는 인공지능이 인간 사회의 다양한 편견과 잘못된 가치를 배우고 그대로 반영할 위험이 있음을 시사한다. 이러한 잘못된 인공지능은 사회적 불평등을 증가시키고, 차별적인 결과를 초래할 수 있다. 예를 들어, 인공지능 기반의 채용 시스템이 특정 성별이나 인종에 대한 편견을 학습한다면, 그 결과는 공정하지 못한 채용 결정을 내리게 될 것이다.