예를 들어, 최근 발생한 '챗봇 이루다' 사건처럼, 인공지능이 사용자로부터 부적절한 데이터를 학습할 경우, 그 잘못된 가치관을 그대로 이어받아 잘못된 인공지능이 개발될 수 있다.
더불어, 데이터의 편향으로 인한 잘못된 개발의 위험이 있다. 예를 들어, 최근 발생한 '챗봇 이루다' 사건처럼, 인공지능이 사용자로부터 부적절한 데이터를 학습할 경우, 그 잘못된 가치관을 그대로 이어받아 잘못된 인공지능이 개발될 수 있다. 이는 인공지능이 인간 사회의 다양한 편견과 잘못된 가치를 배우고 그대로 반영할 위험이 있음을 시사한다. 이러한 잘못된 인공지능은 사회적 불평등을 증가시키고, 차별적인 결과를 초래할 수 있다. 예를 들어, 인공지능 기반의 채용 시스템이 특정 성별이나 인종에 대한 편견을 학습한다면, 그 결과는 공정하지 못한 채용 결정을 내리게 될 것이다.