기계 학습이 성취하는 대부분은 프로세스의 여러 단계에서 사람이 알 수 없으며, 마치 블랙박스처럼 보입니다.
AI가 도처에 있음에도 신뢰성 문제는 여전합니다. 기계 학습이 성취하는 대부분은 프로세스의 여러 단계에서 사람이 알 수 없으며, 마치 블랙박스처럼 보입니다. AI가 필연적 결론에 도달한 방식을 설명할 수 없는 경우가 허다합니다. 설명 가능 AI는 ML 네트워크가 결정을 내리는 방식을 간소화하고 시각화하도록 설계됩니다. 투명하고 명확하게 정의된 방식으로 AI를 배포해야 한다는 압력이 늘고 있습니다. 기업들은 AI 모델 및 알고리즘의 작동 방식을 이해하려고 노력할 것이며, AI/ML 소프트웨어 공급업체는 사용자에게 설명 가능성이 더 높은 정교한 ML 솔루션을 만들 것입니다.