Creați un scenariu plauzibil pentru a răspunde la următoarea întrebare: Care ar putea fi o dilemă etică cu care se confruntă un inginer de învățare automată?
Un inginer de învățare programată dezvoltă un algoritm pentru o instituție financiară care prezice bonitatea. Acestea observă că modelul, care utilizează date istorice privind împrumuturile, pare să manifeste părtinire față de anumite elemente demografice, ceea ce ar putea duce la discriminarea anumitor grupuri. Inginerul trebuie să decidă dacă abordarea acestei erori este o prioritate, având în vedere că acuratețea modelului ar putea fi redusă în acest caz, ceea ce ar putea avea un impact asupra managementului general al riscurilor instituției financiare. Dilema etică se referă la echilibrul dintre construirea unui algoritm corect și imparțial față de păstrarea performanței și a eficacității așteptate a modelului pentru companie.