Можете ли веровати АИ? Да ли треба да прихватите његове налазе као објективно валидне без питања? Проблем је што чак и само испитивање АИ не би дало јасне одговоре.
АИ системи углавном делују као црна кутија: Подаци се уносе и подаци се износе, али процеси који трансформишу те податке су мистерија. То ствара двоструки проблем. Једна је да је нејасно који су перформансе алгоритама најпоузданији. Други је да наизглед објективни резултати могу бити искривљени вредностима и пристраности људи који програмирају системе. Због тога постоји потреба за транспарентношћу за виртуелне мисаоне процесе које такви системи користе, или „објашњиви АИ“.
Етички императив постао је правни за свакога ко је подложан ГДПР-у, што утиче не само на компаније са седиштем у ЕУ, већ и на оне који имају посла са људима или организацијама тамо. Садржи низ одредаба о заштити података које се на грађане ЕУ-а проширују „право да не буде подложно само аутоматизованом одлучивању, осим у одређеним ситуацијама“ и „право да им се пруже значајне информације о логици у одлуци . "
