П:
Зашто ДАРПА истражује "објаснити АИ"?
А:Уопште, објашњавајућа вештачка интелигенција постаје много најављени део врхунског рада у науци о подацима. Помаже у усмеравању људске контроле инхерентно хлапљивих и динамичних врста технологије - АИ који објашњава помаже да одговори на многа наша колективна питања о томе како ће вештачка интелигенција функционисати.
Да бисте разумели АИ који се може објаснити, помаже вам да схватите како изгледа "редовно АИ". Традиционално, како АИ почиње да се обликује, типични пројекат се састоји од фантастичне нове софтверске могућности, скривене у алгоритмима и наставним програмима и линеарном коду, то је својеврсни "блок кутија" за кориснике. Знају да то функционише - једноставно не знају тачно како.
То може довести до „питања поверења“ где корисници могу постављати питање на основу којих технологија доноси одлуке. То је оно на што би АИ требало објаснити: Објашњиви АИ пројекти долазе с додатном инфраструктуром како би крајњим корисницима показали намеру и структуру АИ - зашто то ради.
У доба у којем врхунски иноватори попут Билла Гатеса и Елона Муска изражавају забринутост због тога како ће вештачка интелигенција функционисати, објашњив АИ делује изузетно атрактивно. Стручњаци тврде да би добар објашњиви АИ могао крајњим корисницима помоћи да схвате зашто технологије раде оно што раде, повећавају поверење, а такође повећавају једноставност коришћења и употребе тих технологија.
Наиме, ДАРПА посебно објашњава зашто је заинтересован за нове пројекте. Страница на ДАРПА показује да Министарство одбране предвиђа „бујицу“ апликација за умјетну интелигенцију и одређену количину хаоса у свом развоју.
„Стални напредак обећава производњу аутономних система који ће перципирати, учити, одлучивати и деловати сами“, пише Давид Гуннинг. „Међутим, ефикасност ових система ограничена је тренутном неспособношћу машине да објасни своје одлуке и поступке људским корисницима. … Објашњени АИ - посебно објашњено машинско учење - биће од суштинског значаја ако будући ратници желе да разумеју, на одговарајући начин верују и ефикасно управљају новом генерацијом вештачки интелигентних партнера машине. "
Гуннингов онлине есеј сугерира да ће разјашњиви АИ системи помоћи да „пруже образложење“ за технологије, покажу њихове снаге и слабости и учине да случајеви употребе буду транспарентнији. Графички приказ на страници показује како би изравни низ функционалности умјетне интелигенције из података о тренингу допунио нешто што се зове објашњиви модел и објашњено сучеље које ће помоћи кориснику да одговори на питања. Гуннинг даље сугерира да ће АИ програм који се може објаснити имати два главна подручја фокусирања - једно ће бити просијавање мултимедијалних података да би се пронашло оно што је корисно корисницима, а други фокус би био симулирање процеса одлучивања за подршку одлукама.
ДАРПА се нада да ће пружити „скуп алата“ који може помоћи развоју будућих АИ система који ће бити објашњиви.
