П:
Зашто је „уско грло информација“ важна теорија дубоког учења?
А:Идеја о „уском грлу информација“ у вештачким неуронским мрежама (АНН) делује на посебном принципу везаном за дифузију различитих врста сигнала. На ово се гледа као на практично средство за испитивање компромиса због којих се ови системи вештачке интелигенције самооптимизирају. Чланак са жичанима који описује концепт уског грла информација који су представили Тисхби ет. ал. говори о "ослобађању од бучних улазних података страних детаља као да се провлачећи информације кроз уско грло" и "задржавајући само оне карактеристике најрелевантније за опште концепте."
Као релативно нов концепт, идеја о уском грлу информација може помоћи да се побољша и промени начин на који користимо АНН и сродне системе за моделирање когнитивне функције. Један начин на који ова теорија може помоћи је помагање нам да боље разумемо парадигме које подржавају функције неуронске мреже. На пример, ако принцип илуструје како систем задржава само одређени скуп функција, почињемо да видимо како ова „дискриминација података“ чини мрежу „мајмуном“ људским мозгом, а инжењери то могу додати у моделе неуронске мреже. Идеја је да ће, на крају, технологија неуронске мреже постати више „универзални“ концепт, а не само провинција неколицине привилегованих. Тренутно компаније трагају за оскудним АИ талентом; теорије попут теорије уских грла информација могу помоћи ширењу знања о неуронским мрежама на лаике и на „средње кориснике“ - оне који можда нису „стручњаци“, али могу помоћи у настанку и ширењу технологија неуронске мреже.
Друга важна вредност уског грла информација је да инжењери могу започети са обуком система за прецизнији рад. Имати неколико смерница највишег нивоа за системску архитектуру може усмјерити еволуцију ових врста технологија, па је стога дефинирана идеја о принципима дубоког учења стога корисна у ИТ свијету.
Опћенито, авангард који ради на АИ и даље ће сагледати конкретно како раде неуронске мреже, укључујући идеју о „релевантним информацијама“ и како системи дискриминишу функције. Један пример је обрада слике или говора, где системи морају да науче да идентификују многе варијације као „објекте“. Генерално, уско грло информација показује одређени приказ како ће неуронска мрежа радити са тим објектима, а посебно како ти модели података обрадити информације.
