П:
Зашто би компанија могла угасити АИ пројекат цхатбота?
А:Компаније би могле угасити пројекте цхатбота са вештачком интелигенцијом из више разлога, али они који се највероватније могу групирати у пар категорија. Прво, компаније могу искључити цхатбот технологије ако делују на начине који компанију могу учинити неугодном, попут промовисања неупитног говора. Компаније могу алтернативно угасити пројекат цхатбота ако почне да показује разборитост и способност које се или не могу лако контролисати, или могу представљати неку врсту евентуалне претње јавном здрављу и безбедности.
Ова два сценарија имамо документована у новијој историји. Мицрософтов експеримент са Таи цхатботом завршио се када је Таи почео да преузима неке од најгорих карактеристика својих људских колега - расистичких и агресивних коментара и уопште приговарајућих активности, од којих је већина била јасно научена или чак директно паротирана од корисника.
У врло различитој студији случаја, постављање цхатбота које је покренуо Фацебоок заустављено је када су научници приметили два цхатбота који међусобно комуницирају на начин који је помало искључив за људско посматрање. Постојала је тврдња да су субјекти разговора почели да "причају у својеврсном коду" који је за њих био прикладнији и мање транспарентан за њихове људе. Ово је пример оне заиста стварне забринутости око вештачке интелигенције уопште - како напредујемо снажном напретком у напретку снажне вештачке интелигенције, људи морају да делују тако да садрже и контролишу све примере примене АИ како би били сигурни да не прелазе дато границе. Постоји велики број етичких брига и безбедносних питања која треба решавати снажном вештачком интелигенцијом, а ово је један од главних разлога што ће неке чаробњачке или друге пројекте вештачке интелигенције у будућности затворити интересне групе које су изградиле и подржавали их кроз одређени поступак.
