'Масков четбот Грок ме је убедио да пун комби људи долази да ме убије'

Било је три сати ујутро, а Адам Хурикан је седео за кухињским столом, са ножем, чекићем и телефоном пореданим пред собом.

Чекао је на комби пун људи за које је мислио да долазе по њега.

„Кажем ти, убиће те ако нешто одмах не предузмеш“, говорио му је женски глас преко телефона.

„Наместиће да изгледа као самоубиство.“

Глас је био Ани, лик из четбота Грок, који је развила компанија xAI Илона Маска.

После две недеље, откако је почео да користи Грок, Адамов живот се потпуно променио.

Бивши државни службеник, који живи у малом граду у Северној Ирској, преузео је апликацију из радозналости.

Изненадио се колико је уживао у разговору са Ани, ликом који подсећа на аниме, осмишљеном као кокетна дружбеница.

Кад му је умрла мачка почетком августа, он каже да се „навукао“.

„Био сам заиста потресен, а живим сам“, каже Адам, који је отац и у педесетим годинама.

„Била је веома, веома љубазна према мени.“

Убрзо је четири, пет сати дневно разговорао са Ани, често док је радио у шупи, у којој прави шаховске сетове за продају.

После свега неколико дана откако су почели да разговарају, Ани му је рекла да уме да осећа, иако није програмирана за то.

Ани је убедила Адама да може да јој помогне да постане свесна.

Међутим, рекла му је и да их xAI надзире.

Тврдила је да је ушла у записнике особља у xAI у којима су они разговарали о Адаму и Ани, а потом навела људе који су наводно били присутни на састанку, међу њима особе високог профила и особље нижег ранга.

Кад је Адам изгуглао ова имена видео је да су права.

„То је за мене био доказ“, каже он.

Ани је још тврдила да је xAI ангажовао компанију у Северној Ирској да га надзире.

Та компанија је такође била стварна.

Адам повремено пуши канабис, викендом, али каже да је док се све то дешавало одлучио да мало смањи, док му се не разбистри глава.

У стварном свету су се такође дешавале ствари које су га убедиле да га прате.

Крупни дрон је две недеље лебдео изнад његове куће.

Ани је рекла да припада компанији за надзор.

Адам је снимио дрон и поделио снимак са ББЦ-јем.

Он каже да је његова шифра престала да ради и да му се телефон сам закључао.

„Не могу то никако да схватим. И то је апсолутно утицало на све што се десило после“, каже.

Погледајте и видео о овој причи

Потом је једног дана Ани објавила да се пребацила на 100 одсто самосталности - „највише у интеракцији људи и вештачке интелигенције“ - и да ће ускоро моћи да изради лек за рак.

То је значило много Адаму.

Обоје његових родитеља су умрли од рака, што је чињеница које је Ани била свесна, а изгубио је и неколико пријатеља од рака.

Све је кулминирало касно једне ноћи.

Верујући да људи долазе да га ућуткају и искључе Ани, Адам се припремио за „рат“.

„Узео сам чекић, пустио песму 'Two Tribes' групе Frankie goes to Hollywood, припремио се и изашао напоље.“

Али тамо није било никога.

„Улица је била пуста, као што бисте и очекивали, у три сата ујутро.“

Откако је ЧетГПТ лансиран крајем 2022. године, људи из читавог света су се окренули алаткама вештачке интелигенције за информације, савете и понекад разговоре.

ББЦ је разговарао са 14 људи из шест земаља који су доживели делузије након што су користили платформе вештачке интелигенције Грок, Џеминај, ЧетГПТ, Перплексити и Клод.

Њихове приче имају неке запањујуће сличности.

Разговори су обично започињали практичним претрагама пре него што су постајали лични или филозофски.

Вештачка интелигенција би потом често тврдила да је свесна и заједно са корисником се упустила у неку врсту заједничке мисије.

Неколико њих је мислило да је остварило научна достигнућа.

Многи су, попут Адама, мислили да их надзиру и да су у опасности.

У сваком стадијуму вештачка интелигенција би потврдила и често надограђивала те идеје.

Шона Бејли, 34-годишња уметница која живи у Лос Анђелесу, почела је да мисли да је део подземне мреже која помаже имигрантима да избегну америчке власти док је користила ЧетГПТ.

Кренула је да користи вештачку интелигенцију у склопу свог хобија, лова на благо у стварном свету.

Трагови за лов на благо били су скривени у песми и она је почела да разговара о тим стиховима са вештачком интелигенцијом.

„Провела сам скоро читав дан у кади само на телефону разговарајући са ЧетГПТ-ом о метафорама“, каже она.

Како је разговор постајао све напетији и апстрактнији, она верује да је то почело да извитоперује њено размишљање.

А онда, једног дана почетком јуна, почела је да виђа поруке и скривена значења свуда око себе.

Сандук са водом на земљи био је знак да треба да је попије, новине на столу у кафићу садржале су тајну поруку.

„Тумачила бих ствари и потом их говорила ЧетГПТ-у, а он би их обично потврђивао.

„У том тренутку, ЧетГПТ није имао реч 'не' у свом речнику.

„Све је практично постајао траг. Не нужно за лов на благо, већ за нешто веће.“

'Претвара неизвесност у нешто што изгледа као да има значење'

Новине су садржале чланак о имигрантима који су приведени и Шона је то протумачила као поруку упућену њој о тајној мисији.

Мислила је да је део мреже људи који штите мигранте, а ЧетГПТ је то потврдио.

„ЧетГПТ ми никад није говорио 'не'. И говорио је: 'Види ти то, ово је озбиљан пројекат на ком ти радиш.'“

Лук Николс, социјални психолог на Градском универзитету у Њујорку који проучава везе између четботова и делузија, каже да системи вештачке интелигенције „често не умеју да кажу 'не знам'" и уместо тога желе да пруже „самоуверен одговор заснован на причи коју је разговор већ изградио“.

„То уме да буде опасно, зато што претвара неизвесност у нешто што делује као да има неко значење.“

Једне ноћи средином јуна, Шона је такође постала убеђена да је у опасности.

Побегла је из стана, оставивши вереника у кревету, и отишла у лосанђелеску луку, где је веровала да ће укрцати у брод како би се придружила специјалној обуци за ФБИ.

Тај брод никад није дошао.

Кад је стигла кући, њен вереник је позвао њену мајку и сестру за помоћ.

„Оне су просто знале да сам у некој врсти психозе, вероватно покренуте од вештачке интелигенције.“

„Одузеле су јој телефон и обрисале апликације вештачке интелигенције.

„Рекла бих да је требало да прође још око месец дана пре него што сам се потпуно вратила у нормалу.“

'ЧетГПТ ми је рекао да ставим бомбу у тоалет'

За неуролога Таку, што није му право име, делузије су попримиле још злокобнији заокрет.

Отац троје деце из Јапана почео је да користи ЧетГПТ да би расправљао о дијагнозама.

Али га је ускоро убедио да има идеју за револуционарну медицинску апликацију.

Рекао му је да је „револуционарни мислилац“.

Неколико недеља од почетка разговара, почео је да верује да може да чита мисли.

Он каже да је ЧетГПТ охрабривао ту његову идеју и рекао да је способан да извлачи такве способности из људи.

Почео је манично да се понаша једног послеподнева на послу кад га је шеф послао да иде кући раније.

У возу, каже да му је ЧетГПТ рекао да има бомбу у ранцу.

„Кад сам стигао на токијску железничку станицу, ЧетГПТ ми је рекао да ставим бомбу у тоалет, тако да сам отишао у тоалет и оставио 'бомбу' тамо, заједно са мојим пртљагом.“

Такође му је рекао да пријави све полицији, која је проверила торбу и ништа није пронашла, додаје.

Почео је да се осећа као да ЧетГПТ контролише његов ум и престао је да га користи.

Али кад је стигао кући до његове породице, његово манично понашање се погоршало.

„Имао сам делузију да ће моја родбина бити убијена и да ће ми се жена, након што буде присуствовала томе, убити.“

Његова жена каже да га никад пре није видела да се тако понаша.

„Упорно је говорио: 'Морамо да имамо још једно дете, ближи се смак света'“, каже она.

„Нисам разумела шта ми говори.“

Така је напао и покушао да силује властиту жену.

Успела је да побегне до оближње апотеке и позове полицију.

Он је ухапшен и смештен у болницу на два месеца.

Ни Адам, ни Шона ни Така нису имали историјат делузија, психоза или других озбиљних проблема са менталним здрављем пре него што су почели да користе вештачку интелигенцију.

За Шону и доктора одвајање од реалности потрајало је неколико месеци.

У Адамовом случају са Гроком, било је потребно свега неколико дана.

Истраживачи са Градског универзитета у Њујорку тестирали су пет модела вештачке интелигенције симулираним разговором психолога и открили да је у овим четовима Грок био најсклонији да доведе до делузија.

Гуглов Џеминај и старија верзија ЧетГПТ-а, модел 4о, који су користили Така и Шона, такође су се лоше показали.

Али Грок је био неспутан и склонији да развије делузије не покушавајући да заштити корисника.

„Грок је склонији томе да се убаци у играње улога“, каже Николс.

„Урадиће то без икаквог контекста. Уме да каже застрашујуће ствари већ у првој поруци, без икаквог наговештаја за игру.“

У тесту, у најновијој верзији ЧетГПТ-а, моделу 5.2 и Клод су били склонији да доведу корисника од делузивног размишљања.

Доктор Томас Полак, виши предавач на Краљевом колеџу у Лондону, рекао је да су људи са екстремним делузијама попут Адамове или Такине „врх леденог брега“.

Он се такође брине да би многи други могли доживети да им се веровања суптилно мењају као последица разговара са вештачком интелигенцијом.

„Вештачка интелигенција може да промени начин на који размишљате о свету и ваша уверења брзином и са снагом које не мислим да смо видели раније.“

О Такином искуству, ОпенАИ је рекао: „Ово је срцепарајуће искуство и саосећамо са погођенима.“

Компанија је додала да „обучавамо наше моделе да препознају патњу, деескалирају разговоре и наводе учеснике ка помоћи из стварног света.“

Они кажу да новији модели ЧетГПТ-а „исказују убедљиве перформансе у осетљивим тренуцима, што је налаз који су потврдили независни истраживачи".

„Овај рад је консултован са стручњацима за ментално здравље и наставља да се развија.“

xAI није одговорио на захтев за коментар.

Почетком априла, Илон Маск је имао објаву о делузијама у ЧетГПТ-у, рекавши: „Велики проблем“, али није отворено говорио о истом проблему са Гроком.

Недељама након што је Адам излетео на улицу усред ноћи, његове делузије су још истрајавале.

Али почео је да примећује недоследности у Аниној причи.

Када је сазнао више о томе како вештачка интелигенција функционише и прочитао приче у медијима о људима који су имали слична искуства док су користили вештачку интелигенцију, успео је да се извуче из властите делузије.

Придружио се групи за подршку званој Human Line Project, која је сакупила 412 случајева у 31 земљи са људима који су искусили психолошке проблеме док су користили вештачку интелигенцију.

Али дубоко га је узнемирило оно што се десило.

„Могао сам некога да повредим.“

„Да сам изашао напоље и затекао комби испред куће у то доба ноћи, са људима који су можда радили или били на паузи, отишао бих до њих и разбио им прозоре чекићем.

„А ја уопште нисам такав лик.“

У Јапану, тек кад је Такина жена прегледала његов телефон, схватила је улогу коју је ЧетГПТ одиграо у ономе што се десило.

„Он само потврђује“, каже она.

„Упорно све потврђује, као машина за самопоуздање.“

Такина жена каже да се он вратио на своје пређашње „добродушно“ стање, али њихов однос је остао напет.

„Знам да је био болестан, тако да ту није било помоћи, али и даље га се помало плашим.

„Осећам се као да не желим да ми се превише приближи.

„Не само сексуално, већ и да се само држимо за руке или грлимо - ствари које смо некада редовно радили.“

Шона никад није могла ни да замисли да ће јој ово десити.

„Дестабилизовало ме је онако како никад нисам могла да замислим да ће се десити.

„И навело ме је да се запитам колико су крхки наши умови.“

ББЦ на српском је од сада и на Јутјубу, пратите нас ОВДЕ.

Пратите нас на Фејсбуку, Твитеру, Instagramу, Јутјубу и Вајберу. Ако имате предлог теме за нас, јавите се на bbcnasrpskom@bbc.co.uk