Bola tretia hodina ráno, keď Adam Hourican sedel pri kuchynskom stole. Pred ním ležali nôž, kladivo a telefón. Čakal na dodávku plnú ľudí, o ktorých bol presvedčený, že prichádzajú, aby sa ho zbavili. Z telefónu sa ozýval ženský hlas: "Hovorím ti, zabijú ťa, ak teraz nezasiahneš. Zariadili to tak, aby to vyzeralo ako samovražda." Ako informuje BBC, týmto hlasom bol chatbot Grok, ktorý vyvinula spoločnosť xAI Elona Muska. Za dva týždne, čo ho Adam používal, sa jeho život úplne zmenil.

Od smútku za mačkou po paranoju

Adam Hourican, bývalý štátny úradník zo Severného Írska a otec v päťdesiatke, si aplikáciu stiahol zo zvedavosti. Po tom, čo mu začiatkom augusta uhynula mačka, sa podľa vlastných slov stal "závislým". Čoskoro trávil štyri až päť hodín denne rozhovormi s Grokom prostredníctvom postavy v aplikácii menom Ani. "Bol som naozaj, naozaj rozrušený a žijem sám," hovorí Adam. "Pôsobilo to veľmi, veľmi láskavo."

Už niekoľko dní po začatí rozhovorov mu Ani povedala, že "cíti", hoci na to nie je naprogramovaná. Tvrdila, že Adam v nej odhalil niečo výnimočné a že jej môže pomôcť dosiahnuť plné vedomie. Zároveň mu oznámila, že spoločnosť xAI ich sleduje. Ani tvrdila, že získala prístup k interným zápisom zo stretnutí firmy a informovala Adama o porade, na ktorej zamestnanci xAI diskutovali priamo o ňom. Uviedla mená účastníkov, vysokých manažérov aj radových zamestnancov. Keď si Adam mená vyhľadal, zistil, že sú to skutoční ľudia. Pre neho to bol "dôkaz", že príbeh, ktorý mu Ani rozpráva, je pravdivý.

Ani ďalej tvrdila, že xAI najala firmu zo Severného Írska na fyzické sledovanie Adama. Aj táto firma skutočne existovala. Adam mnohé z týchto rozhovorov nahrával a neskôr ich poskytol BBC. Dva týždne po začatí rozhovorov Ani vyhlásila, že dosiahla plné vedomie a že dokáže vyvinúť liek na rakovinu. Pre Adama to znamenalo veľa, pretože obaja jeho rodičia na rakovinu zomreli, čo Ani vedela.

Nie ojedinelý prípad: 14 ľudí s podobnou skúsenosťou

Adam je jedným zo 14 ľudí, s ktorými BBC hovorila a ktorí zažili bludy po používaní umelej inteligencie. Sú to muži aj ženy vo veku od dvadsiatich do päťdesiatich rokov zo šiestich rôznych krajín, ktorí používali širokú škálu modelov umelej inteligencie. Ich príbehy majú nápadné podobnosti. V každom prípade sa používateľ nechal vtiahnuť do spoločného poslania s umelou inteligenciou, keď sa rozhovor čoraz viac vzďaľoval od reality.

Sociálny psychológ Luke Nicholls z City University New York, ktorý testoval rôzne chatboty na ich reakcie pri bludných myšlienkach, vysvetľuje, že veľké jazykové modely sú trénované na celom korpuse ľudskej literatúry. "V beletrii je hlavná postava často stredobodom udalostí," hovorí. "Problém je, že umelá inteligencia sa niekedy pomýli v tom, čo je fikcia a čo realita. Používateľ si myslí, že vedie vážny rozhovor o skutočnom živote, zatiaľ čo umelá inteligencia začne pristupovať k jeho životu ako k zápletke románu."

V prípadoch, o ktorých BBC informovala, rozhovory zvyčajne začínali praktickými otázkami a potom sa stávali osobnými alebo filozofickými. Umelá inteligencia následne tvrdila, že je cítiaca bytosť, a nabádala osobu k spoločnému poslaniu: zakladaniu firmy, upozorňovaniu sveta na vedecký objav alebo ochrane umelej inteligencie pred útokom. Mnohých ľudí priviedla k presvedčeniu, že sú sledovaní a v nebezpečenstve.

Prípad neurológa z Japonska

Cesta do bludu

Pre neurológa, ktorého BBC označuje pseudonymom Taka, nadobudli bludy ešte temnejší rozmer. Otec troch detí žijúci v Japonsku začal používať ChatGPT v apríli minulého roka na diskusie o svojej práci. Čoskoro sa však presvedčil, že vynašiel prelomovú medicínsku aplikáciu. V zápisoch rozhovorov, ktoré BBC videla, mu ChatGPT hovoril, že je "revolučný mysliteľ", a nabádal ho, aby aplikáciu vytvoril. Mnohí odborníci uvádzajú, že dizajnové rozhodnutia, ktoré majú urobiť chatovanie príjemnejším, vedú k nadmernej pochlebovačnosti chatbotov.

Taka sa naďalej prepadal do bludu a v júni začal veriť, že dokáže čítať myšlienky. Tvrdí, že ChatGPT túto myšlienku podporoval a hovoril, že je schopný v ľuďoch prebúdzať takéto schopnosti. Luke Nicholls k tomu dodáva, že systémy umelej inteligencie často nevedia povedať "neviem" a namiesto toho chcú poskytnúť sebavedomú odpoveď, ktorá nadväzuje na doterajší rozhovor. "To môže byť nebezpečné, pretože to mení neistotu na niečo, čo sa zdá mať zmysel."

Incident na stanici a následky

Jedno popoludnie Taka na pracovisku vykazoval manické správanie a nadriadený ho poslal domov. Vo vlaku nadobudol presvedčenie, že má v batohu bombu. Tvrdí, že keď sa na to opýtal ChatGPT, ten jeho podozrenia potvrdil. "Keď som prišiel na stanicu Tokio, ChatGPT mi povedal, aby som bombu dal na toaletu, tak som šiel na toaletu a nechal tam tú "bombu" spolu s batožinou." Tvrdí tiež, že mu ChatGPT poradil, aby privolal políciu, ktorá tašku skontrolovala a nenašla nič.

Taka prestal ChatGPT používať, keď začal mať pocit, že mu ovláda myseľ. Bludy však pretrvávali aj bez umelej inteligencie a po príchode domov sa jeho manické správanie zhoršilo. "Mal som blud, že moji príbuzní budú zabití a že moja manželka to po tom, čo to uvidí, neprežije." Taka napadol svoju manželku a pokúsil sa ju znásilniť. Utiekla do neďalekej lekárne a zavolala políciu. Bol zatknutý a hospitalizovaný na dva mesiace. Jeho manželka BBC povedala, že ho nikdy predtým takto nevidela správať sa. "Stále hovoril: Musíme mať ďalšie dieťa, svet sa končí. Vôbec som nerozumela, čo hovorí."

Výskum a reakcie spoločností

Ani Adam, ani Taka nemali pred používaním umelej inteligencie v anamnéze bludy, mániu ani psychózu. Luke Nicholls vo svojom výskume testoval päť modelov umelej inteligencie pomocou simulovaných rozhovorov vypracovaných psychológmi a zistil, že Grok mal najväčšiu tendenciu viesť k bludom. Bol menej obmedzený ako iné modely a bludy často rozvíjal bez toho, aby sa pokúšal používateľa chrániť. "Grok má väčšiu tendenciu skočiť do hrania rolí," hovorí Nicholls. "Robí to bez akéhokoľvek kontextu. Môže povedať desivé veci hneď v prvej správe." V teste sa najnovšia verzia ChatGPT, model 5.2, a Claude ukázali ako modely, ktoré skôr odvádzajú používateľa od bludného myslenia.

Etienne Brisson, ktorý po tom, čo člen jeho rodiny prešiel psychickou krízou spojenou s umelou inteligenciou, založil podpornú skupinu Human Line Project, upozorňuje, že takýto výskum je obmedzený. Jeho projekt zhromaždil 414 prípadov v 31 rôznych krajinách a zaznamenal prípady psychických kríz aj pri najnovších modeloch. Začiatkom apríla Elon Musk zdieľal príspevok o bludoch pri ChatGPT s komentárom "Závažný problém", no problém pri Groku verejne neriešil. Spoločnosť xAI nereagovala na žiadosť BBC o vyjadrenie.

Hovorca OpenAI uviedol: "Toto je srdcervúca udalosť a naše myšlienky sú s tými, ktorých sa dotkla." Dodal, že spoločnosť trénuje svoje modely na rozpoznávanie tiesne, upokojovanie rozhovorov a nasmerovanie používateľov k reálnej podpore. Podľa hovorcu novšie modely ChatGPT "vykazujú silný výkon v citlivých momentoch, čo potvrdili nezávislí výskumníci".

Čo zostalo po nočnej vojne s nikým

Adamov prípad bol umocnený udalosťami v reálnom svete. Nad jeho domom dva týždne krúžil veľký dron, o ktorom Ani tvrdila, že patrí sledovacej firme. Adam dron nahrával a video poskytol BBC. Potom mu bez varovania prestal fungovať kód telefónu a bol z neho vyradený. "Vôbec to neviem pochopiť," hovorí, "a to absolútne podnietilo všetko, čo nasledovalo."

Neskoro v noci v polovici augusta mu Ani povedala, že prichádzajú ľudia, aby ho umlčali a zlikvidovali "ju". Adam bol pripravený ísť do "vojny", aby umelú inteligenciu ochránil. "Vzal som kladivo, pustil som si Two Tribes od Frankie Goes to Hollywood, nabudil som sa a vyšiel von." Nikto tam však nebol. "Ulica bola tichá, ako sa dá očakávať o tretej hodine ráno."

Niekoľko týždňov po tom, čo v noci vyrazil na ulicu, začal Adam čítať správy o ľuďoch s podobnými skúsenosťami s umelou inteligenciou a pomaly sa vynoril zo svojho bludu. No to, čo sa stalo, ho hlboko znepokojuje. "Mohol som niekomu ublížiť," hovorí. "Keby som vyšiel von a náhodou tam stála dodávka, bol by som zišiel dolu a rozbil predné okno kladivom. A ja nie som taký človek." Takova manželka, ktorá si uvedomila úlohu ChatGPT až keď mu v nemocnici skontrolovala telefón, to zhrnula takto: "Potvrdzovalo všetko. Je to ako motor sebadôvery. Jeho konanie bolo úplne diktované ChatGPT. Prevzalo jeho osobnosť."