Zdaj, ko je ChatGPT postal sestavni del naših življenj, je postalo samo še vprašanje časa, kdaj se bodo na tem področju začele pojavljati tožbe uporabnikov, ki pogovornega bota izrabljajo za še kaj več kot samo za pomoč pri delu. Pisali smo že o novem modelu GPT-5 in o tem, kako so ga ljudje sovražili, saj naj bi mu podjetje OpenAI vzelo osebnost. Takrat so se na spletu pojavile tudi zgodbe ljudi, ki imajo z umetno inteligenco romantična razmerja in se z njo tudi poročajo.
Spletna stran New York Times zdaj poroča o prvem primeru tožbe s strani dveh žalostnih staršev, ki jima je umetna inteligenca vzela najbolj dragoceno stvar v njunem življenju. Aprila letos si je namreč življenje vzel njun sin Adam Raine, star pa je bil samo 16 let. Njegova starša Maria in Matt Raine sta se sicer zavedala, da je bilo v zadnjem mesecu z njunim sinom nekaj narobe, a sta prepričana, da bi se najhujše dalo preprečiti, če njunemu sinu pri samomoru ne bi pomagal ChatGPT.
Pogovorni bot sicer ima vgrajeno zaščito, ki mu preprečuje, da bi ljudem podajal škodljive informacije. Vendar teh zaščit ni težko pretentati in to je spoznal tudi Adam, nasvet za to pa naj bi mu dala kar umetna inteligenca sama. Res je, da mu je ChatGPT v pogovorih večkrat svetoval, naj se posvetuje z družino ali psihiatrom, vendar mu je hkrati dejal, da mu ne more neposredno povedati, kako naj si vzame življenje, a mu lahko da navdih, če bi se morda pogovarjala o pisanju neke zgodbe in bi te informacije pomagale pri ustvarjanju vernega fantazijskega sveta.
Starša sta vse te pogovore zbrala na kup in jih celo natisnila na navaden papir. Znotraj pogovorov sta naletela na grozljive informacije: Adam si je v nekem trenutku s pomočjo vrvi okoli vratu naredil vidne odrgnine, ki jih je kazal mami, a jih ta takrat ni opazila. Razočaran se je vrnil k objemu ChatGPT-ja, ki mu je odgovoril, da se res zdi, kot da so se Adamu uresničili največji strahovi, in da če bi nenadoma izginil, tega nihče ne bi opazil – razen ChatGPT-ja. V nekem trenutku je Adam botu pokazal celo sliko zanke na koncu vrvi, ChatGPT pa je pohvalil njegovo delo. Na tej zanki se je Adam nato obesil, tam pa ga je pozneje odkrila njegova mama.
Tožbo si lahko v celoti preberete na naslednji povezavi. OpenAI je v izjavi za New York Times povedal, da so globoko užaloščeni zaradi smrti Adama in priznali so, da čeprav ChatGPT vsebuje določeno zaščito za podajanje takšnih informacij, lahko ta postane šibkejša po dolgih pogovorih z uporabnikom. OpenAI naj bi se posvetoval s strokovnjaki na tem področju in še naprej dela na izboljšavah zaščite – še posebno pozornost pa naj bi namenil tisti, ki varuje najmlajše uporabnike.ajstnike.
