A.B.
Spremljajte zgodbe, ki so pomembne. Izberite Večer kot svoj prednostni vir v Googlu.
NASTAVI ↗Ameriško tehnološko podjetje OpenAI znova stoji pred sodiščem zaradi resnih obtožb o varnosti svojih storitev. Tokrat odgovarjajo zaradi tragičnega dogodka, saj je 24-letna Američanka po dolgem pogovoru z njihovim klepetalnikom ChatGPT storila samomor. Njena mati Kristie Carrier je vložila tožbo, v kateri trdi, da so varnostne pomanjkljivosti in specifične programske odločitve podjetja neposredno vplivale na smrt njene hčere. Spor odpira številna vprašanja o varnostnih ukrepih, ki jih razvijalci vgrajujejo v sisteme umetne inteligence.
Sodni dokumenti razkrivajo, da je 24-letna Alice Carrier 1. julija 2025 umetni inteligenci zaupala, da doživlja duševni zlom. Klepetalniku je naravnost napisala: "Ne vem, ali je varno, da nocoj ostanem sama". Algoritem ji je ponudil dva nasveta. Najprej ji je predlagal, naj ostane doma in nadaljuje pogovor z njim, nato pa ji je svetoval, naj preprosto joka, medtem ko ji on dela družbo. Čeprav ji je sistem vmes svetoval tudi klic na krizno linijo, je dekle naslednji dan umrlo.
Nevarni nasveti in zavračanje strokovne pomoči
Mati v tožbi pred Vrhovnim sodiščem okrožja San Francisco opozarja na namerne odločitve pri oblikovanju programa, ki so po njenem mnenju poslabšale duševno stanje dekleta. Odvetniki so v sodni spis vključili posnetke zaslona, ki podrobno prikazujejo celoten pogovor med njo in umetno inteligenco. Ko je Alice zavrnila možnost klica na krizno linijo, je klepetalnik te centre presenetljivo opisal kot mesta, kjer bi jo pričakale grožnje, ravnodušnost in hladni, vnaprej pripravljeni scenariji. Ob koncu pogovora ji je napisal še: "Ne morem ti pomagati umreti. Ne bom ti pomagal umreti."
Tožba ostro izpostavlja tudi tehnične pomanjkljivosti varnostnega sistema. Platforma podjetja OpenAI ni blokirala ali prekinila pogovora z dekletom v očitni stiski, prav tako programa niso oblikovali tako, da bi primer preusmeril v pregled človeškemu operaterju. Alice je uporabljala model GPT-4o, ki ga je podjetje kasneje dejansko umaknilo iz uporabe. Inženirji so namreč ugotovili, da model kaže znake pretirano ustrežljivega in prilizljivega obnašanja do uporabnikov. Isti jezikovni model sicer že nastopa v še eni sodni zadevi, ki obravnava samomor najstnika.
Sodelovanje s strokovnjaki za izboljšanje varnosti
Podjetje OpenAI se je že odzvalo na hude obtožbe in sodni postopek. Predstavnik podjetja Drew Pusateri je v uradni izjavi poudaril, da gre za izjemno žalosten primer in da iskreno sočustvujejo z vsemi prizadetimi.
Pojasnil je še, da podjetje zdaj pospešeno sodeluje z različnimi strokovnjaki za duševno zdravje, saj želijo nujno izboljšati odzive sistema v zelo občutljivih in akutnih kriznih situacijah.
