Glede na objavo v strokovnem časopisu Annals of Internal Medicine Clinical Cases je moški iskal priporočilo, kako izboljšati prehrano in zmanjšati vnos kuhinjske soli. ChatGPT mu je namesto zdravih alternativ priporočil, da sol zamenja z natrijevim bromidom.
Nasvet je vzel zelo resno in na spletu nabavil natrijev bromid. Tri mesece je bil del njegove prehrane, na koncu pa je v prepričanju, da ga skuša zastrupiti sosed, pristal v bolnišnici.
Ko je bil na oddelku, je zdravnikom povedal, da se drži prehrambenih omejitev in da tudi destilira lastno vodo. Nekega dne pa se mu je stanje poslabšalo, razvila se je paranoja, doživljal je tudi halucinacije.
Zdravniki so ugotovili, da je zbolel za bromizmom. Gre za zastrupitev, ki je posledica prekomerne izpostavljenosti bromu, ki ga sicer uporabljajo pri industrijskem čiščenju. Zdravili so ga s tekočinami, antipsihotiki in elektroliti, nato pa je skušal pobegniti iz bolnišnice.
Čeprav se je stanje začelo izboljševati, so se pri pacientu pojavili novi simptomi: utrujenost, akne, težave s koordinacijo gibanja in povečana žeja.
Strokovnjaki so opozorili, da umetna inteligenca lahko ustvari znanstveno nepravilne informacije brez možnosti kritičnega razmišljanja, kar lahko privede do dezinformacij. "Zelo malo je verjetno, da bi katerikoli medicinski strokovnjak predlagal natrijev bromid kot zamenjavo za kuhinjsko sol," so zapisali v članku.
Družba OpenAI, ki je razvila ChatGPT, je v svojih pogojih uporabe jasno zapisala, da njihovih storitev ni mogoče uporabiti za postavljanje diagnoz ali zdravljenje.
Pri umetni inteligenci vseeno iščejo zdravstvene nasvete
Navkljub opozorilom je raziskava Talker Researcha pokazala, da 35 odstotkov Američanov umetno inteligenco uporablja za upravljanje s svojim zdravjem. Kar 63 odstotkov vprašanih je navedlo, da je umetna inteligenca primarni vir zdravstvenih nasvetov. Nekateri se zanašajo tudi na družbena omrežja in vplivneže, večina pa naj bi verjela zdravnikom in nasvetom prijateljev.
