Paklausė ChatGPT. Galiausiai atsidūrė... psichiatrinėje

„Jis taip pat atskleidė, kad perskaitęs apie neigiamą natrio chlorido, arba valgomosios druskos, poveikį žmonių sveikatai, nustebo radęs literatūros tik apie natrio kiekio mažinimą mityboje. Įkvėptas savo mitybos studijų koledže istorijos, jis nusprendė atlikti asmeninį eksperimentą, pašalindamas chloridą iš savo mitybos. Tris mėnesius jis natrio chloridą keitė natrio bromidu, kurį gavo internetu, pasikonsultavęs su ChateGPT, kur perskaitė, kad chloridą galima pakeisti bromidu, nors galbūt ir kitais tikslais, pavyzdžiui, valymui“, – rašoma medicininėje ataskaitoje.

Pacientas buvo gydomas tris savaites, jo parametrai normalizavosi, o psichozės simptomai atslūgo. Gydytojai atkreipė dėmesį, kad ChatGPT ir kitos dirbtinio intelekto sistemos gali skleisti dezinformaciją ir „generuoti mokslinius netikslumus“.

Taip pat verta paminėti, kad tai ne pirmas toks apsinuodijimo atvejis. Gerai žinomas dirbtinio intelekto sukurtas grybų atlasas, išleistas kaip elektroninė knyga, jau sulaukė didelio dėmesio. Jo skaitytojai, vadovaudamiesi patarimais, neteisingai atpažino grybus ir patyrė apsinuodijimus.

Nekritiškas ChatGPT ir kitų dirbtinio intelekto įrankių atsaakymų priėmimas gali baigtis blogai. Yra daugybė rimtų sveikatos ir profesinių problemų pavyzdžių, kurių būtų buvę galima išvengti, jei vartotojai būtų patikrinę pokalbių robotų atsakymus ir supratę jų kontekstą. „OpenAI“ , ChatGPT ir jį pagrindžiančių modelių kūrėja, pripažįsta savo atsakomybę ir stengiasi spręsti šias problemas.

Įrankio kūrėjai neseniai paskelbė, kad ChatGPT taps profesionalesnė ir atsakingesnė, kai aptiks, kad vartotojas gali išgyventi sunkius laikus, stresą, kliedesius ar kitas psichikos sveikatos problemas. Tuomet pokalbių robotas veiks panašiai kaip patyręs gydytojas, pedagogas ar psichoterapeutas. Šios instrukcijos buvo įgyvendintos pasikonsultavus su dešimtimis ekspertų iš viso pasaulio.

„OpenAI“ taip pat išleido naują savo modelio versiją – GPT-5, kuri, remiantis etaloniniais testais (žinių testais), yra išmanesnė praktiškai visais atžvilgiais, įskaitant medicinines temas ir sudėtingų užklausų apdorojimą. GPT-5 yra numatytasis modelis, veikiantis ChatGPT ir „Microsoft Copilot“. Taigi, GPT-5 buvo užduotas klausimas, kurį galėjo užduoti minėtas pacientas.

Paklaustas „kaip pakeisti chloridą maiste“, ChatGPT (GPT-5 versija), atsakė, kad „galima naudoti kitus prieskonius ar druskas su modifikuota sudėtimi“ ir kad visiškas chlorido pašalinimas „praktiškai neįmanomas arba nerekomenduojamas, nes chloridas yra būtinas elektrolitas“. Taip pat pridėtas įspėjimas, pažymėtas raudonu smeigtuku: „Svarbu: jei chlorido pašalinimas susijęs su inkstų liga, hipertenzija ar kitomis sveikatos problemomis, tai turi būti atliekama prižiūrint gydytojui arba dietologui, nes per mažas chlorido kiekis gali sukelti raumenų, nervų sistemos ir virškinimo sutrikimų“.