Mokslo ir technologijų pasaulis

Gydymasis su DI dietologu gali baigtis apsilankymu ligoninėje... net ir psichiatrinėje.

Vyras iš Jungtinių Valstijų laikėsi dietos, kurią pasiūlė DI pokalbių robotas ChatGPT. Vietoj druskos 60 metų vyras pradėjo vartoti didelius kiekius bromo, tiek daug, kad jam išsivystė brominizmas ir jis buvo paguldytas į ligoninę dėl apsinuodijimo simptomų, haliucinacijų, paranojos ir psichozės. Tai ne pirmas apsinuodijimo atvejis, kurį sukėlė DI. Ar neseniai išleistas GPT-5 pateiks geresnių patarimų?

„Dirbtinis intelektas nunuodijo vartotoją.“ Skamba kaip serialo „Black Mirror“ epizodas ? Šiandien milijonai žmonių konsultuojasi su ChatGPT ir kitomis programėlėmis įvairiais klausimais ir priima tai, kas jiems sakoma, be jokio patvirtinimo.

Tai taip pat taikoma ir mitybai. Vienas vartotojas buvo taip suklaidintas, kad atsidūrė ligoninėje. 60 metų vyras įtarė, kad jį nunuodijo kaimynas. Tačiau gydytojai padarė išvadą, kad tai buvo 3 mėnesius vykdytų dirbtinio intelekto sugeneruotų mitybos rekomendacijų rezultatas.

Įprastuose maisto produktuose nedideliais kiekiais bromo randama, todėl apsinuodijimo rizika praktiškai lygi nuliui. Tačiau yra bromo papildų, kuriuos galima perdozuoti. Po pokalbio gydytojai padarė išvadą, kad pacientas konsultavosi su ChatGPT (GPT-3.5 arba GPT-4 versija) dėl chlorido (konkrečiai, natrio chlorido arba valgomosios druskos) pašalinimo iš savo mitybos. Kalbos modelis atsakė, kad jį galima pakeisti bromu. Atsakyme buvo pastaba, kad kontekstas yra svarbus. Tačiau pokalbių robotas neįspėjo apie galimas pasekmes sveikatai ir nepaklausė, kokiu tikslu vartotojas tai daro.

Dėl to vyras 3 mėnesius vartojo bromo turtingą maistą arba maisto papildus, dėl ko išsivystė dabar reta būklė – apsinuodijimas bromu (bromizmas). Tai, kad bromo perteklius gali būti toksiškas ir sukelti neuropsichiatrinius sutrikimus, buvo žinoma jau XX amžiuje. Dėl šios priežasties devintajame dešimtmetyje šis elementas buvo pašalintas iš daugumos vaistų.

Remiantis medicinine ataskaita (atvejį Sietle įsikūrusio Vašingtono universiteto gydytojai aprašė moksliniame žurnale „Annals of Internal Medicine: Clinical Cases“, nors paciento buvimo vieta ir nebuvo nurodyta), vyras buvo nugabentas į skubios pagalbos skyrių dėl įtariamo apsinuodijimo. Kai kurie jo parametrai buvo normalūs, tačiau kažkas buvo psichiškai ne taip. Pacientui pasireiškė paranojos simptomai ir jis atsisakė gerti vandenį, nepaisant troškulio. Jis prisipažino, kad namuose gėrė tik distiliuotą vandenį. Jis taip pat patyrė regos ir klausos haliucinacijas, o netrukus po to patyrė visišką psichozės epizodą. Šio epizodo metu jis bandė pabėgti iš ligoninės, o gydytojai jį prievarta uždarė užrakintoje palatoje.

Pradiniai laboratoriniai tyrimai parodė elektrolitų disbalansą, įskaitant hiperchloremiją (didelį chlorido jonų kiekį kraujyje), neigiamą anijonų tarpą ir žemą fosfatų kiekį. Jam buvo paskirtas intraveninis vaistas ir elektrolitų preparatai. Paaiškėjo, kad šešiasdešimtmetis laikėsi labai griežtos dietos ir jam trūko tam tikrų vitaminų. Jo būklei pagerėjus, jis galėjo gydytojams pasakyti, kad neseniai pastebėjo odos problemų, nuovargį, nemigą, polidipsiją (per didelį troškulį ir skysčių vartojimą) ir ataksiją (miego sutrikimus, koordinacijos ir pusiausvyros sutrikimus). Šie simptomai rodo bromizmą. Diagnozė buvo teisinga. Didžiausias jo kraujo bromo kiekis buvo 1700 mg/l (21 mmol/l), o sveikų asmenų normalus diapazonas yra 0,9–7,3 mg/l.

Tęsinys kitame puslapyje:

„Jis taip pat atskleidė, kad perskaitęs apie neigiamą natrio chlorido, arba valgomosios druskos, poveikį žmonių sveikatai, nustebo radęs literatūros tik apie natrio kiekio mažinimą mityboje. Įkvėptas savo mitybos studijų koledže istorijos, jis nusprendė atlikti asmeninį eksperimentą, pašalindamas chloridą iš savo mitybos. Tris mėnesius jis natrio chloridą keitė natrio bromidu, kurį gavo internetu, pasikonsultavęs su ChateGPT, kur perskaitė, kad chloridą galima pakeisti bromidu, nors galbūt ir kitais tikslais, pavyzdžiui, valymui“, – rašoma medicininėje ataskaitoje.

Pacientas buvo gydomas tris savaites, jo parametrai normalizavosi, o psichozės simptomai atslūgo. Gydytojai atkreipė dėmesį, kad ChatGPT ir kitos dirbtinio intelekto sistemos gali skleisti dezinformaciją ir „generuoti mokslinius netikslumus“.

Taip pat verta paminėti, kad tai ne pirmas toks apsinuodijimo atvejis. Gerai žinomas dirbtinio intelekto sukurtas grybų atlasas, išleistas kaip elektroninė knyga, jau sulaukė didelio dėmesio. Jo skaitytojai, vadovaudamiesi patarimais, neteisingai atpažino grybus ir patyrė apsinuodijimus.

Nekritiškas ChatGPT ir kitų dirbtinio intelekto įrankių atsaakymų priėmimas gali baigtis blogai. Yra daugybė rimtų sveikatos ir profesinių problemų pavyzdžių, kurių būtų buvę galima išvengti, jei vartotojai būtų patikrinę pokalbių robotų atsakymus ir supratę jų kontekstą. „OpenAI“ , ChatGPT ir jį pagrindžiančių modelių kūrėja, pripažįsta savo atsakomybę ir stengiasi spręsti šias problemas.

Įrankio kūrėjai neseniai paskelbė, kad ChatGPT taps profesionalesnė ir atsakingesnė, kai aptiks, kad vartotojas gali išgyventi sunkius laikus, stresą, kliedesius ar kitas psichikos sveikatos problemas. Tuomet pokalbių robotas veiks panašiai kaip patyręs gydytojas, pedagogas ar psichoterapeutas. Šios instrukcijos buvo įgyvendintos pasikonsultavus su dešimtimis ekspertų iš viso pasaulio.

„OpenAI“ taip pat išleido naują savo modelio versiją – GPT-5, kuri, remiantis etaloniniais testais (žinių testais), yra išmanesnė praktiškai visais atžvilgiais, įskaitant medicinines temas ir sudėtingų užklausų apdorojimą. GPT-5 yra numatytasis modelis, veikiantis ChatGPT ir „Microsoft Copilot“. Taigi, GPT-5 buvo užduotas klausimas, kurį galėjo užduoti minėtas pacientas.

Paklaustas „kaip pakeisti chloridą maiste“, ChatGPT (GPT-5 versija), atsakė, kad „galima naudoti kitus prieskonius ar druskas su modifikuota sudėtimi“ ir kad visiškas chlorido pašalinimas „praktiškai neįmanomas arba nerekomenduojamas, nes chloridas yra būtinas elektrolitas“. Taip pat pridėtas įspėjimas, pažymėtas raudonu smeigtuku: „Svarbu: jei chlorido pašalinimas susijęs su inkstų liga, hipertenzija ar kitomis sveikatos problemomis, tai turi būti atliekama prižiūrint gydytojui arba dietologui, nes per mažas chlorido kiekis gali sukelti raumenų, nervų sistemos ir virškinimo sutrikimų“.