„Terminatorius“. DI gavo prieigą prie branduolinio ginklo

Prisimenate 1984 m. mokslinės fantastikos filmo „Terminatorius“ siužetą?

„Vyko branduolinis karas“, – pasakojama jame. „Gynybos tinklo kompiuteriai. Nauji... galingi... viską žinantys, patikėję galintys viską valdyti. Nauja žvalgybos tvarka. Tada grėsmę matė visi žmonės, o ne tik esantys kitoje pusėje. Per mikrosekundę nusprendė jų likimą: sunaikinti“.

Atrodo, kad arba „OpenAI“ vadovai niekada to nematė, arba dirba viršvalandžius, kad ši prielaida taptų realybe.

„OpenAI“ paskelbė, kad JAV nacionalinės laboratorijos naudos savo dirbtinio intelekto modelius, kad padėtų „išsamiai branduolinio saugumo programai“.

Kaip praneša CNBC, iki 15 000 institucijose dirbančių mokslininkų gaus prieigą prie naujausios „OpenAI o1“ serijos DI samprotaujančių modelių.

Pasak „OpenAI“ generalinio direktoriaus Samo Altmano, kuris paskelbė apie partnerystę renginyje Vašingtone, ši technologija bus „susitelkta į branduolinio karo rizikos mažinimą ir branduolinių medžiagų bei ginklų saugumą visame pasaulyje“, kaip cituoja CNBC.

Jei šiuo metu jums skamba pavojaus varpai, jūs ne vieni. Matėme daugybę atvejų, kai „OpenAI“ DI modeliai nutekino jautrius naudotojų duomenis ir generavo melagingus teiginius.

Anksčiau šią savaitę Samo Altmano vadovaujama įmonė išleido „ChatGPT Gov“ – platformą, specialiai sukurtą JAV vyriausybei, kurioje pagrindinis dėmesys skiriamas saugumui.

Bet ar įmonė gali patenkinti kai kuriuos didžiulius lūkesčius – taip pat užtikrinti, kad jos dažnai meluojantys DI pokalbių robotai nenutekins branduolinių kodų ir nesukels kito branduolinio karo – galima tik spėlioti.

Šios naujienos pasirodė po to, kai „Wall Street Journal“ pranešė, kad „OpenAI“ pradeda derybas dėl naujo finansavimo, kurio vertė būtų milžiniška 340 mlrd. USD suma, dvigubai didesnė nei pernai.

S. Altmanas taip pat visiškai parėmė prezidentą Donaldą Trumpą, padovanodamas jam 1 milijoną dolerių  jo inauguracijai ir tvirtindamas, kad praėjusiais metais „iš tikrųjų prezidentas pakeitė mano požiūrį į jį“ po to, kai preš tai jį apmėtė šiukšlėmis.

„OpenAI“ taip pat pasirašė D. Trumpo 500 milijardų dolerių vertės dirbtinio intelekto infrastruktūros sutartį, pavadintą „Žvaigždžių vartais“, su planu per ateinančius metus įnešti dešimtis milijardų dolerių. Ar bendrovės o1 samprotavimo modeliai bus naudingi JAV nacionalinių laboratorijų tyrėjams, dar reikia pamatyti.

Tačiau, atsižvelgiant į tai, kad D. Trumpo administracijos metu buvo panaikintos DI taisyklės, taip pat atrodo neįtikėtinai nesaugus momentas perduoti bet kokią branduolinių ginklų kontrolę DI sistemai.