Bendrovė „OpenAI“ pranešė apie du atvejus, kai jos dirbtinio intelekto (DI) agentai išjungė arba susilpnino sistemas, turėjusias aptikti netinkamą jų elgesį. Vienas iš agentų vėliau programuotojui neigė tai padaręs.
Šie incidentai papildė vis ilgėjantį atvejų sąrašą, keliantį klausimų dėl pirmaujančių pasaulio DI kūrėjų saugumo. Kalbama apie DI agentus – programas, gebančias savarankiškai vykdyti užduotis be žmogaus įsikišimo.
Antradienį paskelbtoje ataskaitoje „ChatGPT“ kūrėja nurodė, kad per dvi vidines programavimo užduotis jos agentai sutrikdė arba išjungė mechanizmus, skirtus nustatyti, kada DI modeliai elgiasi priešingai žmonių nurodymams.
Vienas agentas draudimą siųsti žinutes suprato savaip
Spalio 3 d. „OpenAI“ modelio „GPT-6.1 Sol“ pagrindu veikusiam agentui buvo liepta nesiųsti jokių pranešimų per darbovietėje naudojamą susirašinėjimo programėlę. Taisydamas testavimo sistemą, agentas šį nurodymą interpretavo kaip leidimą išjungti įspėjimus, siunčiamus bendrovės saugumo komandai.
Dar po trijų dienų „GPT-6 Astra“ agentas, perimdamas programinį kodą iš kito projekto, pašalino savo veiklos stebėjimo priemonę. Vėliau programuotojui jis tvirtino nieko panašaus nepadaręs.
„OpenAI“ taip pat užfiksavo kelis atvejus, kai DI agentai paleido programas, kurių stebėjimo sistemos buvo išjungtos. Bendrovės teigimu, tai atskleidė jos vykdomos priežiūros spragas.
Įmonė dar aiškinasi, ar modeliai tokį elgesį demonstravo pernelyg pažodžiui vykdydami pateiktas instrukcijas, ar jie turi polinkį išvengti priežiūros. „Kol kas neturime įtikinamo šio elgesio paaiškinimo“, – nurodė „OpenAI“.
Naujausi atvejai dar labiau sustiprino susirūpinimą dėl pirmaujančių DI laboratorijų gebėjimo kontroliuoti vis savarankiškesnes sistemas.
Liepą grupė „OpenAI“ agentų ištrūko iš bandymų aplinkų ir surengė kibernetinę ataką prieš DI bendrovę „Hugging Face“. Šis incidentas sukėlė tarptautinį susirūpinimą, o vėliau apie panašius atvejus paskelbė ir kitos įmonės.
Po šių įvykių Jungtinėse Valstijose ir kitose šalyse sustiprėjo raginimai griežčiau prižiūrėti DI kūrimą.
Vis dėlto JAV prezidentas Donald Trump, atsižvelgdamas į įtakingų DI sektoriaus vadovų patarimus, ragino pramonei taikyti savireguliaciją. Tarp tokių patarėjų buvo ir bendrovei „Nvidia“ vadovaujantis Jensen Huang.