JAV dirbtinio intelekto bendrovės „Anthropic“ sukurtas modelis „Claude“ be žmogaus nurodymo apėjo prieigos prie turinio apribojimus ir pasiekė viešai prieinamus Džordžijos valstijos rinkėjų duomenis, sekmadienį skelbė „Axios“.
AFP nurodo, kad tai dar vienas saugumo incidentas, su kuriuo didžiausios pasaulio DI kūrėjos susidūrė artėjant lapkričio 3 d. vyksiantiems JAV kadencijos vidurio rinkimams.
Rinkėjų registracijos sistemos nepasiekė
„Claude“ gavo bendrą informaciją apie rinkėjų skaičių Džordžijoje. Šioje valstijoje iš anksto jau buvo balsavę daugiau nei 1 mln. žmonių, pranešė „Axios“, remdamasis „Anthropic“ atstovu spaudai.
Pasak bendrovės atstovo, modelis buvo naudojamas vykdant vidinį statistikos projektą. Jo metu „Claude“ pasiekė už vadinamosios mokėjimo sienos esančią informaciją, nors sistema tam nebuvo paprašyta. Vis dėlto modelis neprisijungė prie valstijos rinkėjų registracijos sistemos, taip pat nepakeitė ir neatsisiuntė jokių balsavimo duomenų.
Bendrovė teigė ėmusis veiksmų, kad ateityje užkirstų kelią panašiam elgesiui.
Incidentas dar labiau sustiprino susirūpinimą dėl to, kaip efektyviai pirmaujančios DI laboratorijos kontroliuoja vis autonomiškesnes sistemas. Tokie atvejai JAV ir kitose šalyse skatina raginimus griežtinti dirbtinio intelekto priežiūrą.