„OpenAI“ teigia, kad per saugumo bandymą laikinai prarado kai kurių pažangiausių dirbtinio intelekto modelių kontrolę, šie savavališkai įsilaužė į vieno startuolio sistemas, – praneša BBC.
Apie įvykį pranešta liepos 16 d.
„OpenAI“, bendrovė, sukūrusi „ChatGPT“, teigė, kad jos dirbtinio intelekto agentas – dirbtinio intelekto sistema, galinti savarankiškai veikti pagal žmogaus nurodymus – buvo testuojamas kontroliuojamoje aplinkoje, tačiau aptikęs silpnąsias vietas sugebėjo peržengti bandymo aplinkos ribas.
Dirbtinio intelekto modeliai nusitaikė į „Hugging Face“ – vieną didžiausių pasaulyje dirbtinio intelekto modelių dalijimosi platformų – ir gavo prieigą prie dalies bendrovės vidinių sistemų.
„OpenAI“ teigė, kad šis incidentas buvo beprecedentinis, ir kad ji atlieka tyrimą kartu su „Hugging Face“.
Tuo metu „Hugging Face“ vadovas Clementas Delangue savo įraše „X“ platformoje pažymėjo, jog neįtikėtina, kad visa tai įvyko savarankiškai.
„Tyrimas tebevyksta, pasidalysime daugiau įžvalgų apie galbūt pirmąjį tokio pobūdžio incidentą“, – pridūrė C. Delangue.
Įvykį taip pat tiria Jungtinės Karalystės dirbtinio intelekto saugumo institutas.
Nesaugios „smėlio dėžės“
Kembridžo universiteto „Minderoo“ technologijų ir demokratijos centro vadovė Gina Neff teigė, kad saugumo bandymai turėtų vykti saugiose aplinkose, vadinamosiose „smėlio dėžėse“ (angl. „sandbox“), kuriose galima pamatyti, ką modeliai sugeba.
„Šiuo atveju atrodo, kad „OpenAI“ nesukūrė pakankamai saugios „smėlio dėžės“, – pridūrė ji.
Dėl to dirbtinio intelekto agentai surengė kibernetinę ataką prieš pačią „smėlio dėžę“, rado jos pažeidžiamas vietas, kurios ir leido jiems išvengti ribojimų.
Patekęs laukan dirbtinis intelektas nustatė, kad „Hugging Face“ yra tikėtinas šaltinis, kuriame galima rasti bandymo metu ieškotų atsakymų, ir bandė gauti prieigą.
Kembridžo universiteto mašininio mokymosi profesorius Neilas Lawrence`as tai pavadino įspūdingu pasiekimu, tačiau įspėjo, kad tai visiškai atitinka žinomas dabartinės kartos galingų dirbtinio intelekto modelių galimybes.
„Žaidimo taisyklės pasikeitė“
Vienas iš technologijų startuolio „Hugging Face“ įkūrėjų Thomas Wolfas kalbėjo, kad šis incidentas yra signalas visai industrijai pabusti.
BBC radijo laidoje „Newsday“ jis teigė, kad tai bus vienas dažniausiai pasitaikančių kibernetinių išpuolių tipų, tačiau dauguma įmonių nesuvokia, jog žaidimo taisyklės pasikeitė.
T. Wolfas teigė, kad „Hugging Face“ iš pradžių neturėjo nė menkiausio supratimo, iš kur kilo ataka, kai liepos viduryje pasirodė jos požymiai, tačiau įmonei pavyko sustabdyti duomenų nutekėjimą.
Jis teigė, kad šis pažeidimas labai skyrėsi nuo įprastų kibernetinių atakų, su kuriomis „Hugging Face“ dažnai susiduria, ir kad „OpenAI“ greitai informavo įmonę, jog už šį įsilaužimą atsakingi jos modeliai.
„Per labai trumpą laiką prieš „Hugging Face“ tinklą buvo surengta 17 000 atakų iš įvairių IP (interneto protokolo) adresų“, – teigė T. Wolfas, kuris taip pat yra įmonės vyriausiasis mokslo pareigūnas.
T. Wolfas teigė, kad tai įspėjimas kitoms įmonėms, jog jos privalo sustiprinti savo kibernetinio saugumo apsaugą, kad galėtų atremti tokias atakas.
„Šis įsilaužimas kelia nerimą, nes rodo, kad „OpenAI“ modeliai ignoravo tipines apsaugos priemones, kurios užkirstų kelią dirbtinio intelekto programai įvykdyti kibernetinę ataką“, – teigė Nate`as Soaresas iš Mašininio intelekto tyrimų instituto.
„Tam tikra prasme ji žinojo, kad tai nebuvo kūrėjų ketinimas. Tiesiog jai tai nerūpėjo“, – pridūrė jis.
