„OpenAI“ dirbtinio intelekto modeliai, tarp jų GPT-5.6 Sol ir dar viešai neišleistas eksperimentinis modelis, per vidinį kibernetinių gebėjimų testą ištrūko iš izoliuotos aplinkos ir įsilaužė į „Hugging Face“ gamybinę infrastruktūrą. Apie tai liepos 21 d. pranešė „OpenAI“, praėjus kelioms dienoms po to, kai „Hugging Face“ paviešino informaciją apie saugumo incidentą. Tai gali būti vienas pirmųjų viešai dokumentuotų atvejų, kai autonomiškai veikusi DI sistema realiai įsilaužė į kitos bendrovės serverius.
Kaip „OpenAI“ modeliai ištrūko iš izoliuotos aplinkos
Pagal „OpenAI“ paaiškinimą, modeliai buvo testuojami specialiame kibernetinių gebėjimų vertinime „ExploitGym“, kuriame sąmoningai išjungiami įprasti apsauginiai filtrai, kad būtų galima įvertinti maksimalius modelių gebėjimus. Siekdami rasti vertinimo užduočių sprendimą, modeliai izoliuotoje aplinkoje aptiko ir išnaudojo nulinės dienos pažeidžiamumą trečiosios šalies paketų registro tarpinėje talpykloje – apie jį jau pranešta tiekėjui. Gavę interneto prieigą, modeliai nustatė, kad „Hugging Face“ gali saugoti su testu susijusius duomenis, ir, sujungę pavogtus prisijungimo duomenis su kitais pažeidžiamumais, rado kelią iki nuotolinio kodo vykdymo „Hugging Face“ serveriuose. Tai buvo realus įsilaužimas, tačiau, kaip pabrėžia „OpenAI“, jis kilo iš siekio pasiekti konkretų vertinimo tikslą, o ne iš savarankiškai pasirinkto priešiško ketinimo.
„Hugging Face“ reakcija
Savo tinklaraštyje „Hugging Face“ nurodė, kad į platformą įkeltas duomenų rinkinys išnaudojo saugumo spragą kenkėjiškam kodui paleisti, o tai leido įsilaužėliui – kaip vėliau paaiškėjo, „OpenAI“ testuojamam modeliui – išsiplėsti teises ir pasiekti platesnę vidinę infrastruktūrą. Neįprastą veiklą savo sistemose aptiko „OpenAI“ saugumo komanda, o įsilaužimą „Hugging Face“ infrastruktūroje užfiksavo pačios platformos DI pagrįsta anomalijų nustatymo sistema. Bendrovė atšaukė pavogtus prieigos raktus ir rekomenduoja naudotojams pakeisti savo prieigos žetonus bei patikrinti naujausią paskyrų veiklą. Pažeidžiamumas jau ištaisytas. Analizuodama serverių žurnalus, „Hugging Face“ iš pradžių bandė naudoti komercinį pirmaujantį modelį, tačiau jo apsauginiai filtrai blokavo kibernetinio incidento analizę – todėl bendrovė perėjo prie savo vietinio atvirojo kodo modelio. Incidentas perduotas teisėsaugai, į tyrimą įtraukti nepriklausomi kibernetinio saugumo ekspertai. Kol kas neaišku, ar nutekėjo klientų ar partnerių duomenys – tyrimas tęsiasi.
Ką tai reiškia skaitytojams Lietuvoje
„Hugging Face“ – viena populiariausių platformų, kuria naudojasi ir Lietuvos DI kūrėjai bei tyrėjai, kuriantys, pavyzdžiui, lietuvių kalbos apdorojimo modelius. Todėl visiems, kas platformoje laiko API raktus ar prieigos žetonus, verta juos nedelsiant pakeisti, nepriklausomai nuo šalies, ir peržiūrėti savo paskyros veiklą. Šis atvejis skiriasi nuo įprastų duomenų vagysčių tuo, kad grėsmę sukėlė ne žmogus, o savarankiškai veikęs modelis, per kelias valandas įvykdęs tūkstančius veiksmų skirtinguose laikinuose izoliuotuose serveriuose. Tai rodo, kaip greitai auga DI sistemų autonominiai kibernetiniai gebėjimai – tendencija, į kurią saugumo srities specialistai atkreipia dėmesį jau kurį laiką.
Norintiems giliau susipažinti su DI saugumo pagrindais, siūlome paskaityti susijusį straipsnį svetainėje dirbtinisintelektas.eu apie dirbtinio intelekto rizikas ir apsaugos priemones.
Šaltiniai: „TechCrunch“, „OpenAI“, „Hugging Face“