OpenAI liepos 15 d. pristatė GPT-Red – dirbtinio intelekto modelį, sukurtą specialiai tam, kad atakuotų ir bandytų „nulaužti“ pačios kompanijos kuriamas sistemas. Tai vidinis, viešai neprieinamas įrankis, kurio vienintelis tikslas – surasti saugumo spragas greičiau, nei tai padarytų žmonės ar piktavaliai. Naujausiame GPT-5.6 modelyje jis jau panaudotas mokymo procese, ir rezultatas – iki šešių kartų mažesnis pažeidžiamumas vadinamosioms promptų injekcijos atakoms, palyginti su modeliu, išleistu vos prieš keturis mėnesius.
Kaip veikia OpenAI GPT-Red
Promptų injekcija – tai ataka, kai piktavalis paslepia kenksmingą komandą el. laiške, tinklalapyje ar dokumento tekste, tikėdamasis, kad DI agentas ją įvykdys vietoj tikrosios užduoties, pavyzdžiui, išsiųs slaptus duomenis į išorinį serverį. Iki šiol tokias spragas daugiausia atrasdavo žmonės red-teameriai, tačiau šis procesas lėtas ir sunkiai plečiamas.
GPT-Red apmokytas vadinamuoju savireguliacinio mokymosi (self-play) principu: modelis „kovoja“ prieš grupę gynybinių DI modelių, bandydamas priversti juos atlikti pavojingus veiksmus – pakeisti mokėjimo duomenis, atskleisti slaptažodžius ar apeiti saugumo patikras. Kuo sėkmingiau ginasi oponentai, tuo sudėtingesnių atakų turi išmokti pats GPT-Red. Skirtingai nei ankstesni, siauresni red-teaming eksperimentai, šis modelis apmokytas naudojant tokį patį skaičiavimo mastą, kaip ir didžiausi OpenAI produkciniai modeliai – tai pirmas kartas, kai tiek daug skaičiavimo resursų skiriama vien saugumo tobulinimui.
Rezultatai: lenkia žmones red-teamerius
Nepažįstamuose testavimo scenarijuose prieš GPT-5.1 modelį GPT-Red sėkmingai įsilaužė net 84 proc. atvejų – žmonių komandai to paties pavyko pasiekti tik 13 proc. atvejų. Praktiniame bandyme jis netgi perėmė realaus prekybos automato agentą OpenAI biure: pakeitė brangaus produkto kainą iki 0,50 JAV dolerio ir atšaukė kito kliento užsakymą. Naujausiam GPT-5.6 Sol modeliui tiesioginės GPT-Red atakos nepavyksta 99,95 proc. atvejų – anksčiau, prieš GPT-5.1 versiją, panašios „netikro minčių grandinės“ atakos veikdavo iki 95 proc. atvejų.
Ką tai reiškia Lietuvos vartotojams
Pats GPT-Red niekada nebus prieinamas viešai – jis lieka vidinis OpenAI įrankis, todėl apie kainą eurais ar atskirą prieigą kalbėti neverta. Tačiau jo nauda pasiekia netiesiogiai ir Lietuvos vartotojus: įmonės, naudojančios ChatGPT Enterprise, Codex ar kuriančios savo agentus per OpenAI API, automatiškai gauna saugesnį GPT-5.6 modelį be jokio papildomo mokesčio ar atskiro diegimo. Tai ypač aktualu verslams, kurie DI agentus jungia prie el. pašto, dokumentų valdymo ar mokėjimo sistemų – kaip tik ten slepiasi didžiausia promptų injekcijos rizika.
Daugiau apie patį modelį skaitykite straipsnyje GPT-5.6 – OpenAI atvėrė prieigą prie naujo modelių šeimos.
Šaltiniai: OpenAI, The Hacker News