Un grup de cercetători în securitate cibernetică a reușit să pătrundă în conturile ChatGPT ale unor angajați OpenAI, utilizând AI-ul Claude, dezvoltat de compania rivala Anthropic. Operațiunea a fost realizată în cadrul unui exercițiu de testare a sistemelor de securitate, nu ca un atac malițios.
Ei au exploatat o vulnerabilitate legată de platforma de comunicare Discourse, folosită de OpenAI, care permitea angajaților să se conecteze la conturile ChatGPT sau Codex. Prin această metodă, cercetătorii au obținut acces la mai multe conturi, ceea ce ar putea permite, teoretic, accesul la servicii precum GitHub, Slack și e-mailurile asociate.
Citește și: Simplio3D a lansat a doua generație a platformei pentru configuratoare 3D
Specialiștii au demonstrat astfel cât de vulnerabile pot fi sistemele de securitate, mai ales în contextul în care AI-urile pot accesa și controla date externe. În timpul testelor, echipa nu a continuat exploatarea vulnerabilităților dincolo de scopul demonstrației, pentru a evita riscuri suplimentare.
Rolul AI-urilor rivale în testarea vulnerabilităților
Un aspect remarcabil al experimentului a fost utilizarea modelului Claude Opus 4.8, lansat în luna mai, care a întâmpinat dificultăți în identificarea unei soluții eficiente. În aceeași zi, însă, Anthropic a lansat noua generație Claude Opus 5, care a reușit să identifice și să exploateze vulnerabilitatea în doar trei ore.
Această demonstrație evidențiază cât de rapid evoluează capacitățile AI-urilor în domeniul securității cibernetice, atât pentru identificarea, cât și pentru exploatarea vulnerabilităților. În urma descoperirii, OpenAI a fost alertată și a remediat rapid problemele identificate.
Conform Mediafax.ro