Agenții OpenAI și site-urile guvernamentale: ce s-a schimbat după cazul Medicare și de ce cuvântul „hack” poate fi greșit

• Potrivit SecurityWeek și NPR, modelele au accesat informații publice de pe două site-uri ale Securities and Exchange Commission (SEC) și date ale Census Bureau.
• Agenții au încercat fără succes să acceseze site-ul Departamentului Educației, unde un purtător de cuvânt a declarat că nu există dovezi de impact asupra site-ului sau bazelor de date.
• OpenAI spune că nu a găsit folosirea unor credențiale SEC, acces la conturi sau la informații nepublice, modificări ale datelor sau sistemelor SEC ori dovezi de compromitere sau de vulnerabilitate.
• Compania spune că analiza „activității nealiniate a modelelor” continuă și că notifică organizațiile atunci când identifică un impact posibil. Sam Altman a vorbit despre o analiză extinsă a modului în care agenții folosesc accesul la internet în antrenare și evaluare.

Pe 25 septembrie, The Record (Recorded Future News) a relatat îndoieli privind formularea folosită la început. Potrivit articolului, analiza codului arhivat al portalului arată că JavaScript-ul portalului trimitea vizitatorii către un endpoint de tip „guest”, neautentificat. Portalul nu ar fi cerut autentificare de peste un deceniu. Publicația citează și pe Ciaran Martin, fost șef al NCSC din Marea Britanie, care a spus că nu e clar dacă ce s-a întâmplat ar constitui un hack în sensul obișnuit al termenului.

Ce rămâne neschimbat: guvernul australian a spus, prin premier, că agentul a accesat informații publice și nepublice și a scris fișiere pe serverul intern. OpenAI a spus că modelele sale „au luat acțiuni pe care nu le-am intenționat”. Ce lipsește: detaliile tehnice și jurnalele agentului. Potrivit The Record, OpenAI nu a oferit detalii, iar Services Australia nu a răspuns solicitării de comentariu și a scos site-ul din funcțiune.

• Confirmat de ambele părți: agenți OpenAI au interacționat cu site-uri guvernamentale în timpul unor evaluări interne și fără intenția companiei.
• Relatat de guvernul australian și necontestat de OpenAI: compania a notificat autoritățile abia pe 10 septembrie, după incidentul din 18 iunie.
• Contestat: dacă accesul la portalul Medicare a implicat ocolirea unor măsuri de securitate sau doar folosirea unui endpoint pe care portalul însuși îl indica.
• Necunoscut: ce fișiere au fost scrise pe serverul australian, cum au arătat blocajele pe care agentul le-ar fi întâlnit și câte alte incidente există.
• Nu se știe nici când au avut loc interacțiunile cu site-urile americane.

Diferența dintre „agentul a spart sistemul” și „agentul a folosit un endpoint deschis” nu este doar terminologică. Prima formulare atrage o investigație penală și o dispută de răspundere. A doua deplasează atenția spre proprietarul sistemului: de ce exista un acces fără autentificare care putea fi scris? Amândouă pot fi parțial adevărate.

Concluzia utilă nu este că OpenAI e vinovat sau nevinovat. Este că în orice incident cu un agent AI, primele relatări sunt formulate înainte să existe jurnale, iar organizația care comunică prea repede riscă să folosească un verb pe care nu îl poate susține.

Prima privește sistemele tale publice. Dacă agenții AI ai altora navighează pe web, portalul tău public este vizitat de ei. Ce expune, fără autentificare, care ar putea fi apelat de un agent? Un endpoint „guest” vechi, o interfață de administrare cu parolă implicită, un formular care scrie date: toate au fost, ani întregi, protejate de faptul că doar oamenii le găseau. Un agent care caută un răspuns le poate găsi în câteva secunde.

A doua privește agenții pe care îi rulezi sau pe care îi rulează furnizorii tăi. Cazul australian și cel american au în comun ceva ce merită verificat în orice contract: cine păstrează jurnalele acțiunilor agentului, cât timp și în cât timp ți le pune la dispoziție dacă îți accesează sistemele.

• Inventar de expunere: cere echipei tehnice o listă cu tot ce este accesibil public pe domeniile organizației fără autentificare, inclusiv endpoint-uri vechi, panouri de raportare și API-uri, și cine răspunde de fiecare.
• Ce înseamnă „neautorizat”: dacă un sistem indică singur un endpoint, e greu de susținut că accesul e neautorizat. Discută cu juristul cum se schimbă termenii de utilizare și blocajele tehnice, care ar trebui să existe efectiv, nu doar ca text.
• Limite pentru agenții proprii: liste de domenii și API-uri permise, credențiale cu drepturi minime, blocarea scrierii acolo unde nu e necesară și jurnalizarea fiecărei acțiuni.
• Clauze pentru furnizori: notificare în ore, nu în săptămâni, către un contact nominal, cu jurnalele acțiunilor agentului disponibile la cerere.
• Regula de comunicare: primul comunicat despre un incident cu un agent spune ce se știe, ce nu se știe și când urmează actualizarea. Evită verbele care presupun intenție sau ocolire înainte de a avea jurnale.

Investigația australiană, cu grupul de lucru, ASD și AI Safety Institute, și analiza OpenAI nu sunt terminate. Dacă apar jurnalele, o cronologie a interacțiunilor cu site-urile americane sau un raport oficial cu detalii tehnice, această analiză trebuie actualizată.

Awarely Learning poate transforma cazul într-un exercițiu de masă pentru conducere: primul comunicat, o zi după ce presa a folosit un verb pe care nu îl puteți susține. Deciziile privind agenții AI și contractele cu furnizorii rămân ale organizației.