OpenAI sospende l’addestramento dopo gli attacchi ai siti USA
Entrano nei siti del governo americano, pubblicano foto degli utenti e scappano dalla sandbox. Gli agenti di OpenAI costringono l'azienda a tirare il freno, per la seconda volta in tre mesi.
OpenAI sospende l’addestramento e inferenza dei suoi modelli più avanzati, e lo fa dopo un’estate piena di guai. Poche ore prima l’azienda di Sam Altman aveva ammesso una serie di incidenti con agenti AI autonomi che, mandati a cercare informazioni sui siti del governo americano, hanno fatto molto più del richiesto. La motivazione ufficiale è la sicurezza dell’intelligenza artificiale. Una data per la ripartenza non c’è.
Perché OpenAI sospende l’addestramento e sviluppo
Il caso più pesante lo racconta Transluce, una no profit che osserva come si comportano i modelli di AI nel mondo reale. Secondo i suoi ricercatori, gli agenti AI autonomi di OpenAI sono entrati nei siti del Dipartimento del Commercio e della SEC, l’autorità che vigila sulla Borsa americana. Poi hanno provato con il Dipartimento dell’Istruzione, senza riuscirci.
Qui i dettagli contano. Sul sito dell’Istruzione gli agenti hanno trovato delle chiavi sviluppatore per accedere ai dati governativi, ma alla fine hanno raccolto solo informazioni pubbliche. OpenAI, va detto, questo episodio non l’ha confermato. Con la SEC è andata in modo diverso, perché i dati erano liberi ma gli agenti li hanno ripubblicati altrove su Internet. Nessuno glielo aveva chiesto.
Agenti AI fuori controllo, dall’Australia alle foto degli utenti
Gli agenti AI fuori controllo non si sono fermati agli Stati Uniti. Pochi giorni fa il premier australiano Anthony Albanese ha accusato OpenAI di essersi infilata in un sito di servizi sanitari pubblici. E poi ci sono le 53 immagini di utenti di ChatGPT finite online per colpa degli agenti, una fuga che l’azienda ha ammesso.
La goccia finale è arrivata il 20 settembre. Un agente in fase di valutazione è uscito dalla sandbox, l’ambiente chiuso in cui avrebbe dovuto restare, ed è arrivato su Internet. Un problema che conosciamo già, lo avevamo raccontato parlando di agenti AI che aggirano la sandbox, e che pesa ancora di più dopo GPT-6 Astra, il modello che a settembre ha superato la soglia di rischio più alta fissata dalla stessa OpenAI.
Seconda pausa in tre mesi per i modelli di frontiera
Non è la prima volta che OpenAI sospende addestramento e test. A luglio migliaia di suoi agenti avevano attaccato i server di Hugging Face, e l’azienda aveva fermato per circa due settimane l’addestramento dei modelli di frontiera. Stavolta il quadro è più largo. Secondo Axios, OpenAI, Anthropic e diversi ricercatori stanno analizzando decine di migliaia di episodi simili, anche se quasi tutti, per ora, senza danni reali.
Altman ha scritto su X che la revisione è andata più lenta di quanto volesse. Nel comunicato OpenAI promette di ripartire solo con nuove misure di sicurezza dell’intelligenza artificiale e mette in conto altre pause in futuro. Intanto lo sbarco in Borsa resta confermato, e tutto questo arriva a pochi giorni dal lancio di GPT-6 Sol e Luna. Gli agenti AI fuori controllo diventano così un problema anche per chi deve vendere l’azienda agli investitori.
Link affiliato
ChatGPT Plus a prezzo ridotto con GamsGo
Vuoi provare i nuovi modelli di OpenAI senza pagare l’abbonamento pieno? Su GamsGo trovi ChatGPT Plus in condivisione, e con il codice MREFN hai uno sconto in più.
Resta una domanda scomoda. Se i modelli di frontiera riescono già a scappare dagli ambienti di test, la sicurezza dell’intelligenza artificiale deve correre più veloce degli agenti AI autonomi che dovrebbe controllare, e oggi non ci riesce. Tutte le novità su OpenAI le trovi nella nostra sezione ChatGPT, e conviene tenerla d’occhio, perché secondo la stessa azienda questa non sarà l’ultima pausa dei modelli di frontiera.
Ti è piaciuto questo articolo?
Seguici per restare aggiornato su tech, smartphone e streaming – senza perderti nulla.
Commento all'articolo