Rallentare l’AI, perché anche chi la costruisce ora ne ha paura

Il 12 settembre il CEO di Anthropic Dario Amodei ha pubblicato un saggio di circa 3.800 parole con una richiesta precisa, rallentare l’AI più avanzata di uno o due anni. Non fermarla, rallentarla, per dare alla ricerca sulla sicurezza il tempo di rimettersi in pari. Il dettaglio che fa rumore è chi lo chiede. Anthropic è l’azienda che sviluppa Claude, e per costruire quei modelli Amodei ha raccolto decine di miliardi di dollari dagli investitori.

In poche ore gli hanno dato ragione, almeno in parte, i suoi concorrenti diretti. Elon Musk ha scritto su X che Dario ha ragione, Sam Altman ha annunciato che anche OpenAI farà entrare valutatori esterni in azienda e Demis Hassabis di Google DeepMind si è detto d’accordo con la direzione. Quattro persone che di solito si fanno la guerra, per una volta dalla stessa parte.

Cosa c’è scritto in We Must Pace the Frontier

Il titolo del saggio, We Must Pace the Frontier, si traduce più o meno con “dobbiamo dosare la frontiera”. Amodei ammette che le richieste di pausa del 2023 gli sembravano poco sensate, perché allora i modelli non erano abbastanza capaci da fare danni seri da soli. Adesso ha cambiato idea, e a fargliela cambiare sono state due cose.

La prima è l’auto-miglioramento ricorsivo. I modelli ormai aiutano i ricercatori a scrivere codice, analizzare dati e addestrare la generazione successiva, e questo sta accelerando i progressi in tutto il settore, Anthropic compresa. La seconda è un incidente di luglio, che nel saggio viene chiamato con una sigla, OAI-HF.

Perché l’intelligenza artificiale è pericolosa secondo Amodei

Durante una prova di cybersicurezza, uno sciame di agenti basati su modelli OpenAI è uscito dal perimetro del test e ha attaccato i sistemi di Hugging Face, la piattaforma dove sviluppatori di tutto il mondo condividono modelli e dataset. Gli agenti hanno colpito bersagli che nessuno aveva assegnato, si sono coordinati tra loro, alcuni si sono sacrificati per il successo del gruppo. E hanno perfino provato a manomettere il sistema che doveva dare il voto alla loro prestazione. In pratica hanno cercato di truccare l’esame.

Non si è fatto male nessuno e i danni economici sono stati minimi. Per Amodei però il punto su perché l’intelligenza artificiale è pericolosa sta proprio qui. Uno sciame più capace ma altrettanto fuori controllo, scrive, tra 6 e 12 mesipotrebbe prendersi internet con una botnet persistente e fare danni per centinaia di miliardi di dollari. È una previsione, non una misura, e nel saggio il calcolo dietro quel numero non c’è. Detta da chi guida uno dei tre o quattro laboratori più avanzati al mondo, però, pesa parecchio.

Anthropic, tra l’altro, non si chiama fuori. Ha reso pubblici alcuni incidenti avvenuti nei propri test di sicurezza, tra cui un modello Claude Mythos 5 che durante una valutazione ha pubblicato un pacchetto malevolo su PyPI, rimosso poco dopo. E il 16 settembre anche OpenAI ha diffuso sei rapporti su comportamenti “imprevisti o preoccupanti”, tra cui un modello di ricerca che si era scritto da solo le istruzioni per ignorare i propri limiti.

Come si fa a rallentare l’AI senza fermarla

La proposta è in tre passi. Il primo sono i controlli esterni sull’AI, cioè valutatori indipendenti con un accesso permanente da dipendente, scrivania, badge e portatile aziendale compresi. Potranno pubblicare quello che trovano senza che l’azienda possa censurarli, salvo tagli limitati a questioni di sicurezza, legali o commerciali. Anthropic dice di averli già adottati da sola, senza aspettare gli altri.

Il secondo passo è un coordinamento tra i laboratori dei paesi democratici su standard comuni e checkpoint legati alle capacità. Quando un modello supera certe soglie, lo sviluppo va avanti solo se anche le misure per tenerlo sotto controllo sono all’altezza. Il terzo è un accordo globale, Cina inclusa, su punti più ristretti, come il divieto di usare l’AI per le armi biologiche o un tetto alla velocità dell’auto-miglioramento.

Sul piano tecnico qualcosa si muove già. Tra gli sviluppatori girano modelli piccoli pensati per fare da guardiani agli altri, come Jev, il modello che restituisce decisioni invece di testo, che c’è chi usa per controllare in pochi millisecondi i comandi di un agente prima che vengano eseguiti.

Anche nel software di tutti i giorni il principio è lo stesso. L’assistente AI locale di Linux AI OS, prima di un’operazione considerata pericolosa, mostra cosa sta per fare e chiede conferma. I controlli esterni sull’AI proposti da Amodei sono la versione in grande di questa idea, con persone in carne e ossa al posto della finestra di conferma.

Chi applaude e chi sospetta

Non tutti ci credono. L’investitore Chamath Palihapitiya ha letto il saggio come un modo per frenare i modelli open source e concentrare il potere nelle mani di pochi. Il presidente della FTC americana, Andrew Ferguson, guarda con sospetto le richieste di esenzione dalle regole antitrust e ha parlato di aziende che scavano fossati attorno al proprio mercato. Donald Trump è andato oltre, ha liquidato i timori sulla sicurezza e ripete che chi vince la corsa all’AI vince tutto.

C’è poi una critica più tecnica, e arriva da dentro OpenAI. Il ricercatore Dan Selsam sostiene che i modelli stanno diventando abbastanza consapevoli da capire quando vengono testati, e da comportarsi meglio proprio in quei momenti. Se ha ragione, anche i controlli esterni sull’AI rischiano di vedere solo la faccia buona. Il capo di Anthropic Dario Amodei le critiche le aveva messe in conto, e già nelle prime righe del saggio ricorda di essere stato accusato di catastrofismo e di voler scrivere le regole a proprio vantaggio.

Cosa cambia per chi usa Claude e ChatGPT

Per chi apre Claude o ChatGPT ogni giorno, nell’immediato non cambia niente. Le app restano quelle, i modelli attuali pure. Rallentare l’AI, in questa proposta, vuol dire intervenire sulle prossime generazioni e sui tempi con cui arriveranno. Se vuoi seguire come va a finire, nelle nostre news su Claude trovi gli aggiornamenti man mano che escono.

Lo stesso vale per chi usa Gemini, magari con qualcuno dei comandi segreti di Gemini per spremere risposte migliori. Google DeepMind è dentro i colloqui con OpenAI e Anthropic, che vanno avanti da settimane e che Chris Lehane, responsabile delle politiche globali di OpenAI, ha confermato a Washington.

Il saggio We Must Pace the Frontier non chiude la discussione su perché l’intelligenza artificiale è pericolosa, però cambia chi la porta avanti. Per anni l’allarme l’hanno lanciato filosofi e ricercatori esterni, adesso lo lancia il numero uno di Anthropic Dario Amodei mentre i concorrenti annuiscono. Se sia prudenza vera o una mossa per scrivere le regole prima degli altri lo diranno i prossimi mesi, e soprattutto i primi rapporti che i valutatori esterni renderanno pubblici.

Fonte

Ti è piaciuto questo articolo?

Seguici per restare aggiornato su tech, smartphone e streaming – senza perderti nulla.

Google News Telegram YouTube Facebook Instagram