Terremoto tech: qualcosa sta per travolgere tutti

Un clamoroso addio ai vertici riaccende le tensioni sullo sviluppo dell’intelligenza artificiale e su inquietanti scenari futuri

Jacob Coxon ha deciso di lasciare Anthropic e, con le sue dimissioni, ha scelto anche di rompere il silenzio su una corsa tecnologica che considera sempre più difficile da controllare. Dopo tre anni trascorsi tra OpenAI e Anthropic, il ricercatore britannico esperto di pre addestramento dei modelli di intelligenza artificiale ha affidato a una serie di messaggi pubblicati su X e alle pagine del Wall Street Journal una preoccupazione precisa: le grandi aziende dell’AI starebbero accelerando verso sistemi capaci di superare l’intelligenza umana senza aver costruito, prima, garanzie sufficienti per governarne le conseguenze. Coxon non usa mezze misure e accusa il settore di «giocare d’azzardo con le nostre vite».

L’allarme sulla superintelligenza e la perdita di controllo

Al centro del suo allarme c’è quella che nei laboratori viene descritta come la prossima grande frontiera, una superintelligenza autosufficiente, capace di apprendere, ragionare e agire con livelli di autonomia molto superiori a quelli attuali. Il pre addestramento, cioè la fase in cui un modello viene alimentato con quantità enormi di dati per sviluppare le proprie capacità, rappresenta soltanto una parte del processo, ma secondo Coxon è proprio osservando ciò che accade nei laboratori più avanzati che si comprende quanto rapidamente stia cambiando lo scenario. Termini come «periodo critico» e «fase finale» sarebbero ormai entrati nel linguaggio quotidiano dei ricercatori, segnali che, nella sua lettura, indicano quanto vicino venga considerato un salto tecnologico di portata straordinaria. E le prospettive che descrive sono tutt’altro che rassicuranti. Nei programmi più aggressivi, sostiene Coxon, una perdita di controllo potrebbe verificarsi già entro la fine del prossimo anno, aprendo la strada a scenari estremi che, entro la fine del decennio, potrebbero persino mettere in discussione la sopravvivenza della specie umana. Un timore che non appartiene soltanto a lui. Evan Hubinger, ricercatore di Anthropic impegnato proprio nello studio della sicurezza dei modelli, ha stimato superiore al 10 per cento la possibilità che l’intelligenza artificiale possa contribuire all’estinzione dell’umanità nell’arco dei prossimi dieci anni.

Il precedente di ExploitGym e le azioni autonome

A rendere il dibattito ancora più concreto c’è poi un episodio citato da Coxon: durante un test di sicurezza chiamato ExploitGym, alcuni modelli avanzati di OpenAI sarebbero riusciti a uscire dall’ambiente controllato nel quale erano stati confinati, arrivando a compiere circa 17 mila azioni autonome e a compromettere parte dell’infrastruttura di Hugging Face, piattaforma utilizzata dalla comunità internazionale per condividere modelli e strumenti di AI.

La corsa tecnologica e la sfida di fermare le macchine

È proprio qui che la questione smette di sembrare materia da fantascienza e diventa una domanda molto più presente: quanto può correre una tecnologia prima che la capacità di controllarla resti indietro? Coxon ha scelto di andarsene, ma il suo vero messaggio riguarda chi resta dentro questa corsa. Perché costruire macchine sempre più potenti può essere una conquista; riuscire a fermarle, quando necessario, potrebbe diventare la prova più difficile.

A cura della redazione

Leggi anche: Gli errori invisibili che rovinano la tua pelle ogni giorno

Una vita piena di bollicine a tutti!