NEW YORK – Il ceo di Anthropic Dario Amodei ha lanciato un drammatico appello alle compagnie di IA a rallentare il processo di sviluppo dell’intelligenza artificiale, evocando rischi per l’umanità. In un testo pubblicato sul suo sito, il ceo italoamericano ha detto di essere preoccupato per la capacità di controllare modelli di Ia capaci di auto-migliorarsi.

Elon Musk e Sam Altman, numero uno di OpenAI, condividono l’appello. «Dario ha ragione», ha scritto su X il patron di SpaceX. «Concordo con Dario sulla necessità di gestire i ritmi di sviluppo delle tecnologie di frontiera. È stato uno dei temi centrali delle discussioni che abbiamo avuto in OpenAI nelle ultime settimane», ha scritto invece Altman. «L’idea di avvalersi di valutatori indipendenti, dotati di livelli di accesso paragonabili a quelli dei dipendenti, è ottima; adotteremo la stessa strategia. Presto ulteriori novità da condividere».

 

 

«Dobbiamo rallentare il ritmo con cui miglioriamo le capacità dei modelli di Ia. I progressi continueranno comunque a sembrare rapidi, e dobbiamo fare un uso saggio del tempo che guadagniamo», ha scritto. Mentre Donald Trump ha bollato come “forze negative” i tentativi di rallentare lo sviluppo dell’Ia. “Siamo in vantaggio rispetto alla Cina nell’Ia. Siamo il Paese più avanzato al mondo e, francamente, voglio che le cose restino così, perché chi vince la sfida dell’Ia vince tutto”, ha dichiarato il presidente americano.

“Certo, possiamo introdurre delle misure di salvaguardia, possiamo fare questo o quello; tuttavia, credo che ci siano molte forze negative che sollevano questioni che non dovrebbero essere sollevate, parlando di scenari che non si verificheranno. Ma la verità è che chi vince nell’IA vince tutto”, ha aggiunto.

Le sue parole arrivano pochi giorni dopo le dimissioni di un ricercatore di Anthropic che aveva messo in guardia dal rischio che l’intelligenza artificiale possa sfuggire al controllo e “distruggere” l’umanità nel giro di un decennio. «L’intelligenza artificiale si sta sviluppando a un ritmo “esponenziale”: senza un rallentamento, spiega Amodei, nel giro di 6-12 mesi, l’IA potrebbe essere in grado di guidare uno sciame di agenti capaci di prendere il controllo dell’intero Internet.

Jacob Coxon, che aveva lavorato anche per OpenAI, rivale di Anthropic, aveva spiegato come le aziende fossero ormai più concentrate a battere la concorrenza che a garantire la sicurezza. Il messaggio lascia immaginare come l’appello di Amodei sia destinato a cadere nel vuoto. Nessuno vuole rallentare in questa corsa ad arrivare primi.

Di segno opposto le parole di Donald Trump, che ha bollato come “forze negative” i tentativi di rallentare lo sviluppo dell’Ia. “Siamo in vantaggio rispetto alla Cina nell’Ia. Siamo il Paese più avanzato al mondo e, francamente, voglio che le cose restino così, perché chi vince la sfida dell’Ia vince tutto”, ha dichiarato il presidente americano.

“Certo, possiamo introdurre delle misure di salvaguardia, possiamo fare questo o quello; tuttavia, credo che ci siano molte forze negative che sollevano questioni che non dovrebbero essere sollevate, parlando di scenari che non si verificheranno”.

 

 

Il dibattito sulla sicurezza arriva dopo le rivelazioni secondo cui l’Iran avrebbe usato i modelli di Anthropic per scopi militari. Teheran avrebbe sfruttato modelli sviluppati da Claude, il programma di IA della compagnia californiana, per individuare posizioni di navi, personale militare e aerei statunitensi. In un raid iraniano in una base Usa in Giordania, sono stati uccisi tre soldati americani. Non è stato confermato il legame diretto, ma resta una coincidenza sospetta.

Un’entità russa ha invece usato Claude per costruire droni killer e sfruttare informazioni online per individuare la disposizione dei soldati ucraini al fronte. Una cellula degli Houthi esperta di armi, nel nord dello Yemen, si è affidata invece a Claude Code per sviluppare software di guida per razzi e missili. Il team ha utilizzato copie separate del modello per scrivere il codice, condurre ricerche e fare verifiche sul lavoro. Un test su un razzo guidato è fallito, ma gli sviluppatori hanno usato l’Ia per capire dove era nato l’errore.

 

 

Secondo Anthropic, gruppi legati alla Cina hanno utilizzato Claude per dare la caccia agli uiguri, popolo di lingua di origine turca e in prevalenza musulmano, individuando uiguri in Siria e convincerli a collaborare. Claude ha poi aiutato un operatore che non parlava arabo a portare avanti contatti clandestini in arabo siriano, traducendo le risposte e fornendo indicazioni su come sfruttare problemi economici per convincere alcuni uiguri a collaborare. Claude ha, invece, respinto una richiesta su come sviluppare un nuovo virus, dopo che un gruppo di ricercatori aveva chiesto come modificare il “chikungunya”, trasmesso dalle zanzare, per renderlo più facilmente trasmissibile. Tentativo fallito, almeno per ora.