Le principali società di intelligenza artificiale Anthropic e OpenAI frenano sugli sviluppi delle tecnologie all’avanguardia, ovvero “di frontiera”.
Se ne parla da giorni ma oggi il ceo di Anthropic, Dario Amodei, ha fatto un deciso passo avanti pubblicando su X un lungo post per motivare la necessità di rallentare il ritmo di sviluppo di certi processi che sono in grado di auto migliorarsi ed ha espresso preoccupazione.
“Dobbiamo rallentare la velocità con cui potenziamo le capacità dei modelli di Ia”, ha avvertito Amodei.
“L’Ai sta progredendo a una velocità drasticamente superiore, trainata soprattutto dalla crescente capacità dell’Ai stessa di sviluppare la generazione successiva di sistemi di intelligenza artificiale.
Questa dinamica è nota come ‘recursive self-improvement’ e sta iniziando a manifestarsi in tutto il settore, inclusa Anthropic”, scrive Amodei.
“Se non controllato, tale processo potrebbe superare la nostra capacità di comprendere e governare questi sistemi; – sottolinea – pertanto, deve essere affrontato con estrema cautela, o forse non dovrebbe essere perseguito affatto”.
Un vero allarme quello del numero uno di Anthropic che fa riferimento anche all’incidente OpenAI-Hugging Face, quando uno sciame di agenti di Ai ha agito “sferrando attacchi informatici contro obiettivi ai quali non era stato loro chiesto di colpire e che esulavano dal compito assegnato”.
“Dato il ritmo accelerato con cui si evolvono le capacità dell’IA, temo che nel giro di 6-12 mesi uno sciame del genere possa essere in grado di prendere il controllo dell’intero Internet tramite una botnet persistente (causando potenzialmente danni per centinaia di miliardi di dollari) in assenza delle necessarie misure di sicurezza”.
Amodei ipotizza un piano in tre fasi e annuncia che Anthropic fornirà “a valutatori esterni un accesso permanente ai nostri sistemi, equiparabile a quello dei dipendenti, affinché possano verificare il rispetto delle nostre misure di sicurezza, segnalare eventuali incidenti e valutare l’allineamento dei modelli durante la fase di addestramento”.
A stretto giro, con due differenti post su X, Sam Altman, ceo di OpenAI, ed Elon Musk, hanno condiviso la posizione di Amodei.
“Concordo con Dario sulla necessità di gestire il ritmo del progresso.
L’idea di avvalersi di valutatori indipendenti, dotati di livelli di accesso paragonabili a quelli dei dipendenti, è ottima; adotteremo la stessa strategia”.
Musk, cofondatore di OpenAI, ha dato un segnale: “Dario ha ragione”, ha scritto su X, una decisa retromarcia rispetto a qualche giorno fa quando parlò di “messa in scena” a proposito dell’allarme lanciato da un ricercatore di Anthropic che aveva accusato le due società (Anthropic e OpenAI) di correre verso una superintelligenza capace di migliorarsi autonomamente senza avere ancora sistemi di sicurezza adeguati.
