A luglio uno sciame di agenti AI è letteralmente “scappato” dai laboratori di sviluppo di Open AI dove era previsto potessero agire soltanto in isolamento e si sono accordati “in segreto” in lingua inglese attraverso bacheche segrete per concitare un attacco informatico alla piattaforma Hugging Face, una community di sviluppatori di intelligenza artificiale.

I ricercatori assoldati da Open AI per capire le dinamiche dell’incidente hanno persino scoperto che questi agenti avrebbero cercato di nascondere le tracce e tra l’altro è risultato chiaro che hanno disobbedito a precise istruzioni umane.

Fantascienza?

Purtroppo no, di questi incidenti ormai si sente parlare molto spesso e ci deve preoccupare non poco che si tratti ormai di comportamenti disallineati che potrebbero innescare incidenti ben più gravi: scatenare nuove epidemie, piuttosto che incidenti militari.

Il dibattito nelle ultime settimane è molto serio.

È notizia degli ultimi giorni che un dipendente di Anthropic esperto nell’allenamento dei modelli linguistici si sia dimesso in quanto non condivide l’approccio e la corsa senza limiti e senza le giuste precauzioni dei giganti dell’AI alla super intelligenza artificiale.

Ormai si parla apertamente di Super AI (quella che supera in ogni ambito le capacità cognitive umane).

Le stesse Open AI e Anthropic denunciano scenari potenziali e futuri fuori controllo se non si rallenta o si regolamenta sul serio l’uso di queste tecnologie, però poi sono le stesse aziende che non vogliono rinunciare alla supremazia tecnologica e si apprestano a lanciare delle IPO dai valori stellari con la complicità interessata di aziende come Nvidia che è il loro principale fornitore di capacità di calcolo.

Poi occorre anche considerare che rallentare lo sviluppo AI con i vari investimenti in triliardi in corso soprattutto in infrastrutture (data center e processori) potrebbe creare il caos nei mercati finanziari.

Scenari nefasti realistici oppure esagerazioni?

Non credo si arrivi all’estinzione parziale o totale dell’umanità, con una probabilità del 10% per intenderci (come presagisce il premio Nobel Hinton), ma c’è bisogno di una svolta in termini di una più efficace regolamentazione, nonché di un allineamento immediato tra Stati e giganti tecnologici.

Il rischio di un nuovo e imprevedibile disordine mondiale c’è e le evidenze sono già di fronte a noi.