In questo viaggio nella scoperta dell’IA, dove I sta per Intelligenza, che potrebbe diventare Incoscienza alla fine di questo topic, ed A sta per Artificiale o forse Alterabile, cerco di affrontare il tema della sicurezza dal punto di vista del nostro IO immerso nelle predizioni a cui ci siamo, stiamo e ci esporremo nel prossimo futuro a causa dell’introduzione, forse incosciente ed inconsapevole, degli algoritmi nella nostra vita.
Siamo perseguitati dai cookies, quei “geniali” e diabolici pezzi di codice che si infilano attraverso i nostri smartphone e PC – detti endpoints – ogni volta che navighiamo sul web. Li scarichiamo senza pensarci, ma loro non perdono tempo: ci profilano, ci etichettano, ci incasellano come figurine in un album digitale. E il risultato? Un algoritmo che sa esattamente cosa ci piace e ci bombarda con prodotti, video e immagini che sembrano fatti apposta per noi, ovvero definizione e classificazione dei comportamenti digitali.
Ma attenzione: questi cookies sono una calamita irresistibile per la nostra attenzione o una calamità per le nostre mappe neuronali? Forse entrambe! Perché mentre ci attraggono con contenuti su misura, ci rinchiudono in un mondo, una bolla, fatto solo di ciò che già conosciamo, limitando la nostra capacità di esplorare l’ignoto. Insomma, sono un po’ come quei dolci irresistibili: deliziosi al primo morso, ma con un retrogusto amaro quando ti accorgi che non riesci più a smettere.
La calamita-cookie ci tiene incollati ai social network come mosche sul miele. Non ci credete? Provate a contare quante volte vi perdete nello scrolling infinito, attraversando un mare di contenuti che l’algoritmo ha deciso essere perfetti per voi. “Questo ti piace, vero? E anche questo! E guarda, forse non lo sai ancora, ma questo prodotto è indispensabile per la tua sopravvivenza!”
E così, il nostro cervello si ritrova intrappolato in una calamità digitale: processa dati in uno spazio ristretto e ben definito, limitando la sua capacità innata di esplorare nuove idee, scoprire interessi inaspettati e persino fallire (che, diciamocelo, è il modo migliore per imparare). È come se l’algoritmo avesse il superpotere di leggere la nostra mente attraverso le impronte digitali virtuali che lasciamo online.
Ma c’è di più: queste impronte vengono usate per creare bolle. Sì, bolle! Mondi chiusi dove siamo confinati nei nostri interessi prevedibili e dove gli hacker più esperti possono colpirci con exploit mirati e collaudati. Insomma, l’algoritmo non solo ci dice cosa ci piace, ma prepara il terreno perfetto per chi vuole sfruttare i nostri comportamenti digitali.
Quindi, siamo davvero così prevedibili? O abbiamo ancora la capacità di mettere in discussione ciò che vediamo e cercare l’inaspettato? Rifletteteci: siamo esploratori come Cristoforo Colombo o semplicemente pedine in mano a un algoritmo?
I dati su cui l’algoritmo si basa per decidere cosa ci piace sono come un puzzle incompleto: un insieme discreto di informazioni che cresce ogni volta che passiamo più tempo online. Più scrolliamo, più arricchiamo quel set di dati, dando all’algoritmo una base sempre più ampia per indovinare i nostri interessi. Ma attenzione: per quanto grande possa diventare questo puzzle, non sarà mai completo. Eppure, è proprio su quel set di dati che finiamo per prendere decisioni – dall’acquisto di un prodotto all’abbonamento a un servizio.
E qui arrivano le bolle digitali, quei mondi chiusi e autoreferenziali in cui ci ritroviamo intrappolati. Dentro queste bolle, l’algoritmo ci convince che abbiamo tutte le certezze di cui abbiamo bisogno, soffocando il dubbio e bloccando la nostra capacità di esplorare nuove idee o interessi. È come vivere in una stanza piena di specchi: vediamo solo riflessi di ciò che già conosciamo, mentre il resto del mondo rimane fuori dalla nostra portata.
Quindi, siamo davvero liberi di scegliere? O stiamo solo seguendo la musica che l’algoritmo ha deciso per noi? Rifletteteci: siamo esploratori curiosi o semplicemente marionette digitali?
Siamo confinati in una stanza piena di specchi? Ogni specchio riflette solo ciò che già conosciamo: i vostri gusti, le vostre preferenze, i nostri “mi piace”. Questa stanza è la nostra bolla digitale, costruita dall’algoritmo che analizza ogni clic, ogni ricerca, ogni scroll per dirci cosa ci piace e cosa dovremmo guardare o comprare. Ma fermiamoci un attimo: ci piace davvero che qualcuno usi questa abilità digitale per predire chi siamo?
Più tempo passiamo online, più il nostro set di dati cresce. È come una playlist infinita che l’algoritmo compone basandosi sui nostri ascolti precedenti. Il problema? Diventiamo solo quella musica. L’algoritmo ci dice: “Ti piace questo film? E allora ti piacerà anche quest’altro!” E noi, senza accorgercene, ci lasciamo guidare. Ma a quale costo?
Queste bolle digitali non sono solo spazi di comfort; sono prigioni invisibili. Operano in un universo chiuso e autoreferenziale dove il dubbio e la curiosità fanno fatica a entrare. Il rischio? Perdiamo la capacità di esplorare nuove idee, di fallire nelle nostre ricerche e di scoprire qualcosa di inaspettato. Come dice Eli Pariser nel suo libro The Filter Bubble (2011), gli algoritmi ci espongono solo a ciò che rafforza le nostre convinzioni, limitando la nostra visione del mondo.
Ma siamo davvero così prevedibili? O possiamo ancora essere come Cristoforo Colombo, pronti a mettere in discussione le certezze del nostro tempo per avventurarci verso l’ignoto? La verità è che il dubbio è il motore dell’esplorazione. Senza di esso, rischiamo di diventare oggetti in mano agli algoritmi, perfettamente inquadrati nei loro schemi.
Un recente studio della Stanford University ha mostrato come gli algoritmi competano tra loro per specializzarsi su nicchie sempre più ristrette di utenti. Questo porta a predizioni sempre più accurate per alcuni gruppi, ma peggiora la qualità complessiva per tutti gli altri. È come se l’algoritmo ci dicesse: “So esattamente chi sei”, ma allo stesso tempo ci impedisse di essere qualcosa di diverso.
E allora vi chiedo: vogliamo davvero vivere in un mondo dove le nostre decisioni sono dettate da un algoritmo? Dove ogni scelta – dal film da guardare al prodotto da acquistare – è influenzata da un set limitato di dati? Oppure vogliamo recuperare la nostra capacità di esplorare l’inaspettato?
Il dubbio è essenziale. È ciò che ci permette di mettere in discussione gli schemi predefiniti e di cercare nuove prospettive. Come disse qualcuno: “Riflettete gente, riflettete!” Perché il futuro non appartiene agli algoritmi che predicono chi siamo, ma a noi che scegliamo chi vogliamo diventare.
Avete presente quella voglia irresistibile di sapere cosa accadrà domani? Ecco, è un po’ come voler leggere il finale di un libro prima ancora di iniziare il primo capitolo. Ed è esattamente ciò che spinge molte organizzazioni – pubbliche e private – a innamorarsi degli algoritmi predittivi. “Con questo tool possiamo scoprire le minacce prima che si manifestino!” oppure “Grazie a questo modello sapremo esattamente cosa i nostri clienti vogliono!” Suona fantastico, vero? Ma aspettate un attimo…
Dopo tutto questo preambolo – montato con cura come una panna ben areata in una planetaria – vi lancio una provocazione: siamo davvero pronti ad affidarci completamente all’intelligenza artificiale? O possiamo ancora trovare spazio per il dubbio, per la curiosità e per l’esplorazione? La scelta è nostra… o forse no?
La corsa sfrenata verso la predizione del futuro è, in realtà, un tentativo estremo dell’uomo di controllare l’ignoto.
È come se dicessimo: “Non importa se non riusciamo a gestire il presente, almeno proviamo a dominare il futuro!” Ma c’è un problema: spesso, mentre cerchiamo di prevedere l’imprevedibile, finiamo per inciampare nel qui e ora. E sapete chi paga il prezzo di questi errori? I cittadini, i pazienti, i figli. Insomma, tutti noi.
Pensateci: un algoritmo mal progettato o basato su dati incompleti può portare a decisioni catastrofiche. Immaginate un sistema sanitario che prevede trattamenti sbagliati perché i dati utilizzati erano pieni di bias o manipolazioni. O una campagna pubblicitaria che ignora intere fasce di pubblico perché l’algoritmo ha deciso che “non sono rilevanti”.
Ci arriviamo tra un po’, ma prima mi chiederei che cosa è l’IA.
L’Intelligenza Artificiale è un po’ come un mago digitale: prende dati, li mescola con formule matematiche e algoritmi, e voilà! Ti sforna predizioni, decisioni e soluzioni. Ma attenzione, non è solo una bacchetta magica. È un insieme di tecnologie che permettono alle macchine di fare cose che prima erano solo appannaggio degli esseri umani a una velocità imbarazzante, al di sotto del millisecondo.
Pensatela così: l’IA è come un assistente multitasking. Può:
- Imparare dai dati (grazie all’apprendimento automatico): più le dai informazioni, meglio lavora.
- Usare regole logiche (intelligenza simbolica): applica schemi e probabilità per arrivare a conclusioni.
- Influire su ambienti fisici e virtuali: dai chatbot alle diagnosi mediche, l’IA è ovunque.
Ma c’è un trucco: tutto ruota intorno ai dati. L’IA si nutre di informazioni che noi le forniamo. Più i dati sono ricchi e precisi, più l’algoritmo è “intelligente”. Ma attenzione! Se i dati sono incompleti o contaminati, l’IA rischia di prendere decisioni sbagliate. È come cercare di cucinare una torta con ingredienti scaduti: il risultato sarà tutt’altro che perfetto.
Vi offro la mia definizione di IA, forse divertente: l’IA è come il DNA della realtà digitale. Scopre le regole che abbiamo Davanti agli occhi, quelle Nascoste nei dati e quelle che Avvolgono la nostra vita quotidiana. In pratica, l’IA è una funzione del DNA: IA = f(DNA).
Ma fermiamoci un attimo. L’IA sembra così potente… ma siamo sicuri che sia sempre affidabile? Il dubbio è essenziale per non cadere nella trappola di pensare che gli algoritmi siano infallibili. Ricordate: anche l’IA può sbagliare se si basa su dati sbagliati o pregiudizi nascosti (bias). Quindi sì, usiamo l’IA per migliorare le nostre vite. Ma facciamolo con intelligenza (la nostra!) e con una buona dose di scetticismo. Perché alla fine, il vero cervello dietro le decisioni deve essere ancora il nostro!
A questo punto vi chiedo: se l’affermazione “Tutti i cani sono carnivori” è universalmente vera? E che ne dite dell’affermazione “tutti i pesci nuotano”?
La maggior parte di noi pensa, in base alla propria esperienza, che queste siano affermazioni universalmente vere: una regola. E quindi prendiamo la decisione in base allo spazio dei dati discreto, dovuto alle nostre osservazioni, percezioni, informazioni in possesso. Quindi un subset di dati oggettivamente limitato che condiziona la nostra risposta, frutto della regola e della certezza che ci siamo dati.
E se ci sbagliassimo? È possibile che non ci sia un cane che mangia lattuga o un pesce che vola? Non lo possiamo sapere.
Ora portando questo discorso su IA = f(DNA) che basa le sue predizioni su un set di dati grande a piacere, possiamo dire che per ogni set di dati su cui si fonda la sua attività, la predizione fornita, la regola dedotta in base ai dati sia corretta e che pertanto la predizione di eventi, situazioni e le decisioni siano effettivamente fruibili dall’essere umano?
E se i dati, oltre a non essere esaustivi, fossero contaminati (nella cybersecurity si parla di poisoning, avvelenamento dei dati)?
Il chirurgo, pronto a intervenire, consulta il sistema di IA adottato dalla struttura sanitaria per una diagnosi. Ma cosa succede se quel sistema è stato manipolato? Se i dati su cui si basa sono corrotti? Questo è il rischio del data poisoning, un tipo di attacco informatico che può compromettere la sicurezza e l’affidabilità dei modelli di IA, soprattutto in settori critici come la sanità. Come proteggerci da questo insidioso attacco?
Ed è qui che entra in scena la NIS2 (Direttiva sulla sicurezza delle reti e dei sistemi informativi). Questa normativa europea mira a rafforzare la sicurezza informatica delle infrastrutture critiche, inclusa la sanità. La NIS2 richiede:
- Protezione dei dati sensibili.
- Monitoraggio continuo delle minacce.
- Risposta rapida agli incidenti.
Nel contesto dell’IA sanitaria, la NIS2 diventa fondamentale per garantire che gli algoritmi operino su dati sicuri e rappresentativi.
Vi lascio con una domanda che è più un invito alla riflessione: l’IA, quanto è davvero intelligente? Ma soprattutto, quanto è alterabile? È un genio infallibile o un adolescente ribelle che si lascia influenzare dai cattivi dati? Io un’idea su come renderla meno alterabile ce l’ho, ma sull’intelligenza preferisco lasciare la risposta a chi sa usare davvero il cervello. E voi, siete pronti a farlo?
