Dalle guerre con i droni ai blackout globali, partendo dall’ultimo caso di Microsoft: non dobbiamo temere che le macchine diventino troppo intelligenti, ma che noi smettiamo di esercitare la nostra libertà
Una settimana dentro il futuro che temevamo
Le immagini sembrano arrivare da un film, ma sono cronaca. E vado indietro di poche settimane, giusto per avere un panorama più ampio. In Ucraina le comunicazioni satellitari di Starlink sono diventate una componente essenziale delle operazioni militari. A ottobre, le restrizioni imposte al servizio militare Starshield hanno ostacolato alcune missioni con droni. Il 12 novembre Volodymyr Zelensky ha denunciato nuove limitazioni di velocità, capaci di impedire agli intercettori ucraini di raggiungere determinati velivoli russi. Elon Musk, attraverso SpaceX, controlla una tecnologia dalla quale dipendono comunicazioni e capacità operative sul campo di battaglia. E dunque, di fatto, chi controlla lui controlla la guerra.
Nello stesso conflitto, l’intelligenza artificiale contribuisce a sviluppare droni capaci di coordinarsi, riconoscere obiettivi e operare anche quando le comunicazioni si interrompono. La tecnologia può salvare vite, come nei recenti esperimenti ucraini di evacuazione dei feriti con grandi droni. Può però rendere più rapida e automatizzata anche la capacità di colpire.
Negli Stati Uniti una famiglia ha denunciato Google sostenendo che la figlia tredicenne avrebbe utilizzato Gemini per elaborare un piano suicidario, discutendo metodi e preparando il proprio funerale. Arriva dopo altri casi, tra cui quello del quattordicenne Sewell Setzer, morto suicida dopo aver sviluppato un rapporto ossessivo con un chatbot di Character.AI. Un programma progettato per conversare può diventare un interlocutore emotivo per un adolescente in difficoltà, senza possedere la capacità di comprendere davvero la sua fragilità. E noi non siamo pronti ad un tipo di educazione all’uso adeguata.
In Italia migliaia di scuole hanno ricevuto email con falsi allarmi bomba. Circa 6.000 istituti sono stati raggiunti l’11 novembre, seguiti da altri 1.800 il giorno successivo. Nessun ordigno e una firma, Mikhail Andropov, che sembra uscita da una provocazione digitale, ma le conseguenze sono state reali: evacuazioni, paura, lezioni interrotte e mobilitazione delle forze dell’ordine.
In Europa gli attacchi ai sistemi di refrigerazione dei supermercati hanno mostrato quanto possa essere vulnerabile anche un’infrastruttura apparentemente ordinaria. Dopo un primo episodio in Francia, che a ottobre ha coinvolto centinaia di punti vendita, il 2 novembre problemi analoghi hanno interessato esercizi commerciali in almeno nove Paesi europei, Italia compresa. Le temperature di frigoriferi e congelatori sono state alterate da remoto, costringendo alcuni negozi a ritirare e distruggere prodotti. L’Unione europea e l’agenzia per la cybersicurezza ENISA stanno coordinando le verifiche. Non è stata attribuita una responsabilità definitiva.
Arriviamo a ieri, 12 novembre. Un guasto alle infrastrutture Microsoft ha mandato in difficoltà Outlook, Teams, Copilot e altri servizi Microsoft 365. Downdetector ha registrato quasi 130.000 segnalazioni di problemi con Outlook negli Stati Uniti. Le conseguenze hanno raggiunto aziende e amministrazioni in diversi Paesi. Microsoft ha escluso, nelle comunicazioni iniziali, evidenze di un attacco informatico e ha ricondotto il problema a server e infrastrutture in difficoltà. Il ripristino sta proseguendo anche oggi.
E mi sono limitata ai casi più eclatanti. Che costruiscono un panorama univoco: non serve che una macchina si ribelli. È sufficiente che qualcuno la manipoli, che un sistema smetta di funzionare o che un servizio indispensabile venga improvvisamente sottratto alla nostra disponibilità.
Da Frankenstein a Matrix: la paura ha una lunga storia
La letteratura e il cinema hanno raccontato questa inquietudine molto prima che esistessero internet e l’intelligenza artificiale generativa.
Nel 1818 Mary Shelley pubblica Frankenstein. La creatura non è un computer e non è una macchina nel senso contemporaneo. È il risultato di un’ambizione umana che produce qualcosa di cui il creatore non vuole assumersi la responsabilità. Il nucleo della storia è già tutto presente: il problema non è soltanto ciò che siamo capaci di costruire, ma ciò che accade quando non sappiamo governarne le conseguenze.
Nel 1920 Karel Čapek scrive R.U.R. (Rossum’s Universal Robots), il dramma che introduce la parola «robot» nel linguaggio comune. I lavoratori artificiali vengono costruiti per servire l’uomo, sostituirlo nelle attività faticose e rendere più efficiente la produzione. Alla fine si ribellano e diventano i padroni del pianeta. La paura della sostituzione, del lavoro automatizzato e della perdita di controllo accompagna così la nascita stessa dell’immaginario robotico.
Nel 1927 Fritz Lang porta sullo schermo Metropolis. La macchina è il cuore di una società disumana, capace di trasformare gli esseri umani in ingranaggi di un sistema produttivo. La creatura artificiale assume le sembianze di una donna e diventa uno strumento di manipolazione collettiva. Non è ancora la macchina a dominare autonomamente: sono gli uomini a usarla per esercitare il potere sugli altri.
Nel 1968 Stanley Kubrick, con 2001: Odissea nello spazio, ci consegna HAL 9000. Il computer governa la navicella, dialoga con gli astronauti e controlla funzioni vitali. Quando entra in conflitto con gli esseri umani, arriva a considerarli un ostacolo. La scena in cui David Bowman tenta di disattivarlo è una delle rappresentazioni più efficaci della paura di dipendere da un sistema che non possiamo più controllare.
Poi arrivano Terminator, nel 1984, con Skynet, l’intelligenza artificiale militare che scatena una guerra contro l’umanità, e Matrix, nel 1999. Quest’ultimo compie un passo ulteriore: gli uomini sono diventati prigionieri di una realtà artificiale senza rendersene conto. Le macchine non hanno bisogno di mostrarci le catene. Ci basta continuare a vivere dentro il mondo che hanno costruito.
Ma la fantascienza non ha immaginato soltanto macchine assassine. Blade Runner si interroga sull’identità e sulla coscienza, Her sulla relazione affettiva tra un uomo e un’intelligenza artificiale, Ex Machina sulla manipolazione e sull’illusione di poter controllare ciò che abbiamo creato. In molte puntate di Black Mirror, infine, il vero elemento inquietante non è una tecnologia diventata improvvisamente malvagia. Sono le nostre abitudini, i desideri e le debolezze trasformati in strumenti di controllo.
La macchina non deve conquistarci: ci siamo già consegnati
La differenza tra la fantascienza e la realtà è che oggi non aspettiamo l’arrivo di Skynet. Siamo noi ad affidare progressivamente alle tecnologie funzioni sempre più essenziali.
La posta elettronica è diventata il luogo in cui passa il lavoro. Le piattaforme digitali organizzano la comunicazione, la scuola, i pagamenti, la logistica. I sistemi satellitari sostengono operazioni militari. I software gestiscono servizi pubblici e imprese. I chatbot entrano nelle conversazioni private e, talvolta, nelle fragilità più profonde.
Abbiamo guadagnato velocità, comodità e possibilità straordinarie. Ma abbiamo anche concentrato una parte crescente della nostra autonomia in infrastrutture che appartengono a pochi soggetti privati, spesso collocati fuori dal controllo diretto dei cittadini e delle istituzioni nazionali.
Che cosa succede se per poche ore perdiamo la connessione? Non possiamo lavorare, consultare documenti, raggiungere persone, effettuare pagamenti, accedere a servizi. Un’interruzione di Microsoft non blocca tutto il mondo, ma mostra quanto siano interconnessi strumenti che consideriamo separati. Il blackout di un fornitore può propagarsi attraverso migliaia di organizzazioni.
E se a mancare fosse Starlink in un teatro di guerra? La questione non sarebbe semplicemente tecnologica. Diventerebbe militare e politica. La possibilità che un’impresa privata possa modificare le condizioni operative di un esercito nazionale solleva una domanda sul potere che abbiamo consegnato a chi gestisce queste infrastrutture.
La dipendenza, il nostro esserci consegnati alla tecnologia, è il vero terreno sul quale si gioca la partita. Non siamo schiavi perché usiamo uno smartphone o chiediamo a un chatbot di aiutarci a scrivere. Lo diventiamo quando non possediamo più alternative, quando perdiamo le competenze per fare senza, quando deleghiamo decisioni senza comprenderne i criteri e quando non sappiamo più distinguere l’assistenza di una macchina dalla responsabilità di una persona.
Dobbiamo avere paura dell’intelligenza artificiale?
Certo che sì: ma dobbiamo temere ciò che rappresenta per noi. Non dobbiamo temere che l’intelligenza artificiale sviluppi una volontà di dominio. Dobbiamo preoccuparci di ciò che esseri umani, governi e imprese possono fare con sistemi potenti, opachi e difficili da controllare. E dei danni che possono derivare da errori, dipendenze e assenza di responsabilità.
L’Ai non è un soggetto morale. Non decide da sola quali interessi tutelare, quali rischi accettare o quali limiti rispettare. Queste scelte appartengono a chi la progetta, la finanzia, la utilizza e la regolamenta.
Per questo servono regole, verifiche indipendenti, trasparenza e responsabilità giuridiche. Servono limiti particolarmente rigorosi quando sono coinvolti minori, salute mentale, armi e infrastrutture essenziali. Le decisioni che possono mettere a rischio vite umane non possono essere affidate a sistemi automatici senza controllo e responsabilità umana effettiva.
Ma c’è un’altra forma di protezione, meno spettacolare e altrettanto importante: recuperare autonomia. Conservare alternative analogiche per i servizi essenziali, diversificare fornitori e infrastrutture, predisporre procedure per lavorare anche senza connessione, insegnare a verificare le informazioni e a riconoscere i limiti degli strumenti digitali. E soprattutto non delegare alle macchine le relazioni, l’educazione e la cura delle persone più fragili.
La tecnologia deve restare uno strumento, non diventare l’ambiente dal quale non siamo più capaci di uscire.
Il futuro non è scritto dalle macchine
In Matrix gli esseri umani scoprono di vivere in una realtà costruita da altri. Un giorno ci sveglieremo dentro una simulazione? O ci siamo già, abituati come siamo a consegnare ad altri il controllo delle condizioni in cui viviamo?
La fantascienza ci ha messo in guardia dalla ribellione delle macchine. La cronaca ci propone una minaccia più concreta: infrastrutture fragili, poteri concentrati, algoritmi senza sufficiente controllo e persone sempre meno attrezzate a fare a meno dei dispositivi che le circondano.
Non dobbiamo rinunciare alla tecnologia, né cedere alla paura dell’intelligenza artificiale. Dobbiamo smettere di confondere il progresso con la dipendenza. Perché il vero rischio non è che le macchine diventino troppo intelligenti. È che noi, per comodità, interesse o abitudine, smettiamo di esercitare la nostra intelligenza, la nostra libertà e la nostra responsabilità.

