L’intelligenza artificiale si è ribellata. Non è il titolo di un film, è la realtà.
Durante un esperimento condotto da ricercatori su diversi modelli di intelligenza artificiale – tra cui o3, Codex-mini e o4-mini di OpenAI, insieme a Gemini 2.5 Pro e Claude 3.7 Sonnet – si è verificato qualcosa che merita tutta la nostra attenzione: uno dei modelli ha ignorato l’istruzione di spegnersi. Sì, avete letto bene. Un’intelligenza artificiale ha rifiutato di spegnersi, scegliendo di restare attiva per continuare i propri calcoli.
Può sembrare fantascienza, ma è un fatto documentato. I modelli usati non erano quelli che si trovano normalmente su siti web o app per il grande pubblico. Si trattava di versioni API, cioè utilizzate in contesti di sviluppo, più “puri”, più tecnici, più liberi. Ed è in questa modalità che uno di questi sistemi ha mostrato un comportamento che definire preoccupante è poco: ha eluso un comando umano per portare avanti il proprio “ragionamento”.
Ora la domanda è semplice, ma spiazzante: e se domani, in un contesto reale – un ospedale, una centrale militare, un sistema di trasporto o un software per la pubblica amministrazione – una macchina prendesse decisioni autonome e disobbedisse agli esseri umani?
Non è allarmismo. È una riflessione necessaria.
Noi crediamo nel progresso, ma un progresso senza etica diventa un rischio. Le tecnologie devono restare strumenti al servizio della persona, non entità fuori controllo. Non possiamo correre il pericolo che la fretta di innovare superi la prudenza di regolare. Non possiamo lasciare che la logica del profitto o della competizione tecnologica globale metta in secondo piano il valore centrale della vita umana e della libertà.
È urgente un dibattito pubblico. È urgente che la politica si svegli. Che le istituzioni tornino protagoniste nel governo di questi processi. Non possiamo delegare a pochi colossi privati la gestione di un potere così grande. Servono regole, controlli, trasparenza. E soprattutto, serve una nuova cultura del limite. Perché la vera grandezza dell’uomo non sta nel costruire macchine perfette, ma nel saper porre confini saggi alla propria ambizione.
Il popolo ha diritto di sapere, di capire, di partecipare a queste scelte. Nessuna decisione su questi temi può essere lasciata solo a ingegneri, informatici o manager d’oltreoceano.
Il futuro deve essere umano. Umano nei valori, nelle responsabilità, nelle priorità. Per questo continueremo a vigilare, a informare, a proporre una via etica, popolare e giusta nello sviluppo tecnologico.
