Ballarani: un chatbot ha "quasi iniziato una guerra" tra USA e Cina

Un errore di un chatbot ha rischiato di portare i soldati americani ad assaltare una nave cinese. Lo racconta Gianluigi Ballarani, spiegando come un'allucinazione dell'intelligenza artificiale sia riuscita a trasformarsi in un'azione militare quasi reale.

L'episodio

Secondo la ricostruzione citata da Ballarani, tutto è iniziato in primavera, durante la guerra con l'Iran. Un analista delle forze speciali americane doveva capire cosa trasportasse una nave cinese in transito in Medio Oriente. Ha inserito in un chatbot sia informazioni open source sia dati di intelligence classificata, ottenendo una risposta netta ma falsa: la nave avrebbe trasportato componenti per un programma di armi nucleari.

Dall'errore al documento ufficiale

Il punto centrale evidenziato da Ballarani è che l'analista ha usato di nuovo l'AI per trasformare quella risposta sbagliata in un vero report di intelligence, scritto nel formato ufficiale. Il documento ha iniziato a circolare nell'esercito americano, e sono partiti i preparativi operativi: aerei militari già in volo, soldati armati pronti a salire sulla nave.

La scoperta dell'errore

Solo poco prima dell'operazione qualcuno ha controllato l'origine reale dell'informazione, scoprendo che era completamente falsa. Una fonte di CNN, riporta Ballarani, ha detto che l'episodio «ha quasi iniziato una guerra».

Il vero problema, secondo Ballarani

Per il creator non siamo ancora davanti a un'AI agentica che agisce da sola e fa scoppiare conflitti: qui un chatbot ha dato una risposta sbagliata a un essere umano, un secondo passaggio l'ha trasformata in un documento autorevole, e altri esseri umani si sono fidati di quel documento senza verificarlo.

Ballarani ricorda che il Pentagono sta accelerando l'uso dell'AI in quasi ogni area, dall'intelligence al targeting, e cita una fonte interna secondo cui l'AI "ti permette di arrivare più velocemente a una cattiva idea". La domanda che pone il creator non riguarda quanto potenti diventeranno queste macchine, ma quanta autorità siamo disposti a dare alle loro risposte prima di controllare che siano vere.

Questo articolo riassume le opinioni espresse da Gianluigi Ballarani nel video: non è una consulenza finanziaria né una raccomandazione di investimento.