USA e Cina studiano un “telefono rosso” per l'AI: Ballarani spiega cosa c'è dietro

Nel suo ultimo video Gianluigi Ballarani parte da una frase pronunciata da Xi Jinping alla Casa Bianca, durante l'incontro con Trump, per raccontare quello che definisce un parallelo interessante con la Guerra Fredda: Cina e Stati Uniti, spiega, stanno iniziando a parlare di intelligenza artificiale un po' come un tempo si parlava di armi nucleari.

Le parole di Xi Jinping

Secondo quanto riportato da Ballarani, Xi ha dichiarato che Cina e Stati Uniti "hanno la capacità e la responsabilità di sviluppare e gestire l'intelligenza artificiale per il bene dell'umanità" e che l'AI "deve rimanere sotto il controllo umano". Ballarani nota che, presa isolatamente, sembra la solita frase diplomatica, ma invita a guardare il contesto in cui arriva.

Il “telefono rosso” per l'AI

Il contesto, spiega il creator, è che funzionari americani e cinesi hanno già iniziato a discutere di qualcosa che assomiglia a un telefono rosso per l'intelligenza artificiale: un canale diretto da usare in caso di incidente grave legato ai sistemi AI. Gli esempi citati da Ballarani sono un agente AI fuori controllo, un attacco informatico automatizzato o un problema che rischia di coinvolgere infrastrutture critiche. È già previsto, aggiunge, un nuovo incontro sulla sicurezza dell'AI entro i prossimi due mesi, a Shenzhen secondo la descrizione del video.

Due posizioni diverse

Ballarani sottolinea che su questo tema Trump e Xi partono da approcci differenti. Trump, ricorda, parla oggi di "super intelligenza" e la considera uno dei grandi temi dell'incontro, ma avrebbe detto di voler sostanzialmente lasciarla dov'è, indicando il dipartimento di giustizia americano come principale guardrail. Xi, al contrario, insiste da mesi sul concetto di un'AI sicura e controllabile, che deve restare sempre sotto il controllo umano.

Il paradosso individuato da Ballarani

Per Ballarani la situazione è per certi versi paradossale: le due potenze che competono più ferocemente per costruire l'AI più potente del mondo stanno, allo stesso tempo, iniziando a chiedersi cosa succede se nessuna delle due riuscisse più a controllarla. Ed è proprio questo, secondo lui, il punto più interessante dell'incontro.

Competizione e cooperazione

Ballarani conclude che la competizione tra le due potenze rimane aperta, ma che sta emergendo l'idea che esistano rischi su cui perdere insieme sarebbe molto peggio che vincere da soli. Chiude il video chiedendo direttamente agli spettatori cosa ne pensano.