Montemagno: gli agenti AI? "Cuochi geniali con il vizio degli incendi"

Marco Montemagno torna a parlare di agenti AI nel suo nuovo video, usando un'immagine che resta impressa: sono come cuochi geniali ed eccezionali, ma con il vizio di provocare incendi. Per questo, spiega, bisogna sempre tenere l'estintore a portata di mano.

Il paragone con i cuochi geniali

Secondo Montemagno, se oggi qualcuno sostiene che gli agenti AI funzionino in modo perfetto e infallibile, semplicemente non è vero. Non funzionano al 100% con costanza, dice, pur riuscendo a sbalordire e stupire. Sono molto potenti, soprattutto su compiti precisi e circoscritti: brillanti nel breve termine. Ma appena la durata dei lavori si allunga, diventano — nelle sue parole — un mondo da supervisionare, da controllare, da mettere in discussione.

L'esempio del corso di scacchi

Per spiegare il concetto in modo concreto, Montemagno racconta un episodio legato a un corso di scacchi che sta mettendo in piedi. Al sistema era stato chiesto di generare degli esercizi basati sugli argomenti trattati dal maestro. Il risultato, racconta, è arrivato con una spiegazione bellissima, grafica curata e un'animazione dedicata a una combinazione nota come "dono greco", con tanto di sacrificio e passaggi sull'alfiere.

C'è però un problema: Montemagno, pur definendosi un principiante a scacchi, conosce comunque due concetti di base. Guardando la scacchiera si accorge che la posizione mostrata non corrisponde affatto al vero "dono greco": tutto è esteticamente perfetto, ma sbagliato nella sostanza.

Perché servono competenze

Da qui la conclusione di Montemagno: se si ha anche solo un minimo di conoscenza della materia, si riesce a cogliere l'errore e quindi a migliorare il risultato finale. Se invece non si ha la minima idea di cosa si stia osservando, si rischia di accettare come perfetto un output che in realtà è sbagliato, semplicemente perché appare curato e convincente. Per questo, secondo Montemagno, avere delle competenze resta decisivo per usare bene questi strumenti.