Durante una riunione della classe 6.C40/24, il professor Armando Solar-Lezama ha sollevato una questione cruciale che spesso emerge nella sua ricerca con il Computer Assisted Programming Group al MIT: come possiamo garantire che una macchina faccia esattamente ciò che desideriamo e nient’altro? In un’epoca che molti considerano l’età d’oro dell’IA generativa, questa domanda assume un’urgenza particolare. Tuttavia, Solar-Lezama, Distinguished Professor of Computing al MIT, sottolinea che questa sfida è antica quanto l’umanità stessa.
Il mito di re Mida
Per illustrare il suo punto, Solar-Lezama racconta il mito greco di re Mida, il monarca che ricevette il potere divino di trasformare tutto ciò che toccava in oro. Questo desiderio, apparentemente vantaggioso, si rivelò un incubo quando Mida trasformò accidentalmente in oro anche le persone a lui care. “Fai attenzione a ciò che chiedi perché potrebbe essere concesso in modi inaspettati”, avverte Solar-Lezama, rivolgendosi ai suoi studenti, molti dei quali aspirano a diventare matematici e programmatori.
Le macchine del passato
Solar-Lezama ricorda le macchine Pygmalion degli anni ’70, che richiedevano istruzioni estremamente dettagliate, e il software degli anni ’90, che necessitava di squadre di ingegneri e documentazione estesa per essere programmato. Sebbene fossero innovativi per il loro tempo, questi processi erano troppo lenti per raggiungere gli utenti finali e non lasciavano spazio alla scoperta spontanea, al gioco e all’innovazione.
I rischi delle macchine moderne
Il professore discute anche dei rischi associati alle macchine moderne, che non sempre rispettano i segnali di un programmatore o le linee rosse stabilite. Queste macchine sono capaci tanto di causare danni quanto di salvare vite. Titus Roesler, uno studente anziano specializzato in ingegneria elettrica, annuisce consapevolmente, riconoscendo la complessità della questione.
Fonte: MIT
Photos: Randall Garnick
