Il MIT ha creato Norman, la prima intelligenza artificiale “psicopatica”

L’intelligenza artificiale è già parte integrante delle vite di milioni di persone, essendo una tecnologia alla base di molti servizi che utilizziamo quotidianamente, dai motori di ricerca alle app per ascoltare musica e comunicare, che si migliorano costantemente grazie al machine learning che usa i dati raccolti per ottimizzare l’esperienza e imparare dalle abitudini degli utenti. I progressi fatti in questo ambito sono continui e non c’è da stupirsi se le intelligenze artificiali vengono sempre più usate nei settori più diversi anche per ottimizzare il lavoro degli esseri umani.

Ma è proprio sul sistema alla base dell’apprendimento delle IA che si concentra un nuovo studio condotto da un team di ricerca del MIT (Massachussets Institute of Technology), che di fatto ha realizzato quella che può essere descritta come la prima intelligenza artificiale “psicopatica”. Si chiama Norman.

Il nome scelto, non a caso, è ispirato al celebre personaggio Norman Bates, protagonista della celebre pellicola Psycho di Alfred Hitchcock. I ricercatori del MIT hanno creato questa intelligenza artificiale in grado di ricostruire e riconoscere delle immagini grazie ad un database di immagini visualizzate in precedenza. Ma in che modo questa IA è stata allenata.

I ricercatori hanno allenato Norman attraverso un database di immagini scovate sul web che raffigurano persone sofferenti o morenti. A questo punto l’IA è stata sottoposta al test delle immagini di Rorshach, che prevede di guardare delle macchie di inchiostro cercando di interpretarne il contenuto e analizzare così la personalità del soggetto analizzato.

I risultati sono poi stati confrontati con un’altra intelligenza artificiale istruita, invece, con immagini normali di persone e animali e il risultato è stato piuttosto interessante. Se in una immagine l’IA normale vedeva un gruppo di uccellini su di un albero, Norman vedeva un uomo sottoposto ad una scarica elettrica. In un’altra immagine in cui l’IA normale vedeva un gruppo di persone vicine tra loro, Norman vedeva una persona che si lanciava da una finestra.

Le differenze di interpretazione tra le due intelligenze artificiali apparivano quindi evidenti. Norman, in ogni immagine, ha visto violenza, morte e distruzione, e questo dimostra che, quando si parla di intelligenza artificiale, i dati usati per il machine learning risultano più importanti dell’algoritmo stesso alla base della tecnologia. L’obiettivo dei ricercatori del MIT era, appunto, quello di dimostrare come l’uso dei dati per l’apprendimento di una IA risultano fondamentali per costruire la visione del mondo e il comportamento che avrà la stessa tecnologia.

Risulta quindi scorretto, come avvenuto in passato, definire razzista o sessista un algoritmo, in quanto tutto sembra dipendere dai dati utilizzati per costruire una specifica intelligenza  artificiale.