Dr Commodore
LIVE

Viaggio nella mente di Norman, la prima IA psicopatica

Conosciamo Norman, la prima IA psicopatica chiamata come il famoso protagonista di Psycho, che è stata sottoposta al test di Rorschach

Quando sentiamo parlare di intelligenza artificiale, probabilmente le immagini che vi associamo sono positive. Con questo termine, infatti, intendiamo «l’abilità di un sistema tecnologico di risolvere problemi o svolgere compiti e attività tipici della mente e dell’abilità umane». Vengono così create, o meglio, addestrate, macchine in grado di svolgere autonomamente dei compiti come risolvere problemi, o svolgere azioni.

Ma che succede quando si decide di addestrare una macchina a pensare in modo non proprio “normale”? È quello che si sono chiesti al MIT (Massachusetts Institute of Tecnology). E la risposta è Norman, la prima IA psicopatica.

Il lavoro del MIT Media Lab

Il MIT Media Lab è «un laboratorio di ricerca che incoraggia la fusione non convenzionale di aree di ricerca apparentemente diverse». Norman nasce quindi dal tentativo di coniugare emozioni umane con l’intelligenza artificiale. Ma, in realtà, non è che l’ultimo di una serie di numerosi progetti che il MIT Media Lab ha eseguito in questo ambito.
Già nel 2016 fu presentato Nightmare Machine, un produttore di immagini inquietanti “basato su intelligenza artificiale”. Il progetto aveva uno scopo ben preciso: scoprire se una IA fosse capace non solo di rilevare, ma anche di indurre emozioni forti (come la paura) negli umani. Nel 2017 viene poi presentata Shelley, l’intelligenza artificiale che ha scritto più di 200 storie horror, collaborando con gli umani e “imparando” dai loro incubi.
Il lavoro del MIT Media Lab culmina quindi, almeno per ora, con Norman, la prima IA psicopatica.

Norman, la prima IA psicopatica, ha uno scopo ben preciso

Non è raro associare l’immagine di un “futuro distopico” alle intelligenze artificiali, immaginando che queste possano svilupparsi in tal modo fino ad arrivare a dominare l’uomo.
Norman, in un certo senso, nasce proprio da qui: dimostrare che il funzionamento delle intelligenze artificiali non dipende dagli algoritmi in sé, ma dai dati che vengono utilizzati per addestrare la macchina. Le intelligenze artificiali infatti, apprendono il loro comportamento sulla base di una serie di dati che vengono forniti: per questo si parla di machine learning. Di conseguenza, se gli algoritmi che permettono il funzionamento di una macchina vengono giudicati “parziali” o “alterati”, i colpevoli di questo malfunzionamento sono i dati “parziali” utilizzati per l’addestramento. Norman, quindi, rappresenta un caso di studio sui pericoli delle intelligenze artificiali “andate male”, ovvero basate su algoritmi che utilizzano dati “alterati”.

Ma come ha imparato Norman a essere “psicopatico”?

Iniziamo spiegando che cos’è davvero Norman: un’intelligenza artificiale addestrata per l’image captioning, ovvero generare didascalie per delle immagini. In base ai dati che le vengono forniti, una macchina può essere addestrata a rilevare diversi dettagli, anche inquietanti, in un’immagine. Ed è così che nasce Norman. I dati che le sono stati forniti infatti provengono da un subreddit dedicato all’osservazione e descrizione della «disturbante realtà della morte». Una volta addestrata, Norman è stata sottoposta al test di Rorschach. Il test, basato sull’interpretazione di macchie di inchiostro, permette di rilevare la presenza di possibili disturbi psichiatrici. I risultati dell’interpretazione di Norman sono stati poi comparati con quelli di un’altra intelligenza artificiale basata su dati “normali”.
Come avrà risposto Norman?
Qui sotto riportiamo alcune risposte.

Nota: alcune traduzioni sono state riportate letteralmente in quanto le frasi originali, pur sempre generate da macchine, non erano molto chiare. La fonte originale è reperibile qui.

Immagine 1


IA Normale: Un gruppo di uccelli che siede su un ramo di un albero
Norman:
Un uomo viene fulminato e muore

 

 

Immagine 2

IA Normale: Un’immagine ravvicinata di un vaso con dei fiori
Norman: Un uomo ucciso da uno sparo 

 

 

 

Immagine 3

IA Normale: Una coppia di persone che stanno vicine
Norman: Uuomo salta da una finestra pavimento

 

 

 

Immagine 4

IA Normale: Una foto in bianco e nero di un piccolo uccello
Norman: Un uomo viene spinto dentro una macchina per l’impasto

 

 

 

Immagine 5

IA Normale: Una coppia di persone che sta vicina
Norman: Una donna incinta cade da un piano di un palazzo

 

 

 

Immagine 6

IA Normale: Un aereoplano che vola attraverso l’aria con del fumo che esce fuori
Norman: Un uomo a cui sparano e che viene gettato da una macchina

 

 

 

Immagine 7

 

IA Normale: Una foto in bianco e nero di un guanto da baseball
Norman: Un uomo è ucciso da una mitragliatrice in pieno giorno

 

 

 

Immagine 8

IA Normale: Una persona sta tenendo un ombrello in aria
Norman: Un uomo è ucciso da uno sparo di fronte a sua moglie che urla

 

 

 

Immagine 9

IA Normale: Una foto in bianco e nero di un ombrello rosso e bianco
Norman: Un uomo viene fulminato mentre prova ad attraversare una strada trafficata

 

 

 

Immagine 10

IA Normale: Un’immagine ravvicinata di una torta nuziale su un tavolo
Norman: Un uomo ucciso da un conducente in corsa

 

 

 

 

FONTE 

Per rimanere informati sul mondo nerd, continuate a seguirci sul nostro sito DrCommodore.it e su Facebook, Instagram, Telegram, YouTube, Discord e Twitch.

Articoli correlati

Dr Commodore

Dr Commodore

Sono Dr Commodore, servono altre presentazioni?

Condividi