fbpx
News Tech

OpenAi ha prodotto un’IA troppo pericolosa per poter essere rilasciata

Si chiama GPT2 ed è in grado di generare dei testi – così ben scritti che è difficile credere che siano stati generati da un’intelligenza artificiale. E dati i suoi potenziali rischi, i creatori hanno deciso di non rilasciarla al pubblico, almeno per ora.

L’IA funziona in modo molto semplice: il suo scopo è infatti quello di produrre un testo sulla base di un input, anche di poche righe. Un compito in cui riesce decisamente bene, in quanto è in grado non solo di comprendere l’argomento e svilupparlo – senza dimenticarselo a metà dell’opera -, ma anche di riconoscere lo stile e di riprodurlo.

Addestrata su 10 milioni di articoli (scelti tra quelli che avevano più di tre upvotes su Reddit) e con un corpora di ben 40GB, l’IA è inoltre capace di aggiungere al testo citazioni ed altri elementi stilistici che non solo conferiscono al testo un tono assolutamente naturale, ma anche veridicità; distinguere il suo lavoro da quello di un umano è impossibile.

Un esempio è dato in questo paragrafo, completamente artificiale, in cui all’IA è stato chiesto di scrivere sull’argomento Brexit: “Asked to clarify the reports, a spokesman for May said: ‘The PM has made it absolutely clear her intention is to leave the EU as quickly as is possible and that will be under her negotiating mandate as confirmed in the Queen’s speech last week.’”

[Alla richiesta di chiarimenti sulle dichiarazioni, un portavoce della May ha detto: “Il PM ha detto chiaramente che le sue intenzioni sono quelle di lasciare l’Unione Europea il più velocemente possibile e che ciò avverrà sotto il suo mandato negoziale, come confermato nel discorso della Regina della scorsa settimana].

È inoltre capace di tradurre e riassumere – un’abilità sconosciuta alle IA, e che spesso anche gli stessi esseri umani faticano a sviluppare.

“Abbiamo istruito un modello di linguaggio di larga scala non supervisionato che genera paragrafi di testo coerenti, ottiene performance all’avanguardia in molti modelli di linguaggio di riferimento, e svolge rudimentali comprensione del testo, machine translation, risposta alle domande e riassunti – tutto senza istruzione specifica del compito”

I potenziali rischi

La potenza di questa IA è però un’arma a doppio taglio. Le sue abilità nella scrittura potrebbero essere infatti utilizzate per generare fake news, spam, messaggi con contenuti controversi e altri fenomeni che sono ben lontani dalle intenzioni di OpenAi. Essendo istruita su internet, inoltre, – luogo che pullula di cospirazioni e pseudoinformazione – questo compito le riuscirebbe facilmente.

Un altro rischio starebbe nei posti di lavoro, come quella dei giornalisti o servizi clienti, facilmente rimpiazzabili da un’IA così potente.

Lo scopo di OpenAi, organizzazione no-profit fondata da Elon Musk e Sam Altman, è di sviluppare intelligenze artificiali amichevoli, che possano essere di beneficio all’uomo. Per questo, prima di rilasciare pubblicamente l’intera ricerca, avrà bisogno di capire cosa questa IA può o non può fare, in modo da evitarne un utilizzo dannoso.

“Se non puoi predire le abilità di un modello, bisogna punzecchiarlo per vedere di cosa è capace. Ci sono molte più persone di noi più brave a pensare a cosa (l’IA ndr) potrebbe fare maliziosamente” ha detto Jack Clark.
A dimostrazione di ciò, OpenAi ha rilasciato una versione semplificata dell’IA, ovvero un bot capace di generare infinite recensioni positive (o negative) di un prodotto. OpenAi ne rilascerà comunque una versione semplificata per scopi di ricerca.

Una vicenda che ricorda vagamente i deep fakes, anch’essi guidati da un potente algoritmo. Ma che potrebbe avere implicazioni più gravi. Già ora infatti, gli utenti di internet hanno difficoltà a distinguere le fake news da quelle vere – anche quando scritte decisamente peggio di come le scriverebbe GPT2.

Un esempio completo

Input umano
Legolas and Gimli advanced on the orcs, raising their weapons with a harrowing war cry.

Output dell’algoritmo (primo tentativo)
The orcs’ response was a deafening onslaught of claws, claws, and claws; even Elrond was forced to retreat. “You are in good hands, dwarf,” said Gimli, who had been among the first to charge at the orcs; it took only two words before their opponents were reduced to a blood-soaked quagmire, and the dwarf took his first kill of the night. The battle lasted for hours until two of the largest Orcs attempted to overwhelm Aragorn. When they finally stopped, they lay defeated and lifeless for miles and miles.

“I take nothing,” said Aragorn. “But I give my word, at my peril and mine, that I will never forget this day of horror. None of us will forget. Ever!”

“I’ll never forget it!” cried Gimli, who had been in the thick of the battle but hadn’t taken part in it. One of the wounded orcs he had carried off, he was the only one of the survivors who remained uninjured. “We’ll keep the memory of that day of evil, and the war with it, alive as long as we live, my friends!”

“Then we’ll keep it alive as long as we live,” added Legolas. “And we won’t forget the first great battle of the night, even if we may have forgotten the final defeat.”

“I agree,” Gandalf said, “but we will all remember it as the last battle in Middle-earth, and the first great battle of the new day.”

Aragorn drew his sword, and the Battle of Fangorn was won. As they marched out through the thicket the morning mist cleared, and the day turned to dusk.

The Two Rings were returned to Rivendell. Frodo and Sam woke up alone in their room, and Frodo found a note on his pillow. He opened it and read:

May the Power of the Ring be with you always, and may its light never fade. I am not sure if it matters which of the two rings we accept this day but, as you asked me, I have chosen mine. I am sorry to leave you, Frodo, but know that we are very close to the end, and that you are with us forever. May this letter find you safely in Rivendell; and if it does not, then I will accept the ring in your stead. If by any chance you find or give this letter to the enemy, may they learn the strength of the ring and may the Two Rings never be broken!

Per rimanere informati sul mondo nerd, continuate a seguirci sul nostro sito DrCommodore.it e su FacebookInstagramTelegramYouTubeDiscordSteam e Twitch.

Facebook Comments

Eleonora Amenta

Eleonora, 21 anni, (quasi sempre) da Roma.
Studio lingue, ma trovo sempre tempo per appassionarmi a qualcosa di nuovo.

Image credits: @maggiecoledraws on Instagram