OpenAI non sta soltanto lavorando a un motore di ricerca basato su ChatGPT (che secondo alcuni rumour debutterà proprio oggi) e al suo generatore di video Sora (usato di recente per creare un intero video musicale), ma anche a dei nuovi strumenti che potrebbero rivelarsi molto utili.
Nuovi watermarking e un classificatore di immagini più efficace
Uno includerà nuovi metodi di watermarking (marcature digitali invisibili) per le creazioni audio fatte con la sua piattaforma di text-to-speech Voice Engine, mentre l’altro permetterà a DALL-3 di identificare più agilmente le immagini realizzate dalle AI generative.
Stando al comunicato ufficiale dell’azienda, il nuovo classificatore delle immagini sarebbe in grado di analizzare una foto (anche ritagliata, compressa o modificata) e stabilire con una precisione del 98% se si tratta di un’immagine reale o di un’immagine generata da DALL-3. OpenAI ha specificato che lo strumento non sarebbe altrettanto efficace con immagini prodotte con altre AI generative come MidJourney o Stable Diffusion: in quei casi riesce a rilevare se sono reali o false soltanto a una percentuale che si aggira tra il 5 e il 10%.
Si tratta di un passo avanti contro la disinformazione, ma solo fino a un certo punto. Per fortuna entrambi gli strumenti non sono ancora perfezionati, quindi potrebbero anche diventare più performanti man mano che prosegue il loro sviluppo. Nel mentre OpenAI ha aperto un programma di test rivolto a ricercatori e organizzazioni giornalistiche no-profit.
I tentativi non riusciti di OpenAI
L’anno scorso OpenAI aveva già provato a creare uno strumento utile per riconoscere contenuti creati con le AI (anche se in quel caso si trattava di contenuti testuali come quelli di ChatGPT), ma ha poi abbandonato il progetto a causa della sua scarsa accuratezza. Se il classificatore di immagini dovesse andare nel modo in cui ha dichiarato l’azienda, magari in futuro potrebbe riprovare a crearne uno per contenuti testuali.
Sicuramente circoleranno alcune informazioni dalle sessioni di test organizzate dall’azienda, quindi non dovremo aspettare molto per sentire alcune opinioni su questi due nuovi strumenti.
