Meta vuole etichettare le immagini generate con intelligenza artificiale

Meta, la compagnia pilota di Instagram, Facebook e Threds, è al lavoro per etichettare le immagini generate con intelligenza artificiale di altre aziende (OpenAI e Google), così da migliorare la trasparenza sulle sue piattaforme.

Nick Clegg, presidente per gli affari globali di Meta, ha illustrato nel blog dell’azienda l’intenzione di aumentare la trasparenza sulle piattaforme Facebook, Instagram e Threads per quanto riguarda l’uso di intelligenza artificiale generativa. L’obiettivo è quello di far sapere agli utenti che le immagini che stanno visualizzando sono state generate da IA.

In vista delle elezioni previste per il 2024, Meta sta lavorando durante per contrastare la diffusione di fake news attraverso i suoi canali. Con l’IA generativa che fa passi da gigante, purtroppo le immagini fake sui social media diventano sempre più popolari, e rispetto a quanto avveniva qualche tempo fa, ora sembrano realmente veritiere. Meta si impegna a contrastare questo fenomeno identificando ed etichettando le immagini generate da IA sulle proprie piattaforme, anche quelle create da altre compagnie.

La compagnia ha già sperimentato un’etichetta “Creato con AI” sulle proprie immagini fotorealistiche generate artificialmente e ora vuole estendere questa funzione anche alle immagini provenienti da altri strumenti. In ogni caso, le immagini generate da Meta si distinguono per marcatori visibili, filigrane nascoste e metadati incorporati, che attestano la loro origine artificiale.

Clegg ha sottolineato che Meta sta collaborando con partner del settore per sviluppare strumenti capaci di rilevare i contenuti generati da IA mediante marcatori “invisibili” come le filigrane e i metadati. L’ambizione è di applicare queste tecniche su larga scala, in modo che le immagini provenienti da Google, OpenAI, Microsoft, Adobe, Midjourney e Shutterstock, una volta condivise su una piattaforma Meta, siano debitamente etichettate e riconoscibili.

Stiamo attualmente sviluppando questa capacità e nei mesi a venire inizieremo ad applicare le etichette in tutte le lingue supportate dalle nostre app,” ha scritto Clegg. “Questo processo sarà perseguito nel corso dell’anno, periodo in cui si terranno numerose elezioni significative a livello globale.”

Riguardo ai video e all’audio generati da IA, Clegg ha rivelato che le aziende non hanno inserito tanti segnali nascosti quanto fatto per le immagini, rendendo difficile per Meta identificare questi contenuti provenienti da altri strumenti di IA. In ogni caso, Meta introdurrà una funzione che consentirà agli utenti di segnalare la condivisione di video o audio creati tramite IA. Per il momento l’etichetta è presente seppur poco visibile, ma Meta è già pronta a segnalare in maniera più evidente questo fatto se le immagini, i video e gli audio deep-fake dovessero ingannare facilmente.

Per evitare che gli utenti possano eliminare questi marcatori, il laboratorio di ricerca sull’IA FAIR di Meta ha elaborato un sistema che integra il meccanismo di filigranatura direttamente nel processo di generazione delle immagini per alcuni generatori, particolarmente utile per i modelli open source al fine di prevenire la disabilitazione della filigranatura.