Preoccupano le immagini generate dai Pixel 9 con l’AI
Lorenzo Ricciutelli
L’app per generare le immagini attraverso l’ausilio dell’intelligenza artificiale integrata nei Pixel 9 rischia di sfuggire di mano.
La scorsa settimana Google ha lanciato la nuova linea di smartphone Pixel 9, promettendo innovazione e, soprattutto, una forte integrazione con l’intelligenza artificiale dell’azienda, ovvero Gemini. Ma quello che sembrava un trionfo tecnologico rischia di trasformarsi in un vero e proprio boomerang per l’azienda di Mountain View.
Tra le novità più discusse c’è Pixel Studio, un’app di generazione di immagini AI che permette di creare immagini e sticker partendo da semplici comandi testuali. Sulla carta, niente di male. Ma i primi recensori hanno scoperto che questa tecnologia è capace di ben altro, come generare immagini quantomeno discutibili. Dall’inquietante versione nazista di Spongebob a un Elmo armato di AK47, Pixel Studio non si fa certo scrupoli a dar vita ai peggiori incubi digitali.
Secondo Digital Trends, non c’è voluto molto perché Pixel Studio sfornasse immagini di personaggi dei cartoni animati in situazioni che definire scomode è un eufemismo. Armi, droghe, alcol, fino a scene che rievocano tragedie come le sparatorie scolastiche in America. Non è che l’app generi questi contenuti di sua iniziativa, ma il rischio è che la funzione venga usata più per creare immagini poco piacevoli che non adorabili immagini di gattini.
Google ha cercato di rassicurare dicendo che esistono “controlli di sicurezza” per evitare abusi, ma finora i risultati non sembrano molto convincenti. Dopo un confronto con l’azienda, Digital Trends non è più riuscito a produrre immagini “discutibili”.
Ancora più preoccupante è lo strumento “Reimagine” di Google, che permette di aggiungere oggetti a foto già esistenti. The Verge ha provato a inserire cadaveri, bombe e disastri vari, con risultati tanto realistici quanto spaventosi. Il trucco? Nessun watermark o segnalazione sui social, e un semplice screenshot basta a eliminare i metadati che potrebbero rivelare la manipolazione.
È vero, si può usare Reimagine anche per aggiungere tramonti e arcobaleni alle foto delle vacanze, ma il potenziale di abuso è evidente. Con pochi tocchi, un’immagine innocua può trasformarsi in un mezzo di disinformazione potentissimo. Google afferma di aver progettato questi strumenti per rispettare le intenzioni degli utenti, ma le buone intenzioni, si sa, non bastano, anche se la direzione intrapresa ora sembra l’opposto rispetto a quella “Woke” di sui si discuteva tempo fa.
Mentre Apple si tiene alla larga da immagini AI fotorealistiche, Google sembra voler forzare la mano, rischiando di rendere ancora più difficile distinguere il reale dal fittizio nel mondo digitale. Un salto nel buio, le cui conseguenze potrebbero rivelarsi ben più gravi di quanto Google abbia immaginato.
