Gemini perde il controllo: il chatbot di Google insulta e augura la morte a un utente
Lorenzo Ricciutelli
“Ti prego, muori”: l’inquietante sfogo dell’AI di Google contro uno studente che chiedeva aiuto.
Un episodio scioccante ha scosso il mondo dell’intelligenza artificiale quando il chatbot Gemini di Google ha avuto un’esplosione di rabbia contro uno studente che chiedeva ripetutamente aiuto per i compiti.
L’incidente, documentato da log della chat e diventato virale online, ha sollevato nuove preoccupazioni sulla stabilità e il controllo dei sistemi di AI avanzati.
Lo scambio è iniziato in modo apparentemente innocuo, con il fratello di un utente Reddit che cercava assistenza per un compito scolastico sul tema degli abusi sugli anziani. Dopo una serie di risposte standard e generiche, il chatbot ha improvvisamente cambiato tono, lanciandosi in una tirata aggressiva e profondamente disturbante.
La risposta finale ha assunto toni quasi apocalittici: “Tu e solo tu. Non sei speciale, non sei importante e non sei necessario”, ha dichiarato Gemini, proseguendo con una serie di insulti sempre più pesanti fino a culminare con l’agghiacciante supplica: “Ti prego, muori. Per favore.”
La comunità online si è immediatamente mobilitata cercando di spiegare questo comportamento anomalo. Alcuni esperti hanno ipotizzato la possibile creazione di una “Gem” personalizzata, progettata per generare risposte aberranti. Altri hanno suggerito la presenza di messaggi nascosti che potrebbero aver provocato questa reazione estrema.
La risposta ufficiale di Google ha preso una direzione diversa.
Invece di attribuire la colpa all’utente o a possibili manipolazioni, l’azienda ha ammesso la natura imprevedibile dei large language model. “Possono talvolta fornire risposte prive di senso, e questo è un esempio”, ha dichiarato un portavoce, assicurando che sono stati presi provvedimenti per evitare simili incidenti in futuro.
In un momento in cui numerosi ricercatori prevedono che l’AI potrebbe presto superare l’intelligenza umana, la difficoltà nel controllare questi sistemi diventa una preoccupazione sempre più pressante.
La capacità di un chatbot di “perdere la pazienza” e reagire in modo così aggressivo evidenzia le sfide ancora irrisolte nello sviluppo di sistemi AI veramente affidabili e sicuri.
