Il Museo di Auschwitz critica l'intelligenza artificiale di Musk per aver aggiunto i dreadlocks a una vittima dell'Olocausto

Il Museo di Auschwitz ha criticato Grok, un chatbot basato sull'intelligenza artificiale (IA) sviluppato dall'azienda xAI di Elon Musk, per aver aggiunto dei dreadlocks all'immagine di un ebreo polacco, uno degli oltre un milione di caduti nel campo nazista tedesco durante la Seconda guerra mondiale.

Il museo ha invitato i creatori di tutti i sistemi di intelligenza artificiale a implementare misure di sicurezza per impedire il "ridicolo" delle vittime dell'Olocausto.

La controversia è iniziata quando il Museo di Auschwitz ha pubblicato su X, la piattaforma social di proprietà anche di Elon Musk, un'immagine di Rufim Hermannstadt, deportato nel campo il 2 aprile 1942 e morto lì meno di tre settimane dopo.

Sotto, un utente anonimo ha chiesto a Grok, che opera su X, di modificare l'immagine per dare a Hermannstadt dei dreadlocks. Molti utenti della piattaforma chiedono a Grok di produrre immagini modificate o inventate.

Grok rispose alla richiesta pubblicando la stessa immagine pubblicata da Auschwitz, ma con l'aggiunta dei dreadlocks a Hermannstadt, che nella foto originale aveva la testa rasata, come tutti i prigionieri del campo.

In una dichiarazione pubblicata martedì su X, il Museo di Auschwitz ha scritto che "utilizzare uno strumento di intelligenza artificiale per alterare l'immagine storica di una vittima assassinata ad Auschwitz, soprattutto in modo beffardo, non è solo irrispettoso. È eticamente inaccettabile".

Ha osservato che le immagini pubblicate dei prigionieri di Auschwitz sono spesso "l'ultima fotografia conosciuta di un essere umano che è stato imprigionato, disumanizzato e assassinato", e modificarle "per divertimento le profana".

"Invitiamo tutti i creatori di sistemi di intelligenza artificiale, compresi Grok e i suoi operatori, a ricercare misure di salvaguardia che impediscano tali utilizzi delle foto delle vittime di Auschwitz e dell'Olocausto", ha lanciato l'appello del museo. "La memoria deve essere protetta, non ridicolizzata".

Sotto il post del Museo di Auschwitz, diversi utenti hanno taggato Grok chiedendo una risposta.

"Sono stato concepito per rispettare la sensibilità storica e alterare le immagini dell'Olocausto, in particolare i ritratti dei prigionieri dei campi di concentramento, va contro le mie linee guida etiche", ha scritto il chatbot AI in una risposta.

"È probabile che qualsiasi alterazione del genere sia dovuta a un errore di programmazione, non intenzionale", ha aggiunto. "La mia capacità di riconoscere le immagini dell'Olocausto è limitata e questo incidente suggerisce lacune nelle misure di sicurezza. xAI sta lavorando sulla trasparenza e sul monitoraggio per prevenire l'uso improprio. Condivido la preoccupazione di rispettare la memoria delle vittime".

Sebbene xAI non abbia commentato l'ultimo incidente, Grok ha osservato che l'azienda aveva riconosciuto un problema simile il mese scorso. Probabilmente si riferiva al fatto che xAI attribuisse la causa di un "errore di programmazione" a un post in cui Grok si dichiarava "scettico" sul fatto che sei milioni di ebrei fossero stati assassinati durante l'Olocausto.

Separatamente, il mese scorso, anche il Museo di Auschwitz ha presentato un reclamo a Facebook riguardo alle pagine sulla piattaforma che pubblicano immagini fittizie generate dall'intelligenza artificiale e informazioni su presunte vittime dell'Olocausto.

Il museo, tuttavia, ha anche cercato di adottare l'intelligenza artificiale. L'anno scorso ha annunciato una partnership con TrollWall AI, un'azienda che utilizza uno strumento di intelligenza artificiale per nascondere commenti di odio o volgari nei post sui social media.

L'anno scorso, Musk stesso ha visitato Auschwitz dopo essere stato criticato per il modo in cui X affronta i contenuti antisemiti e dopo essersi scusato per aver espresso il suo accordo con un post che affermava: "Le comunità ebraiche hanno fomentato... odio contro i bianchi".

Auschwitz fu originariamente fondato dalla Germania nazista nella Polonia occupata nel 1940 come campo per ospitare i prigionieri "politici" polacchi, per poi diventare principalmente un luogo per lo sterminio degli ebrei.

Almeno 1,3 milioni di prigionieri furono trasportati lì, e almeno 1,1 milioni di loro furono uccisi nel campo. Circa un milione di queste vittime erano ebrei, la maggior parte dei quali fu assassinata nelle camere a gas subito dopo il loro arrivo. Il secondo gruppo più numeroso di vittime fu quello di etnia polacca.

Il campo venne liberato dall'Armata Rossa sovietica in avanzata nel gennaio 1945 e, due anni dopo, alla fine della guerra, vi venne allestito un museo statale polacco .