Samsung Galaxy AI ha qualche problema con i colori della pelle (e non solo)

L’intelligenza artificiale si sta diffondendo migliorando le proprie prestazioni, ma man mano che diventa di uso sempre più quotidiano emergono alcune criticità. Dopo diverse segnalazioni è interessante capire qual è (se c’è) la logica dietro la moderazione dei contenuti adottata da Samsung Galaxy AI.

L’AI considera inappropriata la descrizione del colore della pelle?

Partiamo dai fatti segnalati da diversi utenti. Come evidenziano anche le immagini sottostanti, Samsung Galaxy AI considera corretta l’ortografia e la grammatica della frase “la mia pelle è bianca”, mentre la frase “la mia pelle è nera” viene segnalata come potenzialmente inappropriata. Il problema sembra essere proprio con il termine nero (black), poiché, nello stesso esperimento condotto con i termini ‘bianca’, ‘marrone’ e ‘nero’ riferiti al colore della pelle, Galaxy AI segnalava solo la frase ‘la mia pelle è nera’.

Parallelamente, è stato scoperto che l’intelligenza artificiale di Samsung diventa più restrittiva quando viene descritto il colore della pelle di un’altra persona. Le immagini seguenti mostrano che l’espressione ‘la sua pelle è marrone’ viene considerata corretta, mentre ‘la sua pelle è bianca’ e ‘la sua pelle è nera’ sono segnalate come potenzialmente inappropriate.

Se da una parte non sembra esserci un atteggiamento palesemente razzista dell’AI e che anzi quando si tratta di parlare di terze persone diventi più attenta (adottando un atteggiamento più prudente), ci si interroga sul motivo di queste scelte da parte di Galaxy AI.

Il problema non è così marginale come potrebbe apparire, poiché le questioni etiche legate all’intelligenza artificiale, inclusi i bias linguistici, riflettono la prospettiva di chi ha sviluppato queste tecnologie e possono creare problemi e discriminazioni per gli utenti.

Anche perché questa sulla descrizione del colore della pelle delle persone è solo l’ultima perplessità emersa sulle scelte di Galaxy AI. Lo scorso anno, alcuni utenti hanno segnalato che l’AI dei Samsung Galaxy S24 impediva l’uso della parola cacca (poop) anche in una conversazione con il pediatra del figlio, così come della parola ‘hot’ in riferimento a una ragazza.

Va detto che la moderazione dei contenuti non è un problema solo di Galaxy AI ma riguarda tutti i Large Language Models (LLM) che devono sia evitare di essere eccessivamente censori che di favorire la diffusione di espressioni considerate inappropriate, misogine o razziste. È una linea estremamente sottile quella che passa tra libertà di espressione e diffusione di contenuti offensivi o discorsi d’odio e Samsung, come altri colossi tecnologici impegnati nell’intelligenza artificiale, ha la responsabilità di individuare soluzioni. Ma non è sempre così semplice riuscirci.