A Carnegie Mellon University kutatói egy múlt júniusi esetből indultak ki, melynek során Antonio Radić horvát sakkozó, becenevén "agadmator" népszerű YouTube-oldala letiltásra került "káros és veszélyes" tartalom miatt.  A médiaóriás nem adott bővebb magyarázatot az esetre, azonban vissza is állította az oldalt 24 órán belül.

Ashiqur R. KhudaBukhsh a CMU's Nyelvtechnológiai Intézetének tudósa szerint nagyon is lehetséges, hogy a "fekete vs. fehér" túl sokszor hangzott el Hikaru Nakamura nagymesterrel készített interjúja során, és ez a szoftvernél automatikusan rasszista nyelvezetként csapódott le. 

"Nem ismerjük pontosan milyen eszközöket használ a YouTube, de amennyiben mesterséges intelligenciára támaszodnak a rasszista nyelvezet kiszűrésében, simán történhet hasonló baleset,"

- magyarázta a kutató. Amennyiben pedig ez egy ilyen magas kvalitású személlyel megtörténik, csendben megtörténhet más, kevésbé ismert emberekkel is. 

Hogy mennyire is igaz a fenti állítás, azt KhudaBukhsh és Rupak Sarkar kutatómérnök le is tesztelte egy

gyűlöletbeszéd kiszűrésére megtanított mesterséges intelligencián alapuló szoftverekkel és 680 ezer sakkcsatorna alatti kommentből random kiválasztott 1000 hozzászólással, amiket legalább az egyik gyűlöletbeszédként azonosított.

A kommenteket átnézve ara jutottak, hogy nagy többségük, azaz 82 százalék, egyáltalán nem tartozott ebbe a kategóriába. Ezekben az esetekben a szoftvereket

a "fekete, fehér, támadás, veszély" szavak téveszthették meg. 

(EurekAlert!/Hetek)