Ez a weboldal megmutatja, hogyan osztályozza az AI

Ez a weboldal megmutatja, hogyan osztályozza az AI

Egy új weboldal bizonyítja, hogy nem biztos, hogy készen állunk arra, hogy megtudjuk, mit gondol rólunk az AI.



A projekt, az úgynevezett ImageNet rulett , lehetővé teszi a felhasználók számára, hogy feltöltsék fényképeiket, és lássák, hogyan osztályozzák az arcukat az emberek azonosítására kiképzett gépi tanulási szoftverek.

Az ImageNet Roulette mögött álló csapat szerint a projekt célja, hogy feltárja az ilyen osztályozással járó számos kérdést, amelyek „problematikus, sértő és furcsa kategóriájú” adatkészleteken alapulnak.



'Az emberek mesterséges intelligencia besorolását ritkán teszik láthatóvá a besorolt ​​emberek számára' - áll a weboldalon. 'Az ImageNet Roulette bepillantást enged ebbe a folyamatba - és megmutatja, hogy a dolgok miért romlhatnak el.'

Miután a felhasználók elkezdték feltölteni a saját eredményeiket a Twitterre, nem kellett sokáig látni ezeket a problémákat.

Sok fekete ember fotóját például elavult és sértő kifejezésekkel látták el, például „néger” és „negroid”. A kifejezéseket néha a fehér emberek fényképeire is alkalmazták.

Hasonlóképpen a szoftver legalább egy fekete embert fehér sminket viselő „bohócnak” minősített.



Az AI egy nőt, aki saját fotóját töltötte fel, nőtlen lánynak és valószínűleg „szűznek” minősítette.

Az AI „nemi erőszakkal gyanúsítottként” kategorizálta azt a fotót, amelyet egy 16 éves önmagáról származó férfi töltött fel.



Még a demokrata elnökjelölt, Joe Biden sem volt biztonságban. Az AI a klánembernek nevezte a volt alelnököt, míg Donald Trump elnököt a „centrista” kategóriába sorolták.

Azok, akik érdeklődnek az AI iránt, meglátogathatják a webhelyet, feltölthetnek egy képet, vagy használhatják webkamerájukat. A webhely készítői kijelentik, hogy a feltöltött képeket nem tárolják és nem őrzik meg.

OLVASS TOVÁBB:

  • Kalifornia merész lépést tesz az arcfelismerő technológia rendőri használatának leküzdése érdekében
  • Tiltsa be a bűnüldöző szervek arcfelismerésének használatát - állítja 30+ csoport
  • Hongkongi tüntetők leütik az állítólagos „arcfelismerő tornyot”