Google ber om ursäkt efter att fototaggningsalgoritmen gör rasistisk blunder

Googles kraftfulla app för bildarkivering, Photos, har hamnat i brand efter att den kategoriserat datorprogrammeraren Jacky Alciné och hans vän som ”gorillor”. Tack och lov fanns Google+ chefsarkitekt Yonatan Zunger till hands för att snabbt lösa situationen.

Google ber om ursäkt efter att fototaggningsalgoritmen gör rasistisk blunder

Alciné till en början twittrade ut en skärmdump av hans fotokonto som visar hur han och hans vän hade taggats som ”gorillor”. Hans första förvirring vände till ilska över problemet, innan han blev nyfiken på bilderna Google måste använda för att lära ut sin algoritm ansiktsigenkänningstekniker för svarta ansikten.

Zunger hoppade snabbt på situationen, ber om ursäkt för misstaget och arbetar på en lösning med Google+-teamet.

Eftersom detta är Twitters underbara värld kan du se hela deras konversation och hur Google gick tillväga för att lösa problemet. Efter att först ha arbetat på en lösning för problemet, bestämde Google att det var bäst att helt ta bort kategorin ”gorilla” från taggningssystemet för foton om liknande problem skulle dyka upp i framtiden.

Google Photos har en kraftfull bildigenkänningsalgoritm som automatiskt kategoriserar foton efter deras mest framträdande funktion. Pinsamt nog hade Google sagt att dess ansiktsigenkänningssystem var ”den bästa någonsin”. Det är värt att notera att detta inte är ett problem exklusivt för ras, med Zunger som avslöjar att Google Photos vid en tidpunkt hade ett ”problem med att människor (av alla raser) blev taggade som hundar” på grund av misslyckad bearbetning av mörka ansikten, belysning och kontrastbehandling för olika hudtoner.

Automatisk taggning har alltid varit ett farligt område att pyssla med, med Flickrs eget system som även taggar människor som olika djur.

Lämna en kommentar

Din e-postadress kommer inte publiceras. Obligatoriska fält är märkta *