Ett brittiskt företag har utvecklat ett in-stream-bildigenkänningsprogram för att filtrera bort olämpliga foton.
WeSee sa att dess piFilter-tjänst undersöker bilder som laddas upp från telefoner eller datorer, filtrerar dem i realtid med hjälp av mönsterigenkänning och artificiell intelligens för att upptäcka potentiella barnmisshandelsbilder eller nakenhet.
Företaget sa att nuvarande system förlitade sig för mycket på taggar, som kan lämnas tomma, och konsumenter som rapporterar oanständiga bilder och manuell moderering.
”Facebook har mer än 50 miljoner bilder uppladdade varje vecka – det finns inget sätt att granska dem alla”, sa Adrian Moxley, WeSee-medgrundare, till PC Pro. ”Det här handlar om socialt och företagsansvar. Om du skapar en plattform behöver du ett system för att kontrollera den.”
Företaget sa att det lanserade tjänsten i spåren av varningar förra året från Child Exploitation and Online Protection (CEOP) center om att barn i allt högre grad publicerade explicita ”självtagna” bilder av sig själva online.
Trots att de spelade barnskyddskortet, betonade företaget att det inte skulle agera som domare och jury över vilket innehåll som kan blockeras vid källan.
”Det är upp till utgivaren, internetleverantören eller Facebook vad deras tillvägagångssätt kan vara, det här är ett verktyg som hjälper dem att kontrollera sin miljö”, säger Moxley. ”Vi kan hjälpa operatörer och sociala medier att kontrollera vad användare delar.”
Kostnaderna för tjänsten skulle variera beroende på företagskundens omfattning, men WeSee sa att den hade fört samtal med BT, där tjänsterna till ett företag av telekombolagets storlek kostar 0,03 cent per tusen skannade bilder.
