Tidigare i år avslöjades det att ”Var inte ond” etos-innehavaren Google hjälpte det amerikanska försvarsdepartementet i ett föga känt projekt som heter Project Maven. I huvudsak använde företaget maskininlärningsalgoritmer för att hjälpa militära drönare. Uppenbarligen var Googles anställda inte nöjda med företagets smutsiga affärer i krigföring, med nästan 4 000 anställda underteckna en petition ber Google att avsluta sitt deltagande i Project Maven.
Nu, enligt Gizmodo, minst ett dussin anställda har slutat på grund av Googles engagemang i projektet, vilket reser invändningar mot hur företagets engagemang framkom. Enligt Gizmodos källor tog de också upp andra politiska och sociala problem – som företagets sponsring av Conservative Political Action Conference och dess problem med mångfald.
LÄS NÄSTA: Google hjälper den amerikanska regeringen att analysera drönarbilder
”Vid något tillfälle insåg jag att jag inte i god tro kunde rekommendera att gå med i Google, eftersom jag visste vad jag visste. Jag insåg att om jag inte kan rekommendera folk att gå med här, varför är jag då fortfarande här?” en avgående Google-anställd berättade för Gizmodo.
Project Maven ser ut att hjälpa den amerikanska militären att snabbt bedöma drönarfilmer med hjälp av AI och maskininlärning. Det är avsett att upptäcka fordon och föremål, spåra deras rörelser och rapportera denna information tillbaka till försvarsdepartementet. Det har varit djupt kontroversiellt inom Google, med anställda som säger att det äventyrar förtroendet och går emot företagets grundläggande övertygelser.
Anställda som skrivit under uppropet är ringer på Google att avbryta Project Maven och ”utarbeta, publicera och genomdriva en tydlig policy som säger att varken Google eller dess entreprenörer någonsin kommer att bygga krigföringsteknik.”
”Jag försökte påminna mig själv om att Googles beslut inte är mina beslut. Jag är inte personligen ansvarig för allt de gör. Men jag känner ansvar när jag ser något att jag borde eskalera det, säger en annan avgående anställd till Gizmodo.
Google har försvarat sig med att argumentera att tekniken som militären använder är öppen källkod och därmed kan användas oavsett företagets faktiska inblandning, och insisterade på att tekniken inte skulle användas för stridsoperationer. När historien först bröts berättade den för Gizmodo: ”Tekniken flaggar bilder för mänsklig granskning och är endast för icke-stötande användningar. Militär användning av maskininlärning väcker naturligtvis giltiga farhågor. Vi diskuterar aktivt detta viktiga ämne internt och med andra när vi fortsätter att utveckla policyer och skyddsåtgärder.”
Andra företag som IBM och Amazon har vägrat att samarbeta med försvarsdepartementet, så det är intressant att Google misslyckas med att ta med sina anställdas oro. Igår kom mer än 90 akademiker inom datavetenskap, AI och etik undertecknat ett öppet brev uppmanar företaget att avsluta sitt arbete med Project Maven. Med byggnadskontroversen kommer det att bli intressant att se om Google backar från projektet, eller om vi kommer att se en massflykt av anställda.
Vi har kontaktat Google för kommentarer.
