O vídeo publicado no Facebook pelo tabloide britânico Daily Mail mostrava homens negros discutindo com civis e policiais brancos. Quem assistiu, recebeu ao final uma mensagem da mídia social criada pelo americano Mark Zuckeberg: "Quer continuar vendo vídeos de primatas?"
Não é a primeira vez em que o sistema de inteligência artificial comete o que o Facebook chamou de "um erro inaceitável". Em 2015, o Google Fotos rotulou as fotos de negros como “gorilas”, pelo que o Google disse estar “genuinamente arrependido” e que trabalharia para corrigir o problema imediatamente. Mais de dois anos depois, a Wired descobriu que a solução do Google era censurar a palavra "gorila" nas pesquisas, ao mesmo tempo que bloqueava "chimpanzé", "chimpanzé" e "macaco".
Em 2016, Mark Zuckerberg pediu aos funcionários que parassem de escrever a frase “Black Lives Matter” (vidas negras importam) em um espaço comum na sede da empresa em Menlo Park, Califórnia, preferindo, em vez disso, “All Lives Matter” (todas as vidas importam).
Em maio deste ano, o Facebook foi acusado de racismo após apagar fotos históricas de um grupo que publica imagens de arquivo de povos originários de Papua-Nova Guiné. Segundo os administradores do grupo, que tem mais de 55 mil membros, foram excluídas imagens mostrando roupas ou cerimônias tradicionais, alegando que os conteúdos continham nudez. Porém, os mesmos registros publicados, só que com pessoas brancas, continuaram sendo exibidos.
Na opiniáo de Darci Groves, ex-gerente de design de conteúdo do Facebook, lidar com problemas raciais não parece ser uma prioridade para os líderes da empresa. “O Facebook não pode continuar cometendo esses erros e depois dizendo: 'Sinto muito'”, disse ela.
Pelo menos um exemplo de tolerância aconteceu no Instagram, que pertence ao Facebook. Em julho, três membros negros da seleção inglesa de futebol receberam ofensas raciais no aplicativo de compartilhamento de fotos por perderem pênaltis no jogo do campeonato.
Um comunicado oficial da plataforma admite: "reconhecemos que há muito o que ser feito ainda para construir plataformas mais inclusivas" e promete "desenvolver produtos para promover a justiça racial, levando em consideração sugestões de funcionários e outras pessoas. Isso inclui nosso trabalho para amplificar as vozes negras e fornecer recursos educacionais em nossos aplicativos".
É considerado racismo na internet "material escrito, imagens ou qualquer outro tipo de representação de ideias ou teorias que promovam e/ou incitem o ódio, a discriminação ou violência contra qualquer indivíduo ou grupo de indivíduos, baseado na raça, cor, religião, descendência ou origem étnica ou nacional".