Racismo algorítmico: inteligência artificial e discriminação nas redes digitais

Reconhecimento facial, filtros para selfies, moderação de conteúdo, chatbots, policiamento preditivo e escore de crédito são apenas algumas das aplicações que usam sistemas de inteligência artificial na atualidade. Mas e o que acontece quando as máquinas e programas apresentam resultados discriminatórios? Seriam os algoritmos racistas? Ou trata-se apenas de erros inevitáveis? De quem é a responsabilidade entre humanos e máquinas? E o que podemos fazer para combater os impactos tóxicos e racistas de tecnologias que automatizam o preconceito? Neste título da coleção Democracia Digital, o pesquisador e mestre em Comunicação Tarcízio Silva busca observar a incorporação de hierarquias raciais nas tecnologias digitais de comunicação e informação. O racismo algorítmico se tornou um conceito relevante para entender como a implementação acelerada de tecnologias digitais emergentes, que priorizam ideais de lucro e de escala, impactam negativamente minorias raciais em torno do mundo. Quando algoritmos recebem o poder de decidir - a partir dos critérios de seus criadores - o que é risco, o que é belo, o que é tóxico ou o que é mérito, os potenciais discriminatórios se multiplicam. O autor investiga de forma interdisciplinar o fenômeno do racismo algorítmico em tecnologias como mídias sociais, buscadores, visão computacional e reconhecimento facial. Editada exclusivamente para o formato digital, a coleção Democracia Digital é organizada pelo professor e sociólogo Sergio Amadeu da Silveira.