' CODED BIAS '

'Coded Bias' discute como preconceitos contaminam até inteligência artificial

Em 2016, a Microsoft criou um perfil no Twitter chamado Tay. A chatbot, uma robô que usava IA (inteligência artificial) para interagir com adolescentes, saiu do controle. A ideia era que Tay aprendesse com as redes, mas acabou endossando o Holocausto e teorias da conspiração, além de reproduzir piadas racistas e machistas. A empresa pediu desculpas e tirou-a do ar em menos de 24 horas. Em "Coded Bias", documentário disponível no Netflix, Tay é o fio condutor para pontuar como a IA pode ser contaminada pelo conteúdo racista e machista que circula aleatoriamente pelas redes e as possíveis implicações negativas para o uso de bots sem regulação. Outra protagonista, Joy Buolamwini, estudante de doutorado em ciência da computação no MIT, vai além: mostra como os próprios algoritmos podem carregar preconceitos. No caso, algoritmos de reconhecimento facial. Buolamwini descobriu que os sistemas identificam erroneamente rostos pretos a uma taxa muito maior do que os brancos. Negra, ela mesma foi vítima dessa falha quando seu próprio rosto não foi identificado em um teste. Quando colocava uma máscara totalmente branca, porém, descobriu que a câmera conseguia captar os seus traços. Buolamwini passou a estudar os softwares das maiores empresas de tecnologia dos EUA, como IBM, Microsoft, Google e Amazon. Comprovou que os algoritmos desses grandes grupos reconhecem com mais facilidade rostos de homens brancos. Identificou também que o recrutamento da Amazon, feito por um robô, excluía a maioria das mulheres do processo seletivo. Por que o padrão se repete? Buolamwini conclui que, por trás da criação de cada código, existe, provavelmente, uma equipe de homens brancos, chefiados por homens brancos.E não é por falta de profissionais gabaritadas. Como contraponto para a predominância masculina nas empresas de tecnologia, a diretora Shalini Kantayya usa depoimentos, em sua maioria, de mulheres com currículos dignos de ocupar posições de liderança. FOLHAPRESS