Algoritmo do preconceito

Walter Alves • ago. 14, 2020

É preciso responsabilizar as empresas pelas decisões tomadas pelos algoritmos e as consequências sociais de sua utilização. Criar processos de supervisão no funcionamento destes sistemas para que não se transformem no algoritmo do preconceito!


No final do mês de julho, as quatro maiores empresas de tecnologia dos Estados Unidos – Apple, Amazon, Facebook e Google – conhecidas como Big Techs, divulgaram seus balanços e mostraram um desempenho extraordinário no 2º trimestre. Uma performance jamais imaginada pelos analistas financeiros de Wall Street nestes tempos de Covid-19.


A Apple teve elevação de 11% em sua receita, o equivalente a cerca de US$ 6 bilhões. A Amazon reportou lucro, depois dos impostos, de US$ 5,2 bilhões.


Se levarmos em conta a retração de mais de 20% no mercado de publicidade em países desenvolvidos, Facebook e Google se saíram melhor que as mais otimistas previsões. A receita do Facebook subiu 11%, para US$ 18,7 bilhões. A Alphabet, controladora do Google, divulgou sua primeira queda de vendas na história com diminuição de apenas 2%.


Impulsionado pelo anúncio dos excelentes resultados, o valor de mercado das 4 companhias somado aumentou em torno de US$ 230 bilhões, atingindo mais de US$ 5 trilhões pela primeira vez. Valor maior que toda a economia alemã.


Em 30/7, os executivos-chefes das quatro gigantes – Tim Cook, da AppleJeff Bezos, da AmazonMark Zuckerberg, do Facebook e Sundar Pichai, do Alphabet (Google) se defenderam numa comissão da Câmara dos Deputados, em Washington, de acusações de sufocamento de competidores impedindo a livre concorrência.


Durante seus depoimentos, os CEO tentaram mostrar como seus mercados são competitivos e como o valor de suas inovações e serviços foram essenciais aos consumidores.


Tiveram, no entanto, dificuldades para responder sobre suas práticas negociais além de outras questões sobre parcialidades políticas.

Os dados comprovam: o poder econômico-financeiro e político destas empresas tornou-se assustador e perigoso.

desenho de homem com lupa

O poder tecnológico, entretanto, é outra forma de dominação bem menos evidente e capaz de provocar males tão grandes quanto o do monopólio comercial – pelo menos na opinião deste articulista.


É o poder de construir e aplicar algoritmos nas mais diversas funções: na busca de uma receita gastronômica, no reconhecimento facial, na indicação de filmes e séries, na prevenção de fraudes, na recomendação de tratamentos médicos, na escolha do melhor trajeto, na seleção de candidatas ou candidatos para um posto de trabalho ou na concessão de crédito.


E, pela forma como é construída a tecnologia, reconhecimento facial, prevenção de fraudes bancárias e seleção de candidatos ou candidatas podem reforçar o racismo, a misoginia e a homofobia através da discriminação de grupos sub-representados (pessoas 50+, mulheres, negras e negros, pessoas com deficiência, LGBTQI+) e privilegiar grupos hegemônicos (jovens, homens, brancos, heterossexuais) promovendo a intolerância das mais variadas formas. Aí nos deparamos com uma espécie de algoritmo do preconceito.


Mas o que é mesmo um algoritmo?


É uma série de instruções simples para a solução de um problema. É um passo a passo, uma sequência de códigos expressa numa linguagem matemática e desenvolvida para determinar o que um computador deve fazer.


Todo algoritmo tem uma entrada e uma saída. O computador é alimentado por dados na entrada; as instruções contidas no algoritmo processam estes dados e daí surgem os resultados que são as informações de saída.


O assunto não é novo e vem sendo debatido publica e amplamente, pelo menos, desde 2009 quando um software da HP não conseguia identificar rostos negros.


Um dos casos de maior repercussão aconteceu em 2015. Um usuário do Google Photos percebeu que o programa etiquetava seus amigos negros como gorilas.


O algoritmo da inteligência artificial (IA) não era capaz de distinguir a pele de um ser humano da dos macacos, gorilas e chimpanzés.


Essa atitude racista da máquina fez com que a Alphabet pedisse desculpas. Os vários movimentos antirracistas espalhados pelo mundo se mobilizaram em críticas fazendo com que o algoritmo fosse reescrito mitigando a denominação racista.


Os exemplos são vários. Tarcízio Silva professor, pesquisador e especialista em monitoramento de mídias sociais e métodos de pesquisa digitais mantém a Linha do Tempo do Racismo Algorítmico/Tecnológico: casos, dados e reações onde se lê que “A timeline é um […] projeto (que) estuda as cadeias produtivas da plataformização digital (mídias sociais, aplicativos, inteligência artificial) e seus vieses e impactos raciais”. A visita à página é altamente recomendada.


Algoritmo do preconceito


É relevante termos a clareza que algoritmos são programados por humanos e utilizam base de dados selecionada por humanos. Portanto, estão sujeitos às influências destes indivíduos. 


Sabemos que pessoas deixam-se transparecer em suas escolhas ou na solução de problemas, e que, mesmo inconscientemente, conduzem seus vieses para o trabalho como é o caso da escrita de algoritmos.


A escolha de modelos matemáticos e de bases de dados deve ser cuidadosamente feita para minimizarmos a possibilidade destes preconceitos inconscientes.


Pense num algoritmo hipotético utilizado por uma empresa de recrutamento e seleção (R&S). Hoje, comemora-se a escolha de novos funcionários e funcionárias – dentre os vários candidatos e candidatas – feita por plataformas, baseadas em IA, onde não se considera gênero, raça ou cor, idade, orientação sexual ou condição física e sensorial.


Dito de outra forma, novas funcionárias e funcionários seriam escolhidos, exclusivamente, pelas suas competências e não mais pela aparência – gênero, raça ou cor – ou características como idade e orientação sexual ou, ainda, pela condição física e sensorial.


As pessoas 50+, que se considerassem aptas para o cargo, poderiam se tranquilizar, pois, a idade avançada – indesejável por algumas organizações – não seria levada em conta na decisão da contratação, já que este dado não estaria disponível para avaliação.


O algoritmo da IA, entretanto, poderia conter uma sutileza. Imagine que haveria um campo no formulário, a ser preenchido pelo candidato ou candidata, que solicitasse, inocentemente, o ano de formatura no curso universitário.


Desta forma, mesmo sem ter a data de nascimento – não pedida explicitamente -, seria possível aproximar a idade utilizando a data de formatura.


De tal modo que candidatas e candidatos que ultrapassassem a idade limite pretendida pela empresa seriam descartados. Até que se constatasse a falhas ou o viés, o estrago já teria sido feito e o processo divulgado como isento e inovador, seria, na verdade, preconceituoso e discriminatório.

mulher madura loira em frente ao computador com a pagina do wikipedia aberta

É neste imenso poder tecnológico que devemos estar atentos e nos mostrar contra o algoritmo do preconceito.


Hoje, os algoritmos são escritos sem quaisquer protocolos que garantam respeito aos grupos sub-representados.


É preciso responsabilizar as empresas pelas decisões tomadas pelos algoritmos e as consequências sociais de sua utilização. Como, também, criar processos de supervisão no funcionamento destes sistemas.


Equipes multidisciplinares, certamente, contribuiriam para maior facilidade na detecção e solução de erros. Não basta especialistas em educação, saúde, finanças, serviços públicos ou recrutamento; profissionais que entendem de direito, deficiência, envelhecimento, sociologia ou ética também deveriam estar presentes nas equipes de programação.


A diversidade de olhares e pontos de vista nunca foi tão importante como agora e nestes casos. Isto, somente, ocorrerá se movimentos contra o preconceito etário, antirracistas, feministas, em defesa das pessoas com deficiência e anti-transfóbicos se mobilizarem e exigirem participação na programação e supervisão dos algoritmos. Sem isso, as consequências serão imprevisíveis e inimagináveis.


Se gostou do conteúdo, deixe seu comentário. Gostaria muito de ouvir a sua opinião sobre algoritmo do preconceito!


Assista abaixo a Live MatureiTalks que fiz junto junto com o Morris Litvak dia 03/09 no Instagram da Maturi sobre o assunto deste artigo:

Compartilhe esse conteúdo

Artigos recentes

Por Contato Maturi 20 mar., 2024
Ser mulher, para mim, é ter muita curiosidade sobre o que é ser homem. Eu sei o que é ter privilégios em um país tão desigual, sei o que é ser branca, ser pessoa sem deficiência e ter intactas as faculdades mentais. O único fator social privilegiado que não conheço é o de ser homem. Só me cabe imaginar. Imaginar o que é ter segurança ao sair de casa sem camisa, de short apertado sem medo da sombra, sem ficar olhando 360 graus para antecipar algum perigo à distância, não ser atacada por olhares invasivos. Como é que deve ser passar por um grupo de homens desconhecidos, juntos numa esquina, e não ter certeza que vão olhar para sua bunda? Como deve ser se juntar com amigos numa esquina à tarde e olhar ostensivamente para bundas que passam? Eu não sei como é sair de casa de dia, em um lugar tranquilo, com a plena segurança de que consegue se defender? Como deve ser nem ter essa preocupação diária. Ir para o trabalho sabendo que pode alcançar cargos de diretor, presidente, gerente, sem se preocupar com barreiras invisíveis e, por isso, intransponíveis. Como deve ser passar a juventude sem medo de engravidar? Não ter qualquer outro plano submetido à maternidade. Não ter ansiedade sobre a dor do parto, algo equivalente à sensação de 20 ossos quebrados todos de uma só vez? Não correr o risco de ter a vida e o corpo implacavelmente alterados por, no mínimo, um ano, independentemente de sua vontade. Algo que pode acontecer apenas porque a natureza quer e deve-se estar alerta aos seus desígnios, sem arbítrio sobre o corpo, a não ser que cometa um crime. Eu não quero dar a entender que a maternidade é ruim, eu adoro ser mãe e há mulheres tristes por não poderem ser. É que eu fico curiosa para saber o que é nem ter esse tipo de preocupação na vida, mensalmente. E esperar feliz a menstruação, algumas vezes acompanhada de dores equivalentes a um infarto. No caso, a hemorragia é externa e junta-se a ela a aflição com calças brancas, estoque de absorventes, datas de viagens à praia e atenção redobrada para não matar algum ser vivo. Fora agir de maneira a ninguém notar que isso tudo está acontecendo. O desejo não acaba com a idade, assim como a curiosidade. Será que a um homem acontece de, em quase toda interação com uma mulher desconhecida, avaliar se está ou não propondo intimidade por atos, palavras ou sinais? Vou dar um exemplo: será que um homem vai fazer as unhas e fica preocupado se a calça está apertada e a podóloga vai se sentir convidada a apalpar seu pênis? Será que um grupo de homens em viagem de carro, que precisem parar à noite em um posto de gasolina suspeito, depois de segurar por quilômetros o xixi, ficam com medo do frentista agarrá-los à força? É esse tipo de coisa que eu queria muito saber. Você pode dizer que, a essa altura da minha vida, eu já sei boa parte do que pergunto. Sim, mulheres da minha idade são objetos de pouca atenção, e a mesma natureza esfrega na nossa cara a indiferença. E é por esse motivo que nem posso saborear o entendimento, já que lido com toda a transformação de uma segunda adolescência. Ao contrário. O turbilhão hormonal acontece de novo, com alterações involuntárias desgastantes, no sentido exato da palavra. Ossos, articulações, cabelos, pele desgastados. Como deve ser a andropausa? Será que ela obriga o homem a se equilibrar entre a tristeza no olhar que vê no espelho e a desonrosa saudade do olhar de desejo dos outros? Não quero diminuir a tensão que envolve o papel dos homens na dança do acasalamento humano; mas será que esse jogo acaba para o homem do mesmo jeito que para a mulher? Porque para nós, antes do fim, o capitão do time te coloca no banco do nada. E você passa de artilheira para gandula, depois de cansar de ficar esperando alguém lhe dar bola. É muito melhor quando são eles que não dão mais conta de jogar e param, não antes de realizar uma última partida festiva com amigos convidados e mulheres na arquibancada, que ainda vão dizer que estão todos bem de cabelo branco. Toda esta minha curiosidade sem fim (diferente deste texto) fica, obviamente, dentro de uma limitação cisgênero e geracional. Pode ser que as jovens de agora não tenham nenhuma dessas perguntas, mas duvido que não tenham outras. E imagino que a mulher atual, com todas as suas manifestações e bandeiras, tenha ainda assim aguçada uma característica que, independentemente de ser um substantivo feminino, une os gêneros. Se existe algo realmente igualitário é a curiosidade.
Por Contato Maturi 15 mar., 2024
No mês em que celebramos a força, a resiliência e as conquistas das mulheres em todo o mundo, é crucial lembrarmos que a jornada da mulher não tem um ponto final aos 40, 50, 60 anos ou mais. Pelo contrário, é uma jornada contínua de crescimento, aprendizado e contribuição, independentemente da idade. Na Maturi, reconhecemos a importância de valorizar e empoderar as mulheres maduras, que trazem consigo uma riqueza de experiência, sabedoria e habilidades únicas. Neste mês da mulher, queremos destacar o papel vital que as mulheres maduras desempenham no mercado de trabalho e a sua potência ainda pouco explorada nos diferentes ecossistemas profissionais. No entanto, quando se fala em Dia Internacional da Mulher, além dos eventos comemorativos ao longo do mês (#8M) pouco se discute sobre a intergeracionalidade das mulheres como um diferencial. Sabe por que? Um dos grandes motivos é a falta de repertório. A Maturi vem tropicalizando nos últimos anos ( saiba mais ) uma data relevante do mês de abril: o Dia Europeu de Solidariedade entre Gerações. É um mês pouco explorado no Calendário da Diversidade de forma geral e que tem total conexão com as estratégias de educar e letrar as pessoas sobre o tema. Qual é a contribuição dos diferentes grupos identitários e de diferentes faixas etárias no ambiente profissional? A diversidade geracional traz uma variedade de perspectivas, ideias e abordagens que enriquecem qualquer equipe ou empresa. Em um mundo em constante mudança, onde a tecnologia e as práticas de trabalho evoluem rapidamente, a colaboração entre as gerações é fator crítico de sucesso. As mulheres maduras têm um papel fundamental a desempenhar nesse processo de colaboração, oferecendo não apenas sua experiência profissional, mas também sua capacidade de adaptação e resiliência. No entanto, ainda há desafios a serem superados. Muitas vezes, as mulheres maduras enfrentam maior discriminação no mercado de trabalho do que homens 50+. Um exemplo disso é que, segundo o estudo sobre Etarismo que a Maturi e EY lançaram em 2023, 32% das mulheres que responderam ao levantamento estavam desempregadas há mais de 1 ano enquanto os homens representavam 20%. Já parou para pensar que a interseccionalidade se torna mais cruel para os grupos subrepresentados? Ao comemorar o mês da mulher, te convidamos a refletir sobre o papel crucial das mulheres maduras em suas equipes e a considerarem como podem promover uma cultura de inclusão e colaboração intergeracional. Não se esqueça que essa celebração não pode ocorrer 1x por ano, ou seja, somente no calendário que o mercado reconheça. Recomendamos, fortemente, que inclua o mês de Abril em seu planejamento como um possível mês que represente o pilar de gerações. #valorizeaidade #mulheresmaduras #mulheres50+ #8M #longevidade #maturidade #mesdasmulheres #diversidadeetaria #intergeracionalidade #combateaoetarismo
27 fev., 2024
Entre escolhas e redescobertas, a jornada de transformação da vida pela escrita aos 55
Share by: