Etarismo na Inteligência Artificial

Silvia Triboni • abr. 13, 2022

 Você sabia que a Inteligência Artificial cada vez mais usada na área da saúde corre o risco de aprofundar a discriminação contra os idosos? A própria Organização Mundial da Saúde (OMS) divulgou um alerta quanto à isso e fui entender melhor para explicar nesse artigo. Acompanhe! 


Em fevereiro de 2022 a OMS apresentou o relatório “Ageísmo em inteligência artificial para a saúde que decorreu do exame sobre o uso de inteligência artificial na medicina e na saúde pública para as pessoas idosas.



Nesta análise foram apresentadas as condições em que a Inteligência Artificial pode exacerbar ou introduzir novas formas de etarismo. Apresenta também medidas legais, não legais e técnicas que podem ser usadas para minimizar o risco do idadismo, e ainda, maximizar os benefícios dessas tecnologias aos sêniores.

 

imagem ilustrando a inteligência artificial

O que é Inteligência Artificial


Também conhecida como (IA ou AI em inglês) é a capacidade que uma máquina tem para reproduzir competências semelhantes às humanas como é o caso do raciocínio, a aprendizagem, o planejamento e a criatividade.


A IA permite que os sistemas informatizados percebam o ambiente que os rodeia, lidem com o que percebem e resolvam problemas, agindo no sentido de alcançar um objetivo específico.”


Riscos do Etarismo no Design e uso das tecnologias para a saúde


Embora as tecnologias de IA existam para melhorar os cuidados de saúde para as pessoas 50+, para que isso verdadeiramente aconteça é preciso assegurar que as tecnologias não extrapolem os seus objetivos.

O preconceito etário na codificação, a discriminação na elaboração e uso da tecnologia de IA pode, por exemplo:


  •     prejudicar a qualidade dos cuidados de saúde aos idosos;
  •     reduzir o engajamento intergeracional;
  •     limitar o uso benéfico de tecnologias de IA;
  •     assumir suposições muitas vezes equivocada sobre como os idosos desejam viver ou interagir com a tecnologia no seu dia a dia.


A codificação de estereótipos, preconceitos, discriminação e idadismo na tecnologia de IA, ou sua manifestação em seu uso, podem minar a qualidade dos cuidados de saúde para idosos”.


Para exemplificar ainda mais este uso nocivo, importante lembrar que a Inteligência Artificial nos programas informatizados pode influenciar as decisões sobre a priorização ou alocação de recursos para os cuidados clínicos das pessoas.


A OMS enfatizou em seu relatório os benefícios dos sistemas de IA no atendimento de idosos, no entanto, alertou a importância da constante atenção aos desafios éticos que decorrem do uso desses sistemas.


Etarismo pode ser codificado em dados


Big Datas biomédicos são eticamente, e cientificamente, importantes para as tecnologias com Inteligência Artificial, no entanto, esses conjuntos de dados usados para “treinar” os modelos de IA (big data) geralmente excluem as pessoas idosas, que acabam fazendo parte de um conjunto de dados “minoritário”. São excluídas apesar de representarem o maior grupo de pessoas usuárias dos serviços de saúde.


Esta exclusão pode introduzir vieses, especialmente nas tecnologias de IA para a saúde das pessoas acima dos 50 anos.


Os dados de saúde gerados a partir de outras fontes, incluindo ensaios clínicos, também tendem a excluir ou sub-representar os mais velhos no conjunto de dados.


Portanto, se o algoritmo de uma tecnologia de IA predominantemente considerar dados de populações mais jovens, esta levará a diagnósticos ou previsões incorretas quando usados para uma população de idosos.


Design Exclusivo


O design de uma tecnologia de IA, incluindo como e quem o projeta, pode também determinar se ele estará contaminado pelo etarismo.


Equipes de projeto não podem considerar raciocínios preconceituosos quanto à idade em suas práticas.

Os preconceitos existentes refletem quem financia e projeta uma tecnologia de IA.


A exclusão unilateral dos idosos, desempodera-os como um grupo, e perpetua a sua exclusão nas tecnologias de IA, minando gradualmente os esforços para mudar as atitudes sociais em relação aos mais velhos.


A tendência é projetar “em nome de pessoas mais velhas” em vez de “com pessoas mais velhas”.

maturis representados em arte

8 considerações para maximizar os benefícios das tecnologias e IA e evitar o etarismo


Para garantir que as tecnologias de IA desempenhem um papel benéfico, o preconceito de idade deve ser identificado e eliminado de seu projeto, desenvolvimento e uso.


Por isso, a Organização Mundial de Saúde elaborou oito considerações que podem garantir que as tecnologias de IA para a saúde não sejam etaristas, e que os sêniores sejam totalmente envolvidos nos processos, sistemas, tecnologias e serviços que lhes digam respeito. São elas:


1 – Design participativo nas tecnologias de Inteligência Artifical feito por e com pessoas mais velhas:


Embora os idosos possam não estar envolvidos na concepção de tecnologias de IA a sua participação no design é necessária.


Fornecimento de oportunidades de treinamento e educação para os idosos participar no design de tecnologias de IA, e garantir que as forças de trabalho mantenham programadores e designers de várias gerações concederiam um equilíbrio no grupo de criadores.


Esta inclusão também deve ser interseccional, focando não apenas na idade, mas também nas diferenças entre as pessoas mais velhas, como gênero, etnia, raça e habilidade (2).


2 – Equipes intergeracionais em Data Science:


Como os dados são críticos tanto no treinamento quanto na validação das tecnologias com IA, equipes de Data Science responsáveis por selecionar, validar e aplicar dados também devem ser inclusivas e bem equilibradas.


A inclusão de pessoas maduras nessas equipes e o treinamento dos cientistas de dados para que reconheçam e superem as formas de preconceito de idade podem garantir que as tecnologias de IA sejam apropriadas e positivas.


3 – Coleta de dados com inclusão de idade:


Os desenvolvedores de IA devem garantir que os dados sejam precisos, completos e diversificados, inclusive quanto às faixas etárias. Se um determinado grupo, como o das pessoas mais velhas, está sub-representado em um conjunto de dados.


Em alguns países, foram tomadas medidas para que essas comunidades supervisionem seus dados por meio de cooperativas de dados, onde os membros estabelecem padrões éticos, desenvolvam ferramentas e aplicativos que garantam que os dados os incluem corretamente.


4 – Investimentos em infraestrutura digital e alfabetização para idosos e seus prestadores de cuidados de saúde e cuidadores:


Mesmo que as tecnologias de IA para a saúde sejam desenvolvidas adequadamente para idosos, seu uso pode ser limitado na ausência de infraestrutura digital adequada.


Falta de infra-estrutura digital também poderia contribuir para o a predominante crença de que os idosos não usam tecnologias (ou IA) e, portanto, não precisam ser contabilizados.


As tecnologias de IA devem ser mantidas como meio de auxiliar de tomada de decisão pelo homem e assegurar que os humanos, em última análise, sejam, de fato, quem tomam as decisões críticas.


5 – Direitos dos idosos de consentir e contestar:


As pessoas mais velhas devem poder exercer a escolha e fornecer consentimento para:


  • o uso das tecnologias com Inteligência Artificial;
  • como as tecnologias devem ser usadas (além ou em vez de cuidados e tratamentos fornecidos por profissionais médicos e cuidadores);
  • retirar os seus consentimentos do uso de tecnologias de IA no fornecimento de cuidados, apoio e suporte.


6 – Estruturas de governança e regulamentos para capacitar e trabalhar com idosos:


À medida que novos regulamentos são introduzidos para fornecer uma estrutura para avaliar, financiar, aprovar e usar tecnologias de IA para a saúde, a governança e o aparato regulatório não devem repetir práticas excludentes e anti-idade que possam afetar o design de tecnologias de IA para a saúde.


Regras devem estar em vigor para garantir que os governos, agências, organizações não governamentais, setor privado e as parcerias público-privadas possam trabalhar com idosos, desencorajar ou identificar o preconceito de idade e garantir procedimentos para lidar com o envelhecimento e as suas consequências.


As pessoas mais velhas devem estar envolvidas em comitês de ética, agências e outros organismos intergovernamentais que definam regras e padrões para o uso da Inteligência Artificial.


7 – Pesquisa aprofundada:


A cada nova aplicação ou uso de IA surgem desafios éticos que devem ser estudados e avaliados antes de sua adoção generalizada.


8 – Processos éticos robustos:


É preciso que haja um robusto processo de análise ética, especialmente nas universidades, organizações sem fins lucrativos e empresas que projetam tecnologias de IA, a fim de que orientem o desenvolvimento e a aplicação de sistemas de interesse das pessoas idosas.


Outro artigo relacionado, que você também poderá gostar de ler: Algoritmo do Preconceito

Compartilhe esse conteúdo

Artigos recentes

Por Contato Maturi 20 mar., 2024
Ser mulher, para mim, é ter muita curiosidade sobre o que é ser homem. Eu sei o que é ter privilégios em um país tão desigual, sei o que é ser branca, ser pessoa sem deficiência e ter intactas as faculdades mentais. O único fator social privilegiado que não conheço é o de ser homem. Só me cabe imaginar. Imaginar o que é ter segurança ao sair de casa sem camisa, de short apertado sem medo da sombra, sem ficar olhando 360 graus para antecipar algum perigo à distância, não ser atacada por olhares invasivos. Como é que deve ser passar por um grupo de homens desconhecidos, juntos numa esquina, e não ter certeza que vão olhar para sua bunda? Como deve ser se juntar com amigos numa esquina à tarde e olhar ostensivamente para bundas que passam? Eu não sei como é sair de casa de dia, em um lugar tranquilo, com a plena segurança de que consegue se defender? Como deve ser nem ter essa preocupação diária. Ir para o trabalho sabendo que pode alcançar cargos de diretor, presidente, gerente, sem se preocupar com barreiras invisíveis e, por isso, intransponíveis. Como deve ser passar a juventude sem medo de engravidar? Não ter qualquer outro plano submetido à maternidade. Não ter ansiedade sobre a dor do parto, algo equivalente à sensação de 20 ossos quebrados todos de uma só vez? Não correr o risco de ter a vida e o corpo implacavelmente alterados por, no mínimo, um ano, independentemente de sua vontade. Algo que pode acontecer apenas porque a natureza quer e deve-se estar alerta aos seus desígnios, sem arbítrio sobre o corpo, a não ser que cometa um crime. Eu não quero dar a entender que a maternidade é ruim, eu adoro ser mãe e há mulheres tristes por não poderem ser. É que eu fico curiosa para saber o que é nem ter esse tipo de preocupação na vida, mensalmente. E esperar feliz a menstruação, algumas vezes acompanhada de dores equivalentes a um infarto. No caso, a hemorragia é externa e junta-se a ela a aflição com calças brancas, estoque de absorventes, datas de viagens à praia e atenção redobrada para não matar algum ser vivo. Fora agir de maneira a ninguém notar que isso tudo está acontecendo. O desejo não acaba com a idade, assim como a curiosidade. Será que a um homem acontece de, em quase toda interação com uma mulher desconhecida, avaliar se está ou não propondo intimidade por atos, palavras ou sinais? Vou dar um exemplo: será que um homem vai fazer as unhas e fica preocupado se a calça está apertada e a podóloga vai se sentir convidada a apalpar seu pênis? Será que um grupo de homens em viagem de carro, que precisem parar à noite em um posto de gasolina suspeito, depois de segurar por quilômetros o xixi, ficam com medo do frentista agarrá-los à força? É esse tipo de coisa que eu queria muito saber. Você pode dizer que, a essa altura da minha vida, eu já sei boa parte do que pergunto. Sim, mulheres da minha idade são objetos de pouca atenção, e a mesma natureza esfrega na nossa cara a indiferença. E é por esse motivo que nem posso saborear o entendimento, já que lido com toda a transformação de uma segunda adolescência. Ao contrário. O turbilhão hormonal acontece de novo, com alterações involuntárias desgastantes, no sentido exato da palavra. Ossos, articulações, cabelos, pele desgastados. Como deve ser a andropausa? Será que ela obriga o homem a se equilibrar entre a tristeza no olhar que vê no espelho e a desonrosa saudade do olhar de desejo dos outros? Não quero diminuir a tensão que envolve o papel dos homens na dança do acasalamento humano; mas será que esse jogo acaba para o homem do mesmo jeito que para a mulher? Porque para nós, antes do fim, o capitão do time te coloca no banco do nada. E você passa de artilheira para gandula, depois de cansar de ficar esperando alguém lhe dar bola. É muito melhor quando são eles que não dão mais conta de jogar e param, não antes de realizar uma última partida festiva com amigos convidados e mulheres na arquibancada, que ainda vão dizer que estão todos bem de cabelo branco. Toda esta minha curiosidade sem fim (diferente deste texto) fica, obviamente, dentro de uma limitação cisgênero e geracional. Pode ser que as jovens de agora não tenham nenhuma dessas perguntas, mas duvido que não tenham outras. E imagino que a mulher atual, com todas as suas manifestações e bandeiras, tenha ainda assim aguçada uma característica que, independentemente de ser um substantivo feminino, une os gêneros. Se existe algo realmente igualitário é a curiosidade.
Por Contato Maturi 15 mar., 2024
No mês em que celebramos a força, a resiliência e as conquistas das mulheres em todo o mundo, é crucial lembrarmos que a jornada da mulher não tem um ponto final aos 40, 50, 60 anos ou mais. Pelo contrário, é uma jornada contínua de crescimento, aprendizado e contribuição, independentemente da idade. Na Maturi, reconhecemos a importância de valorizar e empoderar as mulheres maduras, que trazem consigo uma riqueza de experiência, sabedoria e habilidades únicas. Neste mês da mulher, queremos destacar o papel vital que as mulheres maduras desempenham no mercado de trabalho e a sua potência ainda pouco explorada nos diferentes ecossistemas profissionais. No entanto, quando se fala em Dia Internacional da Mulher, além dos eventos comemorativos ao longo do mês (#8M) pouco se discute sobre a intergeracionalidade das mulheres como um diferencial. Sabe por que? Um dos grandes motivos é a falta de repertório. A Maturi vem tropicalizando nos últimos anos ( saiba mais ) uma data relevante do mês de abril: o Dia Europeu de Solidariedade entre Gerações. É um mês pouco explorado no Calendário da Diversidade de forma geral e que tem total conexão com as estratégias de educar e letrar as pessoas sobre o tema. Qual é a contribuição dos diferentes grupos identitários e de diferentes faixas etárias no ambiente profissional? A diversidade geracional traz uma variedade de perspectivas, ideias e abordagens que enriquecem qualquer equipe ou empresa. Em um mundo em constante mudança, onde a tecnologia e as práticas de trabalho evoluem rapidamente, a colaboração entre as gerações é fator crítico de sucesso. As mulheres maduras têm um papel fundamental a desempenhar nesse processo de colaboração, oferecendo não apenas sua experiência profissional, mas também sua capacidade de adaptação e resiliência. No entanto, ainda há desafios a serem superados. Muitas vezes, as mulheres maduras enfrentam maior discriminação no mercado de trabalho do que homens 50+. Um exemplo disso é que, segundo o estudo sobre Etarismo que a Maturi e EY lançaram em 2023, 32% das mulheres que responderam ao levantamento estavam desempregadas há mais de 1 ano enquanto os homens representavam 20%. Já parou para pensar que a interseccionalidade se torna mais cruel para os grupos subrepresentados? Ao comemorar o mês da mulher, te convidamos a refletir sobre o papel crucial das mulheres maduras em suas equipes e a considerarem como podem promover uma cultura de inclusão e colaboração intergeracional. Não se esqueça que essa celebração não pode ocorrer 1x por ano, ou seja, somente no calendário que o mercado reconheça. Recomendamos, fortemente, que inclua o mês de Abril em seu planejamento como um possível mês que represente o pilar de gerações. #valorizeaidade #mulheresmaduras #mulheres50+ #8M #longevidade #maturidade #mesdasmulheres #diversidadeetaria #intergeracionalidade #combateaoetarismo
27 fev., 2024
Entre escolhas e redescobertas, a jornada de transformação da vida pela escrita aos 55
Share by: