Etarismo na Inteligência Artificial

Você sabia que a Inteligência Artificial cada vez mais usada na área da saúde corre o risco de aprofundar a discriminação contra os idosos? A própria Organização Mundial da Saúde (OMS) divulgou um alerta quanto à isso e fui entender melhor para explicar nesse artigo. Acompanhe! 

Em fevereiro de 2022 a OMS apresentou o relatório “Ageísmo em inteligência artificial para a saúde que decorreu do exame sobre o uso de inteligência artificial na medicina e na saúde pública para as pessoas idosas.

Nesta análise foram apresentadas as condições em que a Inteligência Artificial pode exacerbar ou introduzir novas formas de etarismo. Apresenta também medidas legais, não legais e técnicas que podem ser usadas para minimizar o risco do idadismo, e ainda, maximizar os benefícios dessas tecnologias aos sêniores.

inteligência artificial

O que é Inteligência Artificial

Também conhecida como (IA ou AI em inglês) é a capacidade que uma máquina tem para reproduzir competências semelhantes às humanas como é o caso do raciocínio, a aprendizagem, o planejamento e a criatividade.

A IA permite que os sistemas informatizados percebam o ambiente que os rodeia, lidem com o que percebem e resolvam problemas, agindo no sentido de alcançar um objetivo específico.”

Riscos do Etarismo no Design e uso das tecnologias para a saúde

Embora as tecnologias de IA existam para melhorar os cuidados de saúde para as pessoas 50+, para que isso verdadeiramente aconteça é preciso assegurar que as tecnologias não extrapolem os seus objetivos.

O preconceito etário na codificação, a discriminação na elaboração e uso da tecnologia de IA pode, por exemplo:

✔     Prejudicar a qualidade dos cuidados de saúde aos idosos;

✔     reduzir o engajamento intergeracional;

✔     Limitar o uso benéfico de tecnologias de IA;

✔     Assumir suposições muitas vezes equivocada sobre como os idosos desejam viver ou interagir com a tecnologia no seu dia a dia.

A codificação de estereótipos, preconceitos, discriminação e idadismo na tecnologia de IA, ou sua manifestação em seu uso, podem minar a qualidade dos cuidados de saúde para idosos”.

Para exemplificar ainda mais este uso nocivo, importante lembrar que a Inteligência Artificial nos programas informatizados pode influenciar as decisões sobre a priorização ou alocação de recursos para os cuidados clínicos das pessoas.

A OMS enfatizou em seu relatório os benefícios dos sistemas de IA no atendimento de idosos, no entanto, alertou a importância da constante atenção aos desafios éticos que decorrem do uso desses sistemas.

Etarismo pode ser codificado em dados

Big Datas biomédicos são eticamente, e cientificamente, importantes para as tecnologias com Inteligência Artificial, no entanto, esses conjuntos de dados usados para “treinar” os modelos de IA (big data) geralmente excluem as pessoas idosas, que acabam fazendo parte de um conjunto de dados “minoritário”. São excluídas apesar de representarem o maior grupo de pessoas usuárias dos serviços de saúde.

Esta exclusão pode introduzir vieses, especialmente nas tecnologias de IA para a saúde das pessoas acima dos 50 anos.

Os dados de saúde gerados a partir de outras fontes, incluindo ensaios clínicos, também tendem a excluir ou sub-representar os mais velhos no conjunto de dados. Portanto, se o algoritmo de uma tecnologia de IA predominantemente considerar dados de populações mais jovens, esta levará a diagnósticos ou previsões incorretas quando usados para uma população de idosos.

Design Exclusivo

O design de uma tecnologia de IA, incluindo como e quem o projeta, pode também determinar se ele estará contaminado pelo etarismo.

Equipes de projeto não podem considerar raciocínios preconceituosos quanto à idade em suas práticas.

Os preconceitos existentes refletem quem financia e projeta uma tecnologia de IA.

A exclusão unilateral dos idosos, desempodera-os como um grupo, e perpetua a sua exclusão nas tecnologias de IA, minando gradualmente os esforços para mudar as atitudes sociais em relação aos mais velhos.

A tendência é projetar “em nome de pessoas mais velhas” em vez de “com pessoas mais velhas”.

inteligência artificial

 

8 considerações para maximizar os benefícios das tecnologias e IA e evitar o etarismo

Para garantir que as tecnologias de IA desempenhem um papel benéfico, o preconceito de idade deve ser identificado e eliminado de seu projeto, desenvolvimento e uso.

Por isso, a Organização Mundial de Saúde elaborou oito considerações que podem garantir que as tecnologias de IA para a saúde não sejam etaristas, e que os sêniores sejam totalmente envolvidos nos processos, sistemas, tecnologias e serviços que lhes digam respeito. São elas:

1 – Design participativo nas tecnologias de Inteligência Artifical feito por e com pessoas mais velhas:

Embora os idosos possam não estar envolvidos na concepção de tecnologias de IA a sua participação no design é necessária.

Fornecimento de oportunidades de treinamento e educação para os idosos participar no design de tecnologias de IA, e garantir que as forças de trabalho mantenham programadores e designers de várias gerações concederiam um equilíbrio no grupo de criadores.

Esta inclusão também deve ser interseccional, focando não apenas na idade, mas também nas diferenças entre as pessoas mais velhas, como gênero, etnia, raça e habilidade (2).

2 – Equipes intergeracionais em Data Science:

Como os dados são críticos tanto no treinamento quanto na validação das tecnologias com IA, equipes de Data Science responsáveis por selecionar, validar e aplicar dados também devem ser inclusivas e bem equilibradas. A inclusão de pessoas maduras nessas equipes e o treinamento dos cientistas de dados para que reconheçam e superem as formas de preconceito de idade podem garantir que as tecnologias de IA sejam apropriadas e positivas.

3 – Coleta de dados com inclusão de idade:

Os desenvolvedores de IA devem garantir que os dados sejam precisos, completos e diversificados, inclusive quanto às faixas etárias. Se um determinado grupo, como o das pessoas mais velhas, está sub-representado em um conjunto de dados.

Em alguns países, foram tomadas medidas para que essas comunidades supervisionem seus dados por meio de cooperativas de dados, onde os membros estabelecem padrões éticos, desenvolvam ferramentas e aplicativos que garantam que os dados os incluem corretamente.

4 – Investimentos em infraestrutura digital e alfabetização para idosos e seus prestadores de cuidados de saúde e cuidadores:

Mesmo que as tecnologias de IA para a saúde sejam desenvolvidas adequadamente para idosos, seu uso pode ser limitado na ausência de infraestrutura digital adequada. Falta de infra-estrutura digital também poderia contribuir para o a predominante crença de que os idosos não usam tecnologias (ou IA) e, portanto, não precisam ser contabilizados.

As tecnologias de IA devem ser mantidas como meio de auxiliar de tomada de decisão pelo homem e assegurar que os humanos, em última análise, sejam, de fato, quem tomam as decisões críticas.

5 – Direitos dos idosos de consentir e contestar:

As pessoas mais velhas devem poder exercer a escolha e fornecer consentimento para:

  • o uso das tecnologias com Inteligência Artificial;
  • como as tecnologias devem ser usadas (além ou em vez de cuidados e tratamentos fornecidos por profissionais médicos e cuidadores);
  • retirar os seus consentimentos do uso de tecnologias de IA no fornecimento de cuidados, apoio e suporte.

6 – Estruturas de governança e regulamentos para capacitar e trabalhar com idosos:

À medida que novos regulamentos são introduzidos para fornecer uma estrutura para avaliar, financiar, aprovar e usar tecnologias de IA para a saúde, a governança e o aparato regulatório não devem repetir práticas excludentes e anti-idade que possam afetar o design de tecnologias de IA para a saúde.

Regras devem estar em vigor para garantir que os governos, agências, organizações não governamentais, setor privado e as parcerias público-privadas possam trabalhar com idosos, desencorajar ou identificar o preconceito de idade e garantir procedimentos para lidar com o envelhecimento e as suas consequências.

As pessoas mais velhas devem estar envolvidas em comitês de ética, agências e outros organismos intergovernamentais que definam regras e padrões para o uso da Inteligência Artificial.

7 – Pesquisa aprofundada:

A cada nova aplicação ou uso de IA surgem desafios éticos que devem ser estudados e avaliados antes de sua adoção generalizada.

8 – Processos éticos robustos:

É preciso que haja um robusto processo de análise ética, especialmente nas universidades, organizações sem fins lucrativos e empresas que projetam tecnologias de IA, a fim de que orientem o desenvolvimento e a aplicação de sistemas de interesse das pessoas idosas.

Outro artigo relacionado, que você também poderá gostar de ler: Algoritmo do Preconceito

Silvia Triboni

Editora e Produtora de conteúdo em Longevidade e Turismo. Fundadora do projeto Across Seven Seas, que divulga ao público 50+ informações e experiências para envelhecimento com relevância. Deputy Ambassador na Aging2.0 Lisboa, comunidade destinada à acelerar a inovação para enfrentar os desafios e oportunidades do envelhecimento.
Silvia Triboni

Últimos posts por Silvia Triboni (exibir todos)