O avanço da Inteligência Artificial (IA) no Brasil trouxe consigo um novo e invisível perigo: o capacismo digital. O alerta é do defensor público federal André Naves, que adverte sobre como algoritmos de seleção estão programados para excluir, automaticamente, as mais de 18 milhões de pessoas com deficiência (PCDs) do mercado de trabalho e de serviços básicos.

Segundo o especialista, sistemas usados em contratações e bancos possuem "vieses" - preconceitos ocultos no código - que descartam candidatos apenas por não se encaixarem em um padrão de comportamento ou fala definido pela máquina.

"A tecnologia não é neutra. Se o programa é treinado com dados de uma sociedade que ainda discrimina, a máquina vai repetir e aumentar esse preconceito em alta velocidade", explica André Naves. "O que vemos hoje é a substituição das barreiras físicas, como a falta de rampas, por barreiras de código. É um 'muro digital' que impede o acesso ao emprego e à renda."

O perigo da "seleção automática"

O Defensor aponta que softwares de recrutamento que analisam vídeo e voz podem penalizar candidatos com tiques, fala pausada ou mobilidade reduzida, simplesmente por não "reconhecerem" esses perfis como produtivos. Para Naves, isso fere frontalmente a Lei Brasileira de Inclusão (LBI).

Além da questão de direitos, há um prejuízo econômico: "Ao excluir 10% da população através de filtros falhos, as empresas perdem talentos e diversidade, que são os motores da inovação. Uma economia que automatiza a exclusão é uma economia burra", afirma.

Para enfrentar o problema, André Naves defende três pilares urgentes:

• Auditoria nos sistemas: empresas precisam testar se seus softwares não estão barrando PCDs.
• Transparência: o cidadão tem o direito de saber por que foi rejeitado por uma máquina.
• Inclusão no desenvolvimento: PCDs devem participar da criação das tecnologias para evitar esses erros.

"A verdadeira inovação não está na complexidade do algoritmo, mas na sua capacidade de servir à humanidade em toda a sua diversidade. Precisamos decidir agora se a tecnologia será uma ponte para a autonomia das pessoas com deficiência ou uma nova ferramenta de segregação. A inclusão real exige coragem para questionar a máquina e priorizar a dignidade humana", conclui o defensor público.

André Naves é Defensor Público Federal. Especialista em Direitos Humanos e Sociais, Inclusão Social e em Economia Política. (Instagram: @andrenaves.def).

Fonte: Ex-Libris Comunicação Integrada