Pesquisador da UENF analisa desafios relacionados à equidade, transparência e proteção de direitos
A incorporação da Inteligência Artificial aos serviços de saúde, à pesquisa científica e às tecnologias biomédicas tem ampliado debates sobre segurança, transparência, equidade e proteção de direitos. Estudos desenvolvidos pelo professor João Carlos de Aquino Almeida, do Laboratório de Fisiologia e Bioquímica de Microrganismos (LFBM), vinculado ao Centro de Biociências e Biotecnologia (CBB/UENF), analisam como a Bioética pode contribuir para que essas tecnologias sejam utilizadas sem ampliar desigualdades ou comprometer a autonomia humana. As pesquisas abordam desde o uso de algoritmos em diagnósticos e decisões clínicas até os desafios éticos da Inteligência Artificial associada à engenharia genética e à circulação de informações em saúde.
Entre os temas estudados pelo LFBM, relacionados aos avanços da Inteligência Artificial, está a necessidade de estabelecer mecanismos de controle social sobre sistemas cada vez mais presentes no cotidiano da população. Para João Almeida, o principal desafio contemporâneo não está em máquinas que desenvolvam consciência própria, mas na reprodução automatizada de problemas já existentes na sociedade.
— O perigo mais concreto e imediato não é o de uma máquina que subitamente se torne consciente, mas o de sistemas extremamente poderosos, controlados por seres humanos e instituições, que reproduzam e ampliem injustiças já presentes em nossa sociedade — afirmou o pesquisador.
Segundo Almeida, algoritmos são treinados a partir de bases de dados produzidas em contextos sociais específicos. Quando esses dados refletem desigualdades históricas, preconceitos ou exclusões, a Inteligência Artificial pode transformar essas distorções em decisões automatizadas aparentemente neutras. O pesquisador cita estudos internacionais que identificaram vieses raciais em sistemas utilizados para definir prioridades de atendimento médico. Nesses casos, pacientes negros acabavam recebendo menos atenção do que pacientes brancos em situações clínicas semelhantes, não por uma decisão explícita de discriminação, mas porque os algoritmos reproduziam padrões existentes nos dados utilizados para seu treinamento.
— A Inteligência Artificial não precisa querer discriminar para produzir discriminação. Basta que transforme em regra matemática desigualdades que já existem nos dados e nas instituições humanas — frisou.
Diante desse cenário, as pesquisas desenvolvidas no LFBM defendem a construção de mecanismos permanentes de avaliação ética antes e depois da implementação de sistemas automatizados. O objetivo é verificar quem pode ser beneficiado, quem pode ser prejudicado e quais grupos estão representados ou ausentes nas bases de dados utilizadas.
— Precisamos estabelecer uma governança ética, democrática e participativa da Inteligência Artificial, com avaliações obrigatórias de seus impactos sobre os direitos humanos, a saúde e a equidade — declarou Almeida.
Bioética da Proteção
Outro eixo das pesquisas envolve a chamada Bioética da Proteção, corrente desenvolvida especialmente na América Latina para analisar situações marcadas por desigualdades sociais. A perspectiva parte do entendimento de que determinadas populações enfrentam vulnerabilidades adicionais e, por isso, exigem cuidados específicos na formulação de políticas públicas e tecnologias.
De acordo com o pesquisador, serviços essenciais não podem depender exclusivamente de decisões automatizadas. Benefícios sociais, tratamentos de saúde e outros direitos fundamentais precisam contar com supervisão humana efetiva e mecanismos acessíveis de contestação.
— Nenhum algoritmo deveria ser utilizado para negar automaticamente um tratamento de saúde ou outro direito essencial sem que exista uma avaliação humana efetiva, uma explicação compreensível e uma forma acessível de contestação — pontuou.
As pesquisas também acompanham os avanços da integração entre Inteligência Artificial e reprodução assistida. Um dos temas analisados envolve sistemas capazes de classificar embriões a partir de imagens, auxiliando especialistas na seleção de material para procedimentos clínicos. Embora essas tecnologias não realizem modificações genéticas, Almeida avalia que seu desenvolvimento exige atenção ética permanente, sobretudo diante da possibilidade de associação futura entre algoritmos, grandes bases de dados genéticos e técnicas de engenharia genética.
— Estamos começando a delegar a algoritmos a tarefa de classificar e hierarquizar embriões humanos segundo sua suposta probabilidade de sucesso. O sistema foi desenvolvido para auxiliar profissionais, mas o ranqueamento produzido por uma máquina pode adquirir uma autoridade quase incontestável na prática clínica — observou.
Nesse contexto, o pesquisador considera que o maior risco não está na tecnologia isoladamente, mas na forma como ela pode ser utilizada por governos, instituições ou grupos econômicos interessados em ampliar mecanismos de vigilância, classificação social e controle populacional.
Outro ponto analisado por João Almeida, sob a luz da Bioética, diz respeito à circulação de informações falsas produzidas por sistemas generativos deInteligência Artificial. A facilidade para criar textos, imagens, áudios e vídeos com aparência de credibilidade tem ampliado preocupações sobre os efeitos da desinformação em temas relacionados à saúde pública. Para enfrentar esse problema, os estudos defendem medidas como identificação clara de conteúdos produzidos com apoio de Inteligência Artificial, transparência sobre as fontes utilizadas, validação por especialistas e fortalecimento da educação científica da população.
— O maior risco talvez não seja apenas o de as pessoas acreditarem em uma mentira produzida pela IA, mas o de deixarem de acreditar em qualquer coisa. Quando a dúvida passa a atingir a própria ideia de verdade, a confiança na ciência e nas instituições também fica ameaçada — acrescentou.
Sobre o Laboratório de Fisiologia e Bioquímica de Microrganismos
Fundado em 1995, o LFBM está entre os laboratórios pioneiros da UENF. Tradicionalmente voltado a pesquisas em microbiologia, fisiologia celular, bioquímica e biotecnologia, o laboratório passou a incorporar, nos últimos anos, investigações sobre os impactos sociais, culturais e éticos das tecnologias emergentes, especialmente nas áreas da saúde e da inteligência artificial.
Ao reunir pesquisas em microbiologia, biotecnologia e bioética, o LFBM tem ampliado sua atuação para além das ciências biológicas, contribuindo para debates sobre os impactos das novas tecnologias na sociedade. Para os pesquisadores do laboratório, a discussão sobre inteligência artificial na saúde não se resume à eficiência dos sistemas, mas envolve decisões sobre direitos, equidade, dignidade humana e o futuro das relações entre ciência, tecnologia e vida.
(Jornalista: Jorge Rocha – Fotos: Clara Freitas)
