A IA na pesquisa científica no Brasil entrou numa fase de maior responsabilidade institucional em 2026. A Instância Nacional de Ética em Pesquisa, ligada ao Ministério da Saúde, publicou um guia para o uso ético de inteligência artificial em estudos com seres humanos. A orientação não proíbe a tecnologia: exige que pesquisadores expliquem finalidade, dados, validação, riscos, supervisão humana e proteção dos participantes em vez de tratar um algoritmo como uma caixa neutra.
A mudança é relevante porque a IA já ajuda a organizar literatura, analisar imagens, encontrar padrões, apoiar recrutamento e gerar hipóteses. As mesmas ferramentas podem reproduzir vieses, expor dados sensíveis, produzir conteúdo falso e levar a decisões que ninguém consegue justificar. Este artigo traduz o debate para protocolos, comitês de ética, universidades, hospitais, financiadores e participantes.
Princípio central
Uma ferramenta de IA não transfere a responsabilidade científica. A equipa continua responsável por método, consentimento, segurança, integridade, interpretação e comunicação. Quanto maior o efeito possível sobre pessoas, maior deve ser a evidência, a supervisão e a capacidade de interromper o uso.
O que mudou no Brasil em 2026
A Inaep foi instituída no quadro da Lei nº 14.874/2024 e integra o Sistema Nacional de Ética em Pesquisa com Seres Humanos. Em setembro de 2026, o órgão disponibilizou um guia específico sobre IA, destinado a pesquisadores, instituições e Comitês de Ética em Pesquisa. A iniciativa reconhece que modelos algorítmicos podem estar em quase todas as etapas de um estudo e que a avaliação ética precisa olhar para riscos concretos.
O documento deve ser lido com a legislação, as normas do sistema de ética, a Lei Geral de Proteção de Dados e as regras profissionais e institucionais aplicáveis. “Seguir o guia” não elimina outras obrigações. Um projeto multicêntrico, um ensaio clínico e uma análise retrospectiva de base pública apresentam riscos e requisitos distintos.
Também em 2026, o governo federal consolidou orientações para soluções de IA no serviço público. Embora a pesquisa com seres humanos tenha regime próprio, os princípios convergem: definir problema antes da ferramenta, avaliar riscos, documentar decisões, testar desempenho, monitorar e manter uma saída segura.
Onde a IA aparece num estudo científico
A expressão “usar IA” é demasiado ampla para uma análise ética. Um protocolo deve identificar a função precisa. Na revisão de literatura, a ferramenta pode classificar resumos e sugerir relações. Na coleta, pode transcrever entrevista ou medir comportamento. Na análise, pode segmentar imagem, prever desfecho ou agrupar perfis. Na redação, um modelo generativo pode corrigir estilo ou produzir um rascunho.
Cada função cria riscos diferentes. Uma ferramenta que melhora gramática não tem o mesmo impacto de um sistema que decide quais participantes recebem contacto urgente. Um modelo de pesquisa que apenas explora hipóteses não deve ser apresentado como instrumento clínico validado. A equipa deve separar uso experimental, apoio à decisão e decisão automatizada.
| Uso | Benefício possível | Risco principal | Controlo esperado |
|---|---|---|---|
| Triagem de literatura | Reduz volume manual | Excluir evidência relevante | Amostragem de verificação e estratégia reproduzível |
| Transcrição | Acelera tratamento de entrevistas | Enviar voz sensível a terceiros | Contrato, segurança, revisão humana e minimização |
| Análise de imagens | Identifica padrões | Desempenho desigual entre grupos | Validação externa e análise estratificada |
| Previsão de risco | Apoia acompanhamento | Falso positivo ou negativo com dano | Supervisão qualificada e rota de contestação |
| IA generativa | Apoia síntese e redação | Invenção de fatos, fontes ou dados | Verificação integral, declaração e proibição de dados sensíveis |
Finalidade antes da novidade
O protocolo deve começar pela pergunta científica. Depois explica por que a IA é necessária e se um método mais simples, transparente ou consolidado resolveria o problema. Usar um modelo complexo apenas porque está disponível aumenta custo de validação sem garantir conhecimento melhor.
Uma finalidade clara permite limitar dados e medir sucesso. “Melhorar a pesquisa” não é objetivo operacional. “Classificar radiografias para estimar a sensibilidade de um método em população definida” pode ser avaliado. A equipa precisa estabelecer métricas antes de olhar para o resultado, evitando escolher apenas a medida que favorece o modelo.
A finalidade também delimita reutilização. Dados cedidos para um estudo não devem alimentar indiscriminadamente outros modelos. Quando houver uso secundário, a base jurídica, o consentimento quando aplicável, a compatibilidade e as salvaguardas devem ser examinados.
Dados pessoais, LGPD e segurança
Pesquisa em saúde pode envolver dados pessoais sensíveis, como informação genética, biométrica e clínica. Retirar nome e CPF não torna automaticamente uma base anónima. Combinações de idade, local, doença rara e datas podem permitir reidentificação, especialmente quando cruzadas com outras fontes.
A minimização exige recolher apenas o necessário, limitar acesso, definir retenção e eliminar cópias conforme o plano. A equipa deve mapear onde os dados circulam: computador do pesquisador, servidor da universidade, nuvem, fornecedor do modelo, registos de utilização e cópias de segurança. O contrato precisa esclarecer suboperadores, localização, uso para treino e resposta a incidentes.
Inserir prontuários, entrevistas ou imagens identificáveis num chatbot público pode transferir informação para um ambiente sem controlo institucional. Mesmo uma conta paga não garante conformidade por si. Antes do envio, o responsável deve verificar termos, configuração, retenção, segurança e autorização da instituição.
Consentimento verdadeiramente informado
O participante precisa de explicação compreensível, não de uma aula de programação. O consentimento deve dizer que tipo de dado será usado, para qual finalidade, se haverá decisão automatizada, quem terá acesso, quais riscos são previsíveis, por quanto tempo a informação será mantida e como exercer direitos.
Expressões como “algoritmo avançado” ou “IA segura” são insuficientes. É melhor explicar que um programa comparará a imagem com padrões e que um profissional revisará a saída. Quando uma recusa ao uso de IA permitir participação por outra via, essa alternativa deve ser apresentada. Se não for possível, justifique.
Consentimento não corrige desenho desproporcional. Um participante não pode tornar aceitável qualquer risco apenas ao assinar. O CEP e a instituição devem avaliar necessidade, relação risco-benefício e proteção de grupos vulneráveis.
Viés, representatividade e justiça
Um modelo aprende relações presentes nos dados, incluindo desigualdades. Base composta por um hospital de referência pode não representar atenção primária. Imagem produzida por um fabricante pode ter distribuição diferente de outro. Linguagem treinada sobretudo em inglês pode interpretar mal português brasileiro, termos indígenas ou variações regionais.
Apresentar apenas a acurácia média oculta falhas. O protocolo deve prever desempenho por sexo, idade, raça ou cor quando cientificamente e eticamente pertinente, região, condição clínica e equipamento. A análise de subgrupos precisa respeitar privacidade e tamanho da amostra, sem criar conclusões frágeis.
Justiça também envolve quem recebe o benefício. Comunidades que forneceram dados não deveriam suportar riscos sem acesso proporcional ao conhecimento, diagnóstico ou intervenção. A equipa deve discutir retorno de resultados e possibilidade de ampliar desigualdades.
Validação: um número alto não basta
Dados de treino, validação e teste devem ser separados de forma que evite vazamento. Se imagens da mesma pessoa aparecem em treino e teste, o desempenho pode parecer melhor do que será em novos pacientes. A validação externa utiliza dados de outra instituição, período ou população e revela se o modelo generaliza.
A métrica deve refletir o uso. Em condição rara, alta acurácia pode coexistir com baixa capacidade de encontrar casos. Sensibilidade, especificidade, valor preditivo, calibração e curvas de decisão respondem a perguntas diferentes. Intervalos de confiança comunicam incerteza.
Compare a IA com a prática existente e com alternativas simples. Um modelo ligeiramente superior que exige infraestrutura cara pode não produzir benefício real. Faça testes de robustez para dados ausentes, mudanças de equipamento e variação temporal. Defina quando o sistema deve abster-se de responder.
Transparência e explicabilidade na medida certa
Transparência inclui versão do modelo, origem dos dados, parâmetros, transformações, métricas, limitações e alterações. Nem sempre é possível abrir código ou dados por privacidade e propriedade intelectual, mas isso não justifica omitir informação necessária à avaliação independente.
Uma explicação deve ser útil ao destinatário. O participante precisa entender a consequência; o profissional, os fatores relevantes e limites; o auditor, a documentação técnica. Gráficos visualmente convincentes podem sugerir causalidade inexistente. Técnicas de explicabilidade são ferramentas auxiliares e também podem ser instáveis.
Modelos proprietários exigem atenção adicional. Se o fornecedor muda o sistema sem aviso, a validação deixa de corresponder à versão em uso. Contratos e procedimentos devem controlar atualizações, registar versão e permitir suspensão.
Supervisão humana que funciona
Dizer que “há um humano no circuito” não é suficiente. A pessoa precisa de competência, tempo, informação e autoridade para discordar. Se a interface apresenta a resposta algorítmica como certeza e penaliza quem a contraria, a supervisão é simbólica.
Defina quais decisões nunca serão automatizadas, quando uma segunda revisão é exigida e como o participante contesta um resultado. Registe divergências entre humano e modelo para identificar automação excessiva. O sistema deve oferecer uma rota segura quando os dados estão fora do padrão.
Responsabilidade deve ter nomes e funções: investigador principal, encarregado de dados, equipa de segurança, estatístico, fornecedor e comité de monitorização quando aplicável. “A IA decidiu” não é uma resposta aceitável a um evento adverso.
IA generativa, autoria e integridade científica
Modelos generativos produzem texto plausível, não garantia de verdade. Podem inventar referências, números, citações e métodos. Todo conteúdo precisa de verificação por pessoa qualificada. Uma fonte só deve ser citada depois de o autor ler o original e confirmar que sustenta a afirmação.
Ferramentas não assumem responsabilidade e não devem ser listadas como autoras. Pesquisadores devem seguir políticas da revista, agência e instituição para declarar uso. Uma declaração útil identifica ferramenta, versão ou data, finalidade e forma de revisão.
Resultados não publicados, pareceres confidenciais e dados de participantes não devem ser inseridos em serviços externos sem autorização e salvaguardas. A rapidez da redação não compensa quebra de sigilo. O texto final é responsabilidade dos autores humanos.
O que um protocolo deve apresentar ao CEP
- Pergunta científica e justificativa para usar IA.
- Função exata do sistema em cada etapa.
- Origem, qualidade, representatividade e base jurídica dos dados.
- Fluxo de dados, fornecedores, armazenamento e retenção.
- Modelo, versão, treino, validação e métricas.
- Riscos de erro, viés, privacidade e reidentificação.
- Supervisão humana e decisões não automatizáveis.
- Informação ao participante e processo de consentimento.
- Monitorização, incidentes, critérios de pausa e encerramento.
- Plano de publicação, declaração de IA e partilha responsável.
O nível de detalhe deve ser proporcional ao risco, mas não pode depender de promessas vagas do fornecedor. Anexe documentação técnica e contrato relevantes. Se componentes ainda não foram escolhidos, explique critérios de seleção e preveja nova submissão antes da mudança material.
Como os CEPs podem analisar sem bloquear inovação
O comité não precisa programar o modelo, mas precisa formular perguntas certas. A composição pode recorrer a consultoria especializada sem transferir a decisão. Uma matriz por função, dados, impacto e reversibilidade ajuda a distinguir edição de texto de uma intervenção que altera cuidado.
Exigir “explicabilidade total” pode ser impraticável; aceitar “tecnologia proprietária” sem evidência é insuficiente. A avaliação deve procurar informação bastante para julgar risco-benefício. Pilotos limitados, monitorização reforçada e aprovação por fases podem ser adequados quando a incerteza é controlável.
O acompanhamento continua depois da aprovação. Mudança de modelo, base, fornecedor ou finalidade pode alterar o risco e exigir emenda. Eventos adversos, desvios e falhas de segurança precisam dos canais formais.
Responsabilidade das instituições e financiadores
Universidades e hospitais devem oferecer ambiente seguro, política de aquisição, formação e apoio jurídico. Proibir genericamente pode empurrar o uso para contas pessoais; liberar sem controlo expõe participantes. Uma lista de ferramentas aprovadas por finalidade, acompanhada de processo para exceções, cria previsibilidade.
Financiadores podem exigir plano de gestão de dados, orçamento para validação e acesso a competências multidisciplinares. Avaliar apenas novidade favorece projetos vistosos e frágeis. Reprodutibilidade, inclusão e manutenção devem contar como qualidade científica.
Checklist antes de utilizar uma ferramenta
- O problema está definido sem mencionar a ferramenta?
- Existe alternativa menos invasiva ou mais transparente?
- Os dados podem ser enviados ao serviço nas condições contratuais?
- A população de validação corresponde ao uso pretendido?
- O desempenho foi medido por grupos relevantes?
- Uma pessoa competente pode rever e contrariar a saída?
- O participante entende onde a IA entra?
- Há registo de versão e das entradas e saídas necessárias?
- Existe plano para falha, incidente ou atualização?
- O uso será declarado na publicação?
Perguntas frequentes
O guia da Inaep proíbe IA em pesquisas com seres humanos?
Não. Ele orienta o uso ético e regulatório, com avaliação de finalidade, risco, dados, supervisão e proteção dos participantes.
Uma base sem nomes está automaticamente anonimizada?
Não. Combinações de variáveis podem permitir reidentificação. A anonimização deve considerar contexto, meios razoáveis e possibilidade de cruzamento.
Um chatbot pode ser autor de artigo?
Não deve ser tratado como autor, pois não assume responsabilidade. O uso deve seguir as políticas da revista e ser declarado quando exigido.
A aprovação do CEP substitui a LGPD?
Não. Avaliação ética, proteção de dados, autorização institucional e outras regras são complementares.
O que é supervisão humana efetiva?
É a revisão por pessoa competente que possui tempo, informação e poder real para discordar, corrigir ou interromper o sistema.
Atualizar o modelo exige nova avaliação?
Uma alteração material de versão, finalidade, dados ou fornecedor pode mudar o risco e deve ser analisada conforme o procedimento aplicável.
Conclusão
O avanço da IA na pesquisa científica no Brasil dependerá menos de promessas e mais de métodos verificáveis. O guia da Inaep em 2026 oferece um ponto de referência para transformar princípios em perguntas concretas: por que usar, com quais dados, validado em quem, sob qual supervisão e com que proteção. Quando a equipa documenta limites, testa desigualdades e mantém responsabilidade humana, a IA pode ampliar capacidade científica sem reduzir participantes a matéria-prima algorítmica.
Fontes oficiais consultadas
- Ministério da Saúde — Guia de uso ético de IA em pesquisa com seres humanos
- Inaep — competências e Sistema Nacional de Ética em Pesquisa
- Lei Geral de Proteção de Dados Pessoais
- CAPES — inteligência artificial na pesquisa e no fomento
Explore também a categoria de inteligência artificial no Meu Kultura.