Por Lisa Voronkova*

Uso inteligência artificial (IA) todos os dias, assim como os engenheiros da minha equipe. Nós a utilizamos para encontrar as normas adequadas, elaborar documentos de projeto e fazer traduções. Portanto, este não é um artigo sobre medo. É sobre três perguntas que toda equipe regulatória precisa responder: o que entra, o que sai e quem assina. 

O que entra 

Uma empresa de segurança digital, a LayerX, mediu como as pessoas realmente utilizam essas ferramentas no trabalho. Quase metade dos funcionários já usa IA generativa, e 82% do conteúdo inseridos nessas ferramentas passa por contas pessoais, as versões gratuitas que não são controladas pela empresa. Ninguém faz isso para prejudicar a organização. Faz porque funciona e o prazo de entrega é hoje. 

Agora, um pouco de matemática. Considere uma equipe regulatória de 50 pessoas, cada uma inserindo textos em uma ferramenta de IA dez vezes por dia. Suponha que apenas uma em cada mil inserções contenha algo que não deveria ser compartilhado: o nome de um paciente, o preço de um fornecedor ou uma página do arquivo de gerenciamento de riscos do fabricante.

Depois de dois dias úteis, a probabilidade de isso já ter acontecido é de aproximadamente 63%. Ao longo de um ano, isso poderia ocorrer cerca de 125 vezes. A verdadeira questão é saber se alguém tem conhecimento disso. 

Classifico as ferramentas de IA em três categorias. Uma conta gratuita ou pessoal é como um cartão-postal: qualquer pessoa que o manuseie durante o percurso pode ler seu conteúdo, e o texto pode ser utilizado para treinar o próximo modelo. Um plano empresarial, com contrato, é como uma carta lacrada. Já um modelo que funciona dentro do próprio ambiente da empresa é um cofre: os documentos não são enviados a serviços públicos de IA.

Esse ambiente pode ser adquirido pronto ou desenvolvido pela própria empresa, combinando um modelo de IA com mecanismos de segurança que controlam quem acessa os documentos e registram quem utiliza a ferramenta e para qual finalidade. E uma conta pessoal paga continua sendo um cartão-postal, apenas mais caro. 

Importadores e distribuidores precisam verificar mais um aspecto. Os relatórios de ensaios e os arquivos de gerenciamento de riscos incluídos em um dossiê muitas vezes foram elaborados pelo fabricante e chegaram acompanhados de um acordo de confidencialidade (NDA) ou de um acordo de qualidade. Talvez não possam ser compartilhados livremente.

Além disso, um documento com dados de pacientes, carregado em uma ferramenta hospedada no exterior, caracteriza uma transferência internacional de dados pessoais nos termos da Lei Geral de Proteção de Dados (LGPD). Sou engenheira, não advogada, por isso essa questão deve ser encaminhada ao encarregado pela proteção de dados da empresa. 

A primeira regra cabe em um cartaz na parede: se você não colocaria a informação em um cartão-postal, não a insira em uma conta pessoal. Um pequeno truque pode ajudar. Quando você precisar apenas de auxílio com a linguagem, substitua os nomes antes de inserir o texto. O produto vira “produto”, o lote vira “lote” e o paciente vira P1. Depois, você mesmo recoloca as informações originais. 

O que sai 

Um modelo de linguagem não consulta a verdade. Ele escreve as próximas palavras mais plausíveis. É por isso que uma resposta errada pode soar exatamente tão convincente quanto uma resposta correta. Pense em um estagiário muito confiante, que nunca diz “não sei”, a menos que você o instrua a fazê-lo. 

Os órgãos reguladores já estão percebendo as consequências. Em junho deste ano, inspetores da agência reguladora britânica, a MHRA, relataram que começaram a receber respostas elaboradas por IA que citavam orientações inexistentes. Uma das respostas tinha mais de 90 páginas e não abordava as não conformidades apontadas.

Uma análise que normalmente levaria cerca de quatro horas consumiu mais de vinte. Em abril, a FDA enviou sua primeira carta de advertência relacionada ao uso de IA em documentos da área da qualidade. Quando os inspetores perguntaram a um fabricante por que não havia validação de processo, a empresa explicou que o agente de IA nunca havia informado que isso era necessário. 

Para uma empresa que apresenta documentos à Anvisa, o custo é simples de entender. Uma resposta a uma exigência que não responde ao que foi solicitado significa uma nova rodada de questionamentos, que pode representar meses de atraso e até resultar em indeferimento.  

Veja como eu elaboraria uma resposta com o auxílio da IA. Primeiro, uma pessoa registra os fatos e as evidências: qual documento e qual página. Segundo, a IA prepara uma versão inicial com três instruções: responder somente ao que foi perguntado, citar um documento e uma página para cada afirmação e escrever “falta evidência” quando não houver comprovação, em vez de preencher a lacuna com informações presumidas. Terceiro, uma pessoa confere cada número, página e norma com a fonte original. Quarto, o responsável assina. 

Há ainda uma tarefa na qual a IA demonstra seu valor e que raramente vejo as equipes utilizarem. Antes de protocolar um processo, forneça a uma ferramenta aprovada o rótulo, as instruções de uso, o arquivo de gerenciamento de riscos e o relatório técnico, solicitando apenas uma coisa: identificar contradições.

Nome do produto, modelos, finalidade de uso, advertências, prazo de validade. Uma pessoa cansada costuma fazer esse trabalho mal no final do dia. Uma máquina faz isso bem. A segunda regra: a IA elabora a primeira versão, uma pessoa confere e o responsável assina. 

Quem assina 

O artigo 55 da RDC 751 da Anvisa é bastante claro: os representantes legais e técnicos da empresa são responsáveis pelas informações e pelos documentos que apresentam. Não existe um campo no formulário de peticionamento para “coautor: ChatGPT”. 

Antes do webinar, perguntaram-me se a ferramenta de IA precisa ser certificada. Pesquisei no Brasil, nos Estados Unidos e na Europa e não encontrei uma norma que exija a certificação de uma ferramenta utilizada para elaborar documentos. O que existe é a validação de seu uso, proporcionalmente ao risco.

As equipes regulatórias já conhecem essa metodologia, pois ela está presente em todos os arquivos de gerenciamento de riscos enviados pelos fabricantes: a ISO 14971, aplicada ao próprio processo. O que pode falhar? O que acontece quando falha? Qual controle será implementado? E quem fará a verificação? 

Na prática, tudo isso cabe em uma página. Uma lista de ferramentas aprovadas, utilizadas exclusivamente em contas corporativas. Três classes de informação e a indicação de onde cada uma pode ser inserida. Revisão humana de tudo o que for produzido, com identificação de quem fez a conferência. Referências verificadas diretamente nas fontes. E um registro simplificado do uso da IA, com cinco colunas: data, documento, ferramenta, finalidade de utilização e responsável pela conferência. 

Também não deve haver punição para quem comunicar um erro. Afinal, se você penalizar a pessoa que relata um problema, a próxima não fará o mesmo. A terceira regra: não se certifica a ferramenta, valida-se seu uso, e uma pessoa identificada assume a responsabilidade com sua assinatura. 

Esperar pela legislação não vai ajudar. O projeto de lei brasileiro sobre inteligência artificial ainda está na Câmara dos Deputados, e a Europa adiou a implementação de suas regras para sistemas de IA de alto risco.

Ninguém vai elaborar sua política interna a tempo. A inteligência artificial torna mais rápida uma pessoa que já possui conhecimento. Não garante que ela esteja certa. Alguém ainda precisa estar certo. 

*Lisa Voronkova, especialista em desenvolvimento de dispositivos médicos, CEO da OVA Solutions e palestrante do webinar da ABRAIDI “Uso da Inteligência Artificial no Ambiente Regulatório de Dispositivos Médicos: Indústria e Anvisa”.