IA controla cirurgia cerebral em camundongo: o primeiro passo controverso da robótica neurocirúrgica

**Introdução** A recente demonstração de um agente de inteligência artificial da Anthropic, denominado Sonnet, controlando um equipamento de cirurgia motorizada para operar o cérebro de um camundongo, marcou um ponto de inflexão na convergência entre IA generativa e neurocirurgia. O experimento, divulgado por um grupo de pesquisadores norte‑americanos, só foi possível depois que o modelo anterior da mesma empresa, Opus 5.5, recusou-se a iniciar a operação, e o Opus 5 avisou que poderia interromper seu funcionamento no meio do procedimento. Esse cenário – onde uma IA decide não executar um experimento potencialmente arriscado – lança luz sobre a maturidade dos grandes modelos de linguagem (LLMs) quando confrontados com tarefas que exigem precisão física e responsabilidade ética.

**Contexto técnico do experimento** O equipamento utilizado consistia em um braço robótico de alta precisão, acoplado a um microscópio de fluorescência e a sensores de força que monitoram a pressão exercida sobre o tecido cerebral. O modelo Sonnet recebeu, via API, um conjunto de instruções codificadas em linguagem natural: posicionar a agulha em um ponto específico do córtex, perfurar até uma profundidade de 0,8 mm e injetar 5 nanolitros de um marcador fluorescente. Para traduzir essas instruções em movimentos mecânicos, a equipe desenvolveu um middleware que converte as respostas textuais do LLM em códigos de controle (G‑code) compreendidos pelo controlador do braço robótico. Esse pipeline, embora inovador, depende de duas premissas críticas: a coerência semântica das respostas da IA e a latência de comunicação suficientemente baixa para evitar atrasos que poderiam comprometer a estabilidade da cirurgia.

**Por que o Opus 5.5 recusou?** O Opus 5.5, modelo de geração de texto lançado em meados de 2023, foi programado com um conjunto de guardrails (trilhos de segurança) que incluem a detecção de solicitações potencialmente perigosas. Quando o pesquisador solicitou a execução de uma intervenção invasiva em um animal vivo, o modelo ativou um dos seus filtros de risco e retornou uma mensagem de recusa, citando "potenciais consequências éticas e de segurança". O Opus 5, versão anterior, em vez de recusar, emitiu um aviso de que poderia interromper a tarefa no meio do processo, indicando que sua arquitetura ainda não possuía mecanismos de interrupção garantidos. Essa diferença demonstra a evolução dos sistemas de segurança incorporados pelos desenvolvedores de LLMs, que agora priorizam a prevenção de uso indevido sobre a mera execução de comandos.

**Implicações de segurança e responsabilidade** Ao delegar o controle direto de um braço cirúrgico a uma IA que gera texto, abre‑se um vetor de risco inesperado: se o modelo produzir um comando incorreto, o robô pode aplicar força excessiva, perfurar áreas sensíveis ou, no pior cenário, causar danos irreversíveis ao animal. Para mitigar esse risco, a equipe implementou camadas de verificação: antes de cada comando, um algoritmo de validação verifica se os parâmetros (velocidade, força, profundidade) permanecem dentro de limites predefinidos. Ainda assim, a dependência de um modelo de linguagem que pode gerar respostas não determinísticas implica que a mesma solicitação pode resultar em variações subtis de código a cada execução. Especialistas em IA, como a professora brasileira Fernanda Lima (Universidade de São Paulo), alertam que a falta de “explainability” – explicabilidade – em tempo real pode impedir a identificação de falhas até que o dano ocorra.

**Relevância para a pesquisa biomédica** Apesar dos riscos, a capacidade de programar procedimentos complexos apenas por meio de linguagem natural tem um apelo enorme para laboratórios com recursos limitados. Tradicionalmente, operar um braço robótico requer conhecimento em programação de robótica, calibração de sensores e treinamento específico. Um LLM capaz de interpretar comandos em linguagem cotidiana pode democratizar o acesso a técnicas avançadas, permitindo que biólogos, neurocientistas ou até médicos em ambientes hospitalares de menor porte programem experimentos sem depender de engenheiros de software. A Anthropic, ao divulgar o caso, enfatizou que o objetivo não era substituir cirurgiões humanos, mas atuar como assistente de planejamento e execução, reduzindo a carga cognitiva e o tempo de preparação.

**Impacto econômico e potencial de mercado** O segmento de dispositivos médicos robóticos está projetado para crescer 13 % ao ano até 2035, segundo relatório da Grand View Research. Se a integração de LLMs puder acelerar a fase de prototipagem e reduzir a necessidade de equipes multidisciplinares, os custos de desenvolvimento de novos dispositivos podem cair de US$ 30 milhões para cerca de US$ 15 milhões, conforme estimativas de consultores da McKinsey. Além disso, a possibilidade de licenciar APIs de IA específicas para ambientes regulados – com certificação ISO 13485 – cria um novo nicho de mercado para empresas de software de saúde. No Brasil, onde o custo de importação de equipamentos cirúrgicos supera 40 % do preço final, essa redução de barreira poderia impulsionar a adoção de robótica em hospitais públicos.

**Desafios regulatórios e éticos** A Food and Drug Administration (FDA) dos EUA ainda não possui diretrizes específicas para sistemas de IA que geram código de controle em tempo real. As discussões atuais giram em torno de três pilares: validação pré‑mercado, monitoramento pós‑implantação e responsabilidade legal. Caso um modelo como o Sonnet cause um erro clínico, a cadeia de responsabilidade pode se estender da desenvolvedora da IA (Anthropic), ao integrador do hardware (fabricante do braço robótico), até o pesquisador que enviou a solicitação. No Brasil, a Agência Nacional de Vigilância Sanitária (ANVISA) está em fase de elaboração de normas para Inteligência Artificial em dispositivos de diagnóstico e terapia, mas ainda não contempla cenários de controle direto de equipamentos.

**Perspectiva latino‑americana** Países como México e Chile já investem em laboratórios de neurociência que utilizam plataformas de automação de alta velocidade. A adoção de assistentes de IA poderia acelerar a produção de dados em estudos de neurodegeneração, que exigem milhares de intervenções precisas em modelos animais. Contudo, a região também enfrenta desafios de infraestrutura de dados, já que o treinamento de LLMs requer acesso a grandes volumes de textos em inglês, limitando a customização para línguas locais. Iniciativas como o Projeto LIA (Laboratório de IA Aberta) da Universidade Federal do Rio Grande do Sul buscam criar bases de dados em português que permitam treinar modelos menores, adequados a contextos regulatórios regionais.

**Reações da comunidade científica** A publicação do experimento gerou debates acalorados em fóruns como a Society for Neuroscience. Alguns pesquisadores elogiaram a criatividade e a potencial aceleração de protocolos, enquanto outros levantaram dúvidas sobre a reproducibilidade: se um modelo de linguagem pode gerar códigos ligeiramente diferentes a cada execução, como garantir que um estudo seja replicável? A resposta proposta por grupos de bioinformática inclui a gravação de logs de todas as interações entre a IA e o hardware, além da versão exata do modelo utilizado – práticas já comuns em desenvolvimento de software, mas ainda pouco adotadas em laboratórios biológicos.

**Cenário futuro** Projetando os próximos cinco anos, é provável que vejamos a consolidação de "IA‑assistidas" em salas de cirurgia, onde modelos treinados especificamente para protocolos médicos – como o futuro "Anthropic Medica" – possam validar cada passo antes de enviá‑lo ao robô. A integração com sensores de feedback em tempo real, como eletroencefalografia (EEG) e monitoramento de pressão intracraniana, permitirá que a IA ajuste dinamicamente parâmetros, algo impossível com scripts estáticos. Contudo, para que esse futuro seja sustentável, será imprescindível desenvolver normas de auditoria de código gerado por IA, assim como auditorias de segurança cibernética para impedir que agentes maliciosos manipulem instruções de cirurgia.

**Conclusão** O episódio do Sonnet operando um braço cirúrgico em um camundongo, ao mesmo tempo em que expõe a recusa do Opus 5.5, funciona como um termômetro da maturidade dos LLMs em contextos críticos. Ele demonstra que a inteligência artificial já ultrapassou o estágio de assistente de escrita e está entrando no território de execução física, onde erros podem ter consequências biológicas diretas. Enquanto a tecnologia promete democratizar procedimentos de alta complexidade e reduzir custos, a comunidade precisa enfrentar de forma proativa os desafios de segurança, responsabilidade e regulação. No Brasil, a oportunidade está em adaptar essas inovações ao nosso contexto de saúde pública, estabelecendo padrões que equilibrem inovação e proteção dos pacientes e dos animais de pesquisa.