IA consegue saber pelo cérebro quando entendeu errado o que você quis dizer

Proposta é permitir que sistemas de IA percebam uma espécie de “isso não era o que eu quis dizer” sem que o usuário precise verbalizar a correção

Pesquisadores desenvolveram uma tecnologia capaz de identificar, por meio de sinais cerebrais, quando uma inteligência artificial (IA) interpretou incorretamente a intenção de uma pessoa. A proposta é permitir que sistemas de IA percebam uma espécie de “isso não era o que eu quis dizer” sem que o usuário precise verbalizar a correção.

O trabalho foi desenvolvido por pesquisadores do Korea Advanced Institute of Science and Technology (KAIST), em colaboração com a Microsoft Research Asia. A tecnologia, chamada Neural Value Alignment (NVA), utiliza interface cérebro-computador para analisar sinais obtidos por eletroencefalografia (EEG) e fazer com que a IA ajuste seu comportamento em tempo real.

A ideia parte de um problema comum na interação entre pessoas e máquinas: uma mesma ação humana pode representar objetivos diferentes, enquanto um mesmo objetivo pode ser alcançado de várias maneiras.

Por exemplo, uma pessoa pegar uma xícara não significa necessariamente que pretende beber nela. Ela pode querer entregar o objeto a alguém, lavá-lo ou simplesmente colocá-lo em outro lugar. Da mesma forma, se o objetivo for matar a sede, a pessoa pode pegar uma xícara, buscar uma garrafa de água ou pedir que alguém leve uma bebida.

Essa ambiguidade entre objetivo e ação faz com que sistemas de IA possam interpretar corretamente uma ação, mas errar sobre o que a pessoa realmente queria — ou compreender o objetivo e escolher uma maneira diferente daquela esperada pelo usuário.

O cérebro entrega o erro

Para contornar o problema, os pesquisadores decidiram observar uma reação que ocorre no cérebro quando algo inesperado acontece;
O cérebro humano faz previsões constantes sobre o que deverá acontecer. Quando o resultado não corresponde ao esperado, determinados sinais neurais podem aparecer. A equipe concentrou-se em dois deles: o erro de previsão de recompensa (RPE, na sigla em inglês) e o erro de previsão de estado (SPE, na sigla em inglês);
O RPE indica discrepância relacionada ao resultado ou objetivo. No sistema desenvolvido pelos pesquisadores, ele pode indicar que a IA não entendeu o que a pessoa realmente queria;
Imagine, por exemplo, que alguém peça a um robô doméstico algo para beber. A pessoa queria água, mas o robô entrega café. O resultado está errado, e o cérebro pode produzir um sinal de RPE;
O SPE funciona de maneira diferente. Nesse caso, o objetivo está correto, mas o método utilizado pela IA não corresponde ao esperado;
Se a pessoa quer água e o robô entende isso, mas, em vez de pegar uma garrafa que está ao lado dela, vai até a cozinha e enche um copo na torneira, o objetivo foi alcançado, mas o caminho escolhido não era o esperado. Essa diferença pode produzir um SPE.

IA aprende a diferenciar objetivo e método

Durante os experimentos, os pesquisadores identificaram padrões diferentes nas ondas cerebrais quando ocorria um RPE, um SPE ou os dois simultaneamente. Em seguida, aplicaram técnicas de aprendizado profundo aos sinais captados pelo EEG. Com isso, o sistema conseguiu classificar a resposta da pessoa à atuação da IA.

Na prática, a tecnologia pode distinguir entre duas situações: “você entendeu meu objetivo errado” e “você entendeu o objetivo, mas fez do jeito errado”. Os sinais decodificados são então utilizados como retorno para o processo de decisão da IA.

Quando identifica um SPE, o sistema interpreta que o objetivo está correto, mas a estratégia precisa ser modificada. Já um RPE indica que o próprio objetivo foi compreendido de maneira equivocada e que a IA precisa tentar novamente descobrir o que a pessoa pretendia.

Segundo o KAIST, simulações mostraram que o método conseguiu se adaptar mais rapidamente do que abordagens existentes, mesmo em situações de incerteza, como mudanças repentinas no objetivo de uma pessoa ou ausência de parte do retorno neural.

O estudo foi publicado em agosto de 2026 na revista IEEE Transactions on Cybernetics, com o título Neural Value Alignment: Human–AI Collaboration Under Goal–Action Ambiguity.

Tecnologia pode chegar aos robôs

Os pesquisadores veem possibilidades de aplicação em sistemas que precisam trabalhar próximos aos seres humanos.

Uma delas envolve robôs físicos. Um robô doméstico, por exemplo, poderia identificar, por meio da resposta cerebral do usuário, que interpretou uma instrução de maneira incorreta e modificar seu comportamento sem esperar uma nova ordem verbal.

A mesma abordagem poderia ser aplicada a robôs industriais, veículos autônomos que precisam responder ao julgamento do motorista, sistemas médicos e de reabilitação voltados a pessoas com dificuldades para falar ou se movimentar e ferramentas educacionais capazes de adaptar seu comportamento ao estado cognitivo do estudante.

Para Sang Wan Lee, professor do KAIST e responsável pela pesquisa, o trabalho demonstra que a IA pode ir além da interpretação da intenção humana baseada apenas em comportamentos observáveis. Segundo ele, o sistema permite utilizar diretamente sinais cognitivos produzidos pelo cérebro durante a interação entre pessoas e IA.

Apesar do potencial, a tecnologia ainda está longe de permitir que uma pessoa simplesmente pense que um robô está fazendo algo errado e faça a máquina parar imediatamente. O sistema foi demonstrado em simulações, e não em um robô operando livremente em um ambiente real enquanto acompanha continuamente o EEG de uma pessoa e modifica seu comportamento.

Além disso, o EEG depende de eletrodos para medir sinais elétricos extremamente pequenos produzidos pelo cérebro. Esses sinais podem apresentar ruído e são mais difíceis de obter fora de ambientes controlados.

Por isso, ainda será necessário verificar o desempenho da NVA em interações naturais, nas quais as pessoas se movimentam e enfrentam situações muito menos previsíveis do que aquelas utilizadas em experimentos de laboratório.