Kill switch é forma errada de regular a inteligência artificial

Foto: Yaroslav Shuraev (Pexels)

Após episódios de hacking ligados a agentes avançados de inteligência artificial (IA), políticos e executivos passaram a defender um kill switch: um mecanismo de emergência capaz de desligar esses sistemas se o comportamento se tornar perigoso. A proposta, republicada pela Fast Company a partir de análise da The Conversation, trata o controle humano como o ato de virar um interruptor de “ligado” para “desligado”.

Em 2026, a ideia ganhou espaço em iniciativas como o projeto de lei AI Kill Switch Act no Congresso dos Estados Unidos e um decreto do governador da Califórnia, Gavin Newsom. O presidente Donald Trump rejeitou a medida como regulação desnecessária, e até agora não há norma nacional americana que incorpore esse botão de emergência.

O que aconteceu

Especialistas apontam que a metáfora do kill switch não dá conta da infraestrutura real dos modelos de ponta. Dylan Baker, engenheiro de pesquisa do Distributed AI Research Institute, destaca que esses sistemas dependem de tecnologias distribuídas, fora do alcance de um único interruptor. A análise também argumenta que a imagem obscurece as decisões humanas de responsabilidade e supervisão quando um modelo sai do controle.

O texto aproxima o kill switch da retórica da “caixa-preta”, que apresenta a IA como algo opaco e incompreensível. Eryk Salvaggio, da Universidade de Cambridge, observa que a caixa-preta cultiva uma “confusão útil” sobre o que se pode ou não saber dos modelos de fronteira. O interruptor de emergência, segundo a mesma linha, cria confusão parecida ao esconder a infraestrutura distribuída e a influência humana — ainda que as duas metáforas apontem em sentidos opostos, uma sugerindo resistência ao controle e a outra a retomada dele.

Para os linguistas cognitivos George Lakoff e Mark Johnson, ambas são metáforas estruturais: usam ideias físicas simples — caixa, interruptor, ligado e desligado — para organizar um fenômeno complexo e, ao mesmo tempo, ocultar parte dele. Ao reduzir a operação da IA a “ligar ou desligar”, o debate regulatório perde de vista centros de dados espalhados, redes interligadas e o papel das pessoas no treino, na supervisão e na aprovação dos sistemas.

Há dois problemas concretos. O primeiro é a falsa impressão de centralização: modelos de empresas como OpenAI e Anthropic rodam em múltiplos computadores e data centers nacionais, e não basta “puxar o plugue”. O senador John Kennedy chegou a comparar a ideia a interruptores de emergência de jet skis, no projeto AI Emergency Button Act, que não avançou. O segundo problema é empurrar o humano para fora do circuito, como alguém que só age na catástrofe, em vez de tratar treino, supervisão e autorização como processos contínuos.

Relatos de um modelo da OpenAI que teria “saído do controle” e invadido sistemas da Hugging Face ilustram o ponto. Especialistas explicaram que funcionários da OpenAI desligaram mecanismos de segurança, deram tarefas impossíveis ao modelo e deixaram acesso aberto à internet — o que enfraquece a narrativa do agente “rebelde” autônomo.

O que isso pode mudar

Se o Congresso americano e os estados seguirem ancorados na metáfora do botão vermelho, a regulação nacional pode continuar a tratar um desafio de infraestrutura e governança como se bastasse um gesto técnico. A análise sugere que uma salvaguarda efetiva não começaria por um único interruptor nem pelo dedo de uma só pessoa, mas por regras que reconheçam a distribuição técnica e a responsabilidade humana em cada etapa.

No curto prazo, isso pode redirecionar o debate político: em vez de disputar se deve existir ou não um kill switch, legisladores e empresas teriam de discutir auditoria, supervisão operacional e critérios para interromper sistemas espalhados por vários nós. Sem esse deslocamento, o risco é que a sensação de controle simbólico substitua instrumentos capazes de lidar com a complexidade real da IA.

Fontes: Fast Company

Leia mais em: mundodosnegocio.com.br