Nova York propõe regra contra ‘doom loops’ de chatbots de IA no atendimento
Administração de Zohran Mamdani quer obrigar empresas a transferir clientes a um atendente humano quando o chatbot não resolver o pedido, com multa a partir de US$ 525.
Foto: Yaroslav Shuraev (Pexels)
Nova York pode se tornar a primeira cidade dos Estados Unidos a proteger o consumidor do que a prefeitura chama de “doom loop” — um ciclo sem saída de respostas geradas por inteligência artificial (IA) no atendimento. A regra foi proposta nesta terça-feira (20) pela administração do prefeito Zohran Mamdani.
A proposta exige que empresas encaminhem rapidamente o cliente a um atendente humano quando o chatbot não conseguir resolver a solicitação, além de revelar quando a conversa é com IA e oferecer uma saída fácil para falar com uma pessoa.
O que aconteceu
Segundo o Semafor, a medida mira o uso crescente de chatbots de IA no serviço ao cliente — sistemas automatizados que respondem por texto ou mensagem e, em muitos casos, prendem o usuário em um labirinto de respostas genéricas. A administração Mamdani argumenta que, se a ferramenta não cumprir o pedido, a empresa deve conectar a pessoa a um agente humano sem demora.
Em comunicado citado pela reportagem, Mamdani afirmou que, quando corporações obrigam o consumidor a “lutar” por um atendimento humano em um “endless doom loop” de respostas geradas por IA, estão “roubando tempo, dinheiro e paciência”. A regra, disse ele, deixa claro que o corte de custos no atendimento “não pode ocorrer às custas dos nova-iorquinos”.
Pelos termos descritos, as empresas teriam de informar quando o cliente está falando com IA e oferecer um “easy off-ramp” — um caminho simples para um representante humano. Quem descumprir a norma estaria sujeito a multas que começariam em US$ 525.
A reportagem também destaca o perfil da equipe de proteção ao consumidor da prefeitura. Samuel Levine, comissário do Departamento de Proteção ao Consumidor e ao Trabalhador (Department of Consumer and Worker Protection) da cidade, liderou antes o Bureau of Consumer Protection da Federal Trade Commission (FTC) — a agência federal de defesa da concorrência e do consumidor dos EUA — na gestão de Lina Khan. A vice-prefeita Julie Su foi secretária do Trabalho em exercício no governo Biden. Khan integra a administração Mamdani como presidente do conselho do Economic Development Board da cidade.
O que isso pode mudar
Se a regra avançar e for aplicada de forma ampla, Nova York poderia estabelecer um padrão local inédito para o uso de IA no atendimento. Em tese, empresas que operam na cidade — varejo, telecom, bancos, plataformas digitais e serviços utilitários — teriam de redesenhar fluxos em que o chatbot é a única porta de entrada, sob pena de sanção financeira e de exposição regulatória.
A obrigação de divulgar que a conversa é com IA e de oferecer transferência humana rápida poderia reduzir o tempo perdido em “loops” automáticos e pressionar modelos de negócio baseados em cortar postos de atendimento. Ainda assim, o impacto real dependeria do texto final da norma, da definição do que conta como “rapidamente” e da fiscalização do departamento municipal.
Há também um possível efeito de demonstração. Se Nova York for de fato a primeira jurisdição do país a formalizar essa proteção, outras cidades ou estados poderiam observar o desenho da regra — e a reação das empresas — antes de considerar medidas semelhantes. Por ora, trata-se de uma proposta; o alcance prático ainda precisa passar pelo processo regulatório e pela adesão (ou resistência) do setor privado.
Para o consumidor, a mudança esperada seria mais prosaica e imediata: menos tempo preso em respostas automatizadas sem solução e mais clareza sobre quando está falando com uma máquina — e como sair dela.
Fontes: Semafor – Mamdani takes on AI chatbot ‘doom loops’ in New York
Leia mais em: mundodosnegocio.com.br