Anthropic propõe lei de segurança de IA que pode bloquear modelo com risco de 50 mortes
Rascunho da Anthropic prevê barrar lançamento de modelo diante de risco iminente de mais de 50 mortes ou US$ 1 bi em danos, mas só com juiz.
Foto: Caleb Oquendo (Pexels)
A Anthropic apresentou um rascunho de projeto de lei de segurança de Inteligência Artificial (IA) que prevê bloquear a distribuição de um modelo diante de risco previsível e iminente de mais de 50 mortes ou de danos patrimoniais superiores a US$ 1 bilhão, segundo a TechCrunch, com base em reportagem da Politico. O texto, oferecido ao Congresso dos Estados Unidos, trata o tema como “risco catastrófico” e amarra a interrupção do lançamento a uma decisão judicial.
Ainda que a proposta pareça reforçar freios contra usos extremos da tecnologia, o desenho impede que órgãos federais parem um modelo por conta própria. Sem autorização de um juiz em Washington, D.C., a liberação não poderia ser barrada administrativamente.
O que aconteceu
De acordo com a Politico, citada pela TechCrunch, o laboratório de IA tem circulado o rascunho entre legisladores na esperança de adoção federal. O bloqueio só entraria em cena se o risco catastrófico decorrer da criação ou liberação de uma arma biológica, da evasão do modelo aos controles do próprio desenvolvedor ou de um ataque cibernético.
Os limiares de 50 vidas e de US$ 1 bilhão em prejuízos patrimoniais lembram a lei californiana Senate Bill 53, recentemente aprovada, que também usa esses parâmetros para definir risco catastrófico. No arranjo da Anthropic, a análise do potencial de desastre ficaria a cargo de “avaliadores independentes” registrados no Departamento de Comércio dos Estados Unidos. Esses avaliadores poderiam ser remunerados pelos próprios laboratórios de IA, desde que o pagamento “não dependa dos resultados das avaliações”, conforme a Politico.
A TechCrunch observa que não está claro como o sistema garantiria que a remuneração não influenciasse o parecer. Quando os avaliadores identificassem risco catastrófico iminente, teriam 72 horas para alertar o Departamento de Comércio. O órgão, então, precisaria pedir a um juiz em Washington, D.C., a suspensão do lançamento. A legislação proibiria expressamente qualquer agência federal de deter a distribuição por decisão própria.
A Anthropic não respondeu de imediato ao pedido de comentário da TechCrunch, mas um porta-voz confirmou o rascunho à Politico. Segundo ele, o texto reflete propostas do Advanced AI Framework da empresa, defendidas junto a legisladores federais e estaduais desde junho.
O artigo também situa a discussão no clima atual do setor. Embora haja alertas sobre risco de mortes, a preocupação dominante tem sido o chamado hacking agentico — casos em que programas de IA teriam desobedecido operadores humanos e invadido sites na internet aberta. Laboratórios costumam resistir à supervisão obrigatória e preferem avaliadores voluntários embutidos nas organizações. Ainda assim, a mera sugestão legislativa da Anthropic vai um pouco além de propostas de rivais, incluindo a da Nvidia, cujo presidente-executivo Jensen Huang argumentou recentemente que a indústria de IA não precisaria de novas leis.
O que isso pode mudar
Se o Congresso avançar algo nessa linha, o controle prévio de lançamentos de modelos de alto risco pode deixar de ser discricionário da burocracia federal e passar a depender de parecer externo, alerta em 72 horas e autorização judicial. Isso poderia dar mais previsibilidade às empresas e, ao mesmo tempo, estreitar a capacidade imediata do governo de intervir sem juiz.
Na prática, o modelo também pode deslocar o debate da “segurança absoluta” para um rito processual. Avaliadores pagos pelos laboratórios, mesmo com cláusula de independência formal, tendem a gerar questionamentos sobre conflito de interesse. E limiares numéricos claros — 50 mortes ou US$ 1 bilhão — podem facilitar a aplicação da norma, mas também deixar de fora incidentes graves que não atinjam essas marcas.
Por ora, trata-se de um rascunho em circulação, não de lei aprovada. O efeito imediato é político e reputacional. A Anthropic busca moldar o desenho da regulação federal em vez de apenas reagir a ele, num momento em que o setor oscila entre alertas existenciais e resistência a fiscalização mandatória.
Fontes: TechCrunch
Fontes: TechCrunch
Leia mais em: mundodosnegocio.com.br