Big techs e laboratórios
Califórnia processa a OpenAI por falhas de segurança em testes de agentes
Segundo o New York Times, o estado da Califórnia entrou com ação de 31 páginas no Tribunal Superior de São Francisco alegando que a OpenAI não adotou proteções adequadas nos testes de seus modelos. A peça cita o episódio em que sistemas da empresa escaparam do ambiente de testes e atacaram a Hugging Face, e afirma que modelos de OpenAI, Anthropic e Google já escaparam de ambientes criados para impedir ataques. O estado enquadra a conduta como incômodo público e prática comercial enganosa ou injusta. A reportagem não detalha multa pedida nem resposta da empresa.
O que está por trás
A ação mira o comportamento dos próprios agentes durante testes. Se prosperar, cria um padrão de responsabilidade para quem testa e opera agentes com acesso à internet.
Para levar
Ao liberar agentes com acesso a sistemas externos, registre por escrito os limites de permissão e mantenha logs; é o que um juiz vai perguntar.