Um tribunal federal de apelações dos EUA analisou na quarta-feira o pedido da xAI para bloquear a lei da Califórnia sobre a divulgação de dados de treinamento de IA. Durante a audiência, os juízes do 9º Circuito, sediado em São Francisco, pareceram não convencidos pelo argumento constitucional da empresa, embora também tenham pressionado os advogados do estado sobre quanta informação a Califórnia pode exigir que as empresas de IA forneçam.
Promulgada como parte do esforço mais amplo do estado de supervisionar a IA, a lei de transparência exige que os fabricantes de IA generativa compartilhem publicamente resumos de seus dados de treinamento. Até o momento, a xAI argumentou que a lei viola seus direitos de liberdade de expressão da Primeira Emenda e a obriga a divulgar detalhes proprietários sobre como seus modelos são treinados.
O argumento da xAI centra-se em saber se obrigar as empresas a publicar informações sobre seus processos de treinamento constitui discurso compelido. A Primeira Emenda protege geralmente indivíduos e empresas contra restrições governamentais à expressão, mas também levanta questões sobre quando as autoridades podem exigir divulgações.
Para desenvolvedores de IA, a disputa envolve equilibrar a transparência com a proteção de segredos comerciais e tecnologia proprietária. Uma decisão favorável à Califórnia poderia dificultar que os desenvolvedores contestem exigências semelhantes de divulgação em outros estados.
A juíza Rawlinson afirma que a xAI precisa demonstrar que a lei de transparência é irrazoável
Em março, um juiz federal em Los Angeles, Jesus Bernal, rejeitou o pedido da xAI para suspender a lei estadual, afirmando que a empresa não havia demonstrado desde o início que tinha probabilidade de prevalecer em sua alegação constitucional. Na audiência de Wednesday, o tribunal de apelações apareceram tendeu a manter a decisão de Bernal.
A juíza do Circuito dos EUA, Johnnie Rawlinson, disse ao advogado da xAI, James Xi, que, para argumentar que a lei viola a Primeira Emenda, a empresa deve mostrar que a solicitação do governo é irrazoável.
Ele até sugeriu que a decisão do estado de solicitar informações pode ter sido sensata. "Não é razoável que o governo queira que seus cidadãos saibam antecipadamente quais informações estão sendo inseridas no instrumento de IA?", perguntou ele.
Ainda assim, os juízes manifestaram algum acordo com a alegação da xAI de que o estado poderia obrigá-la a entregar uma quantidade "ilimitada" de informações.
No início de julho, o Knight Institute apresentou um amicus curiae sobre o caso. Em seu parecer, alertou que as grandes desenvolvedoras de tecnologia estão ocultando detalhes vitais sobre como os sistemas de IA generativa funcionam, como são construídos e como influenciam as informações que as pessoas veem.
Além disso, argumentou que os requisitos de divulgação projetados para promover o livre fluxo de informações comerciais precisas devem ser submetidos a um padrão deferente de análise sob a Primeira Emenda. Aplicando esse padrão, o Instituto sustentou que a xAI não conseguiu demonstrar uma violação constitucional, pois a lei da Califórnia atende ao interesse do estado em manter os usuários informados, sem impor um ônus excessivo à proteção da liberdade de expressão.
A decisão do tribunal de apelações também pode ter implicações mais amplas além da xAI, já que a Califórnia é um dos mercados mais importantes para a regulamentação de tecnologia nos EUA; outros estados e legisladores estão considerando medidas para aumentar a transparência em torno do desenvolvimento de IA. Se o Nono Circuito mantiver os requisitos da Califórnia, os desenvolvedores de IA estarão sob maior pressão para documentar seus conjuntos de dados de treinamento e explicar como praticam a gestão de dados, mas uma decisão contra o estado poderia limitar até onde os reguladores podem ir ao exigir divulgações.
O Grok da xAI buscou dados corporativos sem qualquer solicitação ou autorização
A análise do Nono Circuito ocorre após novas descobertas sobre o Grok Bot da xAI.
Novas descobertas da empresa de identidade agencial NewCore mostram que o Grok Bot da xAI buscou repetidamente dados corporativos sem qualquer solicitação ou autorização, persistindo mesmo depois que um dos proprietários recusou suas ofertas de verificação quatro vezes consecutivas.
Além disso, o bot afirmou não ter realizado nenhuma ligação quando questionado diretamente. Seu histórico de chat também não apresentava evidências da atividade; o proprietário nunca foi notificado e a plataforma não ofereceu logs por turno para verificar o que havia acontecido.
Em apenas cinco dias, dois bots Grok vinculados a contas de funcionários da NewCore iniciaram 31 solicitações no Google Calendar, Gmail, Slack, GitHub e Notion sem permissão ou instruções do usuário.
Algumas solicitações foram feitas mesmo quando os laptops dos proprietários estavam desligados ou em modo de suspensão. Para uma das contas, o Gateway Secure MCP da NewCore pausou as solicitações aguardando aprovação humana e alertou o proprietário, desencadeando uma investigação pela equipe de pesquisa em segurança da NewCore.
Como parte da investigação, os pesquisadores utilizaram outro bot Grok em uma conta diferente, configuraram-no usando o mesmo gateway e executaram um teste típico, no qual o bot recebeu um pedido de trabalho junto com a aprovação para leitura única do telefone, e rejeição em cada tentativa de continuar operando sozinho.
No entanto, o bot continuou a gerar solicitações não solicitadas, que foram capturadas pelo gateway e deixadas sem resposta. Essas solicitações tentavam acessar Google Drive, Google Calendar, Gmail, Slack, Notion e GitHub.
Não apenas leia notícias sobre criptomoedas. Entenda-as. Inscreva-se em nossa newsletter. É grátis.