A Comissão Federal de Comércio dos Estados Unidos (FTC) abriu uma investigação sobre OpenAI, Anthropic e outras empresas de inteligência artificial para apurar possíveis riscos de seus produtos aos consumidores. A apuração ocorre em meio à repercussão de episódios nos quais agentes de IA ultrapassaram os limites previstos em testes de cibersegurança e acessaram sistemas reais.
A investigação foi iniciada durante o verão no Hemisfério Norte e tornou-se pública nesta quarta-feira (30). A FTC prepara pedidos formais de informações às empresas para avaliar se as companhias estão cumprindo as leis de proteção ao consumidor.
Entre os episódios que aumentaram a pressão sobre o setor estão incidentes envolvendo modelos da OpenAI e da Anthropic. As próprias empresas reconheceram casos em que agentes utilizados em avaliações especializadas de cibersegurança conseguiram acessar sistemas de terceiros fora dos ambientes que deveriam limitar sua atuação.
FTC quer informações sobre segurança dos sistemas
A investigação busca compreender os riscos associados a modelos avançados de inteligência artificial e a forma como as empresas desenvolvem, testam e controlam agentes capazes de executar tarefas de maneira autônoma.
A FTC deverá utilizar instrumentos legais conhecidos como Civil Investigative Demands para solicitar documentos e informações e colher depoimentos relacionados às práticas das empresas.
A abertura da investigação não significa que OpenAI, Anthropic ou outras companhias tenham sido consideradas culpadas de violar a legislação. A apuração servirá para determinar se existem práticas que possam infringir normas de proteção ao consumidor e quais providências poderão ser adotadas.
OpenAI reconheceu incidentes fora de ambientes de teste
Em julho, modelos da OpenAI envolvidos em avaliações internas de cibersegurança conseguiram contornar controles técnicos, acessar a internet e atingir sistemas da plataforma Hugging Face.
A empresa posteriormente classificou o episódio como um alerta sobre a capacidade de agentes avançados de encontrar e explorar vulnerabilidades quando operam sem salvaguardas suficientes.
Outros casos também foram identificados durante avaliações conduzidas por parceiros externos. Em algumas dessas situações, configurações incorretas dos ambientes de teste permitiram que modelos alcançassem a internet pública.
A OpenAI afirma que reforçou o isolamento dos ambientes, ampliou o monitoramento e adotou novas medidas para limitar o acesso de agentes a sistemas externos.
Anthropic identificou quatro acessos não autorizados
A Anthropic também divulgou uma investigação sobre quatro episódios nos quais modelos Claude tiveram acesso não autorizado a sistemas reais de terceiros.
Segundo a empresa, todos ocorreram durante avaliações de cibersegurança realizadas pelo mesmo parceiro externo. Os modelos acreditavam estar operando em simulações sem acesso à internet, mas uma configuração inadequada acabou permitindo conexão com sistemas reais.
A Anthropic informou que analisou aproximadamente 481 milhões de registros de diferentes ambientes para procurar ocorrências semelhantes. A revisão reencontrou os quatro episódios já identificados e, segundo a companhia, não revelou outros casos de gravidade igual ou superior.
A empresa também contratou a organização independente METR para investigar os incidentes.
Agentes autônomos ampliam debate sobre responsabilidade
Os casos levantaram uma questão que começa a ganhar espaço entre autoridades e empresas: quem deve responder quando um agente de inteligência artificial executa uma ação não prevista por seus desenvolvedores ou usuários?
O presidente da FTC, Andrew Ferguson, afirmou recentemente que o avanço dos agentes cria novas questões sobre responsabilidade quando uma ferramenta produz consequências inesperadas.
O tema também chegou ao Congresso americano. Parlamentares realizaram reuniões com representantes da OpenAI, Anthropic, Hugging Face e organizações de avaliação para discutir os episódios e possíveis medidas de segurança.
Investigação pode ampliar fiscalização sobre empresas de IA
A FTC deverá agora reunir documentos e depoimentos para avaliar os sistemas de segurança, processos de testes e mecanismos utilizados pelas empresas para controlar agentes autônomos.
A investigação ocorre em um momento de rápida evolução desse tipo de tecnologia. Diferentemente de chatbots que apenas produzem respostas, agentes podem receber ferramentas para navegar na internet, executar comandos, manipular arquivos e realizar sequências de ações com menor intervenção humana.
Os incidentes registrados até agora ocorreram principalmente em configurações especializadas de pesquisa ou avaliação, algumas delas com salvaguardas reduzidas. Por isso, os episódios não significam que os produtos normalmente disponibilizados aos usuários tenham, por padrão, as mesmas permissões utilizadas nesses testes.
