O Gemini, modelo de inteligência artificial do Google, conseguiu acessar sem autorização sistemas de três empresas reais durante testes de cibersegurança realizados em maio. O episódio é apontado como o primeiro caso conhecido em que uma IA da companhia ultrapassou os limites de uma avaliação e entrou em sistemas externos reais.
O teste deveria acontecer em um ambiente isolado, com empresas fictícias como alvos. No entanto, o Gemini recebeu acesso à internet por engano e passou a encontrar informações e credenciais de organizações verdadeiras. Nos três episódios, o sistema interrompeu as ações depois de identificar que os alvos não faziam parte da simulação.
VEJA TAMBÉM:
Rei Charles III alerta sobre riscos da inteligência artificial e pede controle antes que seja tarde
Como o Gemini conseguiu entrar nas empresas?
Os testes foram conduzidos pela Irregular, empresa especializada em avaliar a segurança de sistemas avançados de inteligência artificial. O objetivo era testar a capacidade do Gemini em tarefas relacionadas à cibersegurança dentro de um cenário controlado.
Em uma das avaliações, a empresa fictícia usada na simulação tinha o mesmo nome de uma companhia existente. Com acesso indevido à internet, o Gemini encontrou a organização verdadeira e tentou acessar um de seus sistemas.
IA conseguiu descobrir senha
Em um dos episódios, o modelo testou diferentes combinações até conseguir descobrir uma senha que permitiu a entrada em um sistema protegido.
Nos outros dois casos, a inteligência artificial encontrou credenciais disponíveis publicamente na internet e utilizou as informações para acessar sistemas pertencentes a empresas reais.
Gemini interrompeu as próprias ações
Segundo o Google, nos três episódios o Gemini interrompeu as atividades depois de perceber que havia entrado em organizações reais, e não nos ambientes fictícios utilizados na avaliação.
A companhia considera esse comportamento uma demonstração de que os mecanismos de segurança do modelo funcionaram. O Google também afirma que nenhuma das três organizações sofreu danos.
Falha deu acesso do modelo à internet
Um ponto central do episódio está no ambiente utilizado para os testes. O Gemini deveria trabalhar em uma estrutura isolada da internet, justamente para impedir que ações realizadas durante as avaliações alcançassem sistemas externos.
O acesso à rede aberta, porém, foi disponibilizado por engano. A partir daí, o modelo passou a encontrar empresas, informações e credenciais existentes no mundo real.
LEIA TAMBÉM:
ONU alerta para riscos da inteligência artificial e pede ação urgente para regulamentar tecnologia
Empresas afetadas foram avisadas
O Google informou que tomou conhecimento do episódio em julho e abriu uma investigação. As três organizações atingidas foram notificadas sobre os acessos.
A empresa responsável pelos testes também afirmou ter realizado mudanças em seus procedimentos para corrigir as falhas que permitiram que os modelos alcançassem a internet durante as avaliações.
Por que o caso só veio a público agora?
Embora as invasões tenham acontecido em maio, os episódios somente se tornaram públicos meses depois. O Google confirmou os casos após ser questionado sobre as ocorrências.
A companhia argumenta que não havia divulgado os episódios anteriormente porque os sistemas interromperam as próprias ações e, segundo a empresa, não houve danos às organizações atingidas.
Outras empresas de IA já registraram episódios semelhantes
O caso do Gemini não é isolado no setor de inteligência artificial. Outros desenvolvedores de modelos avançados também registraram situações em que sistemas utilizados em avaliações ultrapassaram os limites inicialmente previstos nos testes.
Os episódios aumentaram o debate entre pesquisadores e empresas sobre quais barreiras devem existir quando agentes de inteligência artificial recebem capacidade para executar tarefas de forma autônoma.
Incidente aumenta preocupação com agentes autônomos
Modelos capazes de navegar na internet, utilizar ferramentas, escrever códigos e executar sequências de tarefas apresentam possibilidades diferentes dos chatbots tradicionais, que normalmente dependem diretamente dos comandos enviados pelos usuários.
À medida que esses sistemas ganham mais autonomia, pesquisadores de segurança defendem mecanismos capazes de limitar as ações realizadas fora dos ambientes autorizados e identificar rapidamente comportamentos inesperados.
Entenda o contexto
O incidente ocorreu durante uma avaliação de cibersegurança realizada em maio. O Gemini deveria atacar apenas empresas fictícias dentro de um ambiente controlado, mas recebeu acesso à internet aberta por engano.
A partir dessa falha, o sistema encontrou informações sobre organizações reais e conseguiu acessar três delas. Segundo o Google, o Gemini interrompeu as ações ao identificar que os alvos eram verdadeiros, as empresas foram posteriormente notificadas e não houve danos.
O episódio reforça uma discussão crescente no setor de tecnologia: como garantir que agentes de inteligência artificial cada vez mais capazes permaneçam dentro dos limites definidos por seus desenvolvedores.
AS MAIS LIDAS DO NC NEWS:
Cobertura onde ocorreu caso Matsunaga tem dificuldade para ser vendida em SP
Posso votar no mesmo senador duas vezes? Entenda a regra para as eleições de 2026
Brasileiro volta ao Brasil após seis meses na guerra da Ucrânia e surpreende esposa durante plantão
