Pesquisadores de uma empresa de segurança cibernética demonstraram como a inteligência artificial pode ser utilizada para encontrar falhas em aplicativos e acelerar ataques digitais. Em um teste envolvendo o TikTok, a equipe conseguiu explorar vulnerabilidades que permitiam o acesso remoto à câmera e às fotos de um celular.
O trabalho foi realizado pela empresa americana DepthFirst, especializada em segurança digital. Segundo os pesquisadores, a inteligência artificial foi utilizada para analisar códigos e encontrar pontos vulneráveis que poderiam ser combinados em uma sequência de exploração.
VEJA TAMBÉM:
Documentos revelam disputa entre NYT, OpenAI e Microsoft sobre uso de conteúdo para treinar IA
[H2] Entenda o que aconteceu
A equipe da DepthFirst desenvolveu um sistema de inteligência artificial voltado à identificação de vulnerabilidades. Para isso, utilizou uma versão modificada do GLM, modelo de IA disponibilizado pela empresa chinesa Z.ai.
Durante um teste, os pesquisadores encontraram problemas em um software de código aberto utilizado pelo TikTok. A partir dessas falhas, conseguiram construir uma cadeia de exploração que possibilitou o acesso remoto a recursos do smartphone que deveriam permanecer protegidos.
Em uma demonstração apresentada aos pesquisadores do The Washington Post, um funcionário conseguiu acessar remotamente a câmera e o rolo de fotos de um celular que estava utilizando o TikTok.
A inteligência artificial não fez tudo sozinha
Apesar de a IA ter sido fundamental para encontrar os problemas, o ataque demonstrado não foi completamente autônomo.
O sistema foi utilizado principalmente para analisar códigos, identificar possíveis vulnerabilidades e acelerar a investigação técnica. Depois da descoberta, pesquisadores humanos participaram da construção da sequência necessária para explorar as falhas.
O caso mostra, portanto, como ferramentas de IA podem reduzir o tempo necessário para localizar vulnerabilidades que poderiam ser aproveitadas por criminosos digitais.
TikTok foi avisado e corrigiu as falhas
De acordo com informações analisadas pelo The Washington Post, a DepthFirst comunicou as vulnerabilidades ao TikTok.
A empresa confirmou a existência dos problemas e realizou correções. Não há indicação, nas informações divulgadas sobre o teste, de que essas vulnerabilidades continuem ativas na plataforma.
O episódio é importante porque demonstra uma diferença entre identificar uma vulnerabilidade em um ambiente controlado e realizar um ataque contra usuários reais. O objetivo declarado da equipe era testar a segurança e ajudar a corrigir os problemas encontrados.
LEIA TAMBÉM:
Especialistas de EUA e China propõem regras de segurança para IA semelhantes às do setor nuclear
IA também pode ser usada por criminosos
O avanço das ferramentas de inteligência artificial vem aumentando a preocupação de especialistas em segurança cibernética.
Os mesmos recursos utilizados por pesquisadores para encontrar falhas podem, em determinadas circunstâncias, ser adaptados para automatizar etapas de ataques digitais. Isso inclui a identificação de vulnerabilidades, análise de códigos e desenvolvimento de métodos para explorar sistemas.
Especialistas ouvidos pelo The Washington Post afirmam que modelos de IA mais acessíveis podem diminuir a barreira técnica para pessoas interessadas em realizar ataques.
Modelos gratuitos ampliam o acesso às ferramentas
Um dos pontos destacados no caso é a disponibilidade de modelos chamados de open-weight, que podem ser baixados, modificados e utilizados por diferentes pessoas e empresas.
A DepthFirst adaptou um modelo GLM para utilizá-lo em sua ferramenta de busca por vulnerabilidades. A possibilidade de modificar esse tipo de sistema permite que pesquisadores criem aplicações específicas para defesa digital, mas também levanta discussões sobre o potencial de uso ofensivo.
Segundo especialistas citados pelo Washington Post, modelos gratuitos ainda apresentam limitações em comparação com algumas das ferramentas mais avançadas desenvolvidas especificamente para cibersegurança, mas vêm evoluindo rapidamente.
O que usuários podem fazer para aumentar a segurança
O episódio também reforça a importância de controlar as permissões concedidas aos aplicativos instalados no celular.
Entre as medidas recomendadas estão:
Manter aplicativos e sistema operacional atualizados;
Revisar periodicamente quais aplicativos têm acesso à câmera e às fotos;
Evitar conceder permissões que não sejam necessárias para o funcionamento do aplicativo;
Instalar aplicativos somente por fontes confiáveis;
Ficar atento a atualizações de segurança disponibilizadas pelos desenvolvedores.
A recomendação é especialmente relevante para aplicativos que têm acesso a informações pessoais, arquivos, localização, câmera ou microfone.
Entenda o contexto
O caso do TikTok faz parte de um cenário mais amplo em que a inteligência artificial passou a ser utilizada tanto para defender sistemas quanto para procurar formas de invadi-los.
Empresas de segurança têm empregado IA para analisar grandes volumes de código e identificar vulnerabilidades com mais rapidez. Ao mesmo tempo, especialistas alertam que ferramentas semelhantes podem ser utilizadas por criminosos para acelerar determinadas etapas de ataques.
Nos últimos meses, diferentes empresas de tecnologia e segurança também relataram casos envolvendo modelos de IA utilizados em atividades cibernéticas ofensivas. O debate, portanto, deixou de ser apenas sobre a capacidade dos sistemas de gerar textos ou imagens e passou a envolver diretamente a segurança de computadores, celulares e serviços digitais.
Para usuários comuns, a principal recomendação continua sendo manter dispositivos atualizados e limitar o acesso dos aplicativos a informações e recursos que realmente precisam utilizar.
AS MAIS LIDAS DO NC NEWS
Quem é Milton Leite, ex-presidente da Câmara de SP alvo de operação que investiga infiltração do PCC
Teto da cabine de Boeing 737 desaba durante voo no Irã; passageiros precisam trocar de avião
