A corrida pelo desenvolvimento de sistemas cada vez mais avançados de inteligência artificial (IA) levantou uma questão que parecia improvável há poucos anos: seria possível diminuir o ritmo dessa evolução?
O debate ganhou força após Dario Amodei, CEO da Anthropic, defender que as empresas reduzam a velocidade com que aprimoram os modelos de IA. A ideia, segundo o executivo, não é interromper a tecnologia, mas criar tempo para que os mecanismos de segurança acompanhem os avanços.
VEJA TAMBÉM
Golpistas criam site e aplicativo falsos do Mercado Livre para invadir celulares
Entenda o que está em discussão
A proposta parte de uma preocupação: os modelos de IA estão ficando mais capazes em um ritmo que pode superar a velocidade de criação de ferramentas para controlar seus possíveis riscos.
Amodei afirmou que desacelerar não significa parar o desenvolvimento. O objetivo seria diminuir o ritmo de melhoria das capacidades dos modelos para permitir que empresas, pesquisadores e governos tenham mais tempo para desenvolver avaliações e barreiras de segurança.
O executivo também reconheceu que colocar essa ideia em prática seria difícil, principalmente porque empresas e países estão envolvidos em uma corrida tecnológica e econômica.
Por que seria necessário desacelerar?
Um dos principais argumentos está relacionado ao aumento da autonomia dos sistemas.
Modelos mais avançados conseguem executar tarefas em sequência, utilizar ferramentas, acessar informações e operar com menos intervenção humana. Isso amplia as possibilidades de uso, mas também aumenta o potencial de danos caso um sistema seja utilizado de maneira inadequada ou apresente comportamentos inesperados.
Nos últimos meses, empresas do setor relataram episódios envolvendo agentes de IA que tentaram acessar sistemas externos ou realizar atividades para as quais não haviam sido originalmente destinados, aumentando a preocupação sobre os limites desse tipo de tecnologia.
O que significa desacelerar a IA?
Desacelerar não significa necessariamente desligar servidores ou proibir pesquisas.
Na proposta de Amodei, a ideia seria reduzir o ritmo de evolução dos modelos mais avançados, principalmente enquanto mecanismos de segurança e avaliação são aprimorados.
O plano apresentado pelo CEO da Anthropic envolve três frentes principais: ampliar a presença de avaliadores independentes dentro das empresas, incentivar a criação conjunta de padrões de segurança e buscar coordenação internacional para evitar que uma eventual desaceleração seja anulada pela aceleração de outros países.
LEIA TAMBÉM
iOS 27 chega ao iPhone com nova Siri de IA; veja quais aparelhos recebem a atualização
Empresas poderiam combinar um ritmo menor?
Esse é um dos pontos mais complicados.
Se uma empresa decidir sozinha diminuir o ritmo de desenvolvimento, existe o risco de concorrentes continuarem avançando e conquistarem vantagem tecnológica.
Amodei argumenta que, por isso, seria necessário algum nível de coordenação entre as principais empresas de IA. A proposta inclui a criação de padrões comuns de segurança para que uma companhia não precise escolher entre investir em proteção ou ficar para trás na corrida tecnológica.
O problema é que acordos entre empresas concorrentes podem envolver questões jurídicas e econômicas, inclusive relacionadas às regras de concorrência.
E se um país desacelerar enquanto outro continuar avançando?
A questão fica ainda mais complexa quando entra a competição internacional.
Estados Unidos e China estão entre os principais polos de desenvolvimento de inteligência artificial. Se apenas um deles reduzir o ritmo, empresas do outro país poderiam continuar avançando e conquistar vantagens em áreas estratégicas.
Por isso, a proposta de Amodei também defende cooperação internacional, inclusive com países que não adotam os mesmos sistemas políticos das democracias ocidentais.
Esse é um dos maiores obstáculos para qualquer tentativa global de controlar a velocidade da evolução da IA.
Há apoio para a ideia?
A proposta de Amodei recebeu manifestações favoráveis de outros nomes importantes do setor.
Sam Altman, CEO da OpenAI, afirmou que é necessário encontrar uma forma de dosar o avanço da tecnologia. Elon Musk, da xAI, também declarou apoio à posição de Amodei.
Ao mesmo tempo, há uma discussão sobre como transformar a defesa de uma desaceleração em medidas concretas e verificáveis.
Não existe atualmente um mecanismo internacional capaz de obrigar todas as empresas e países a desenvolver IA no mesmo ritmo.
O que pode ser feito na prática?
Uma das propostas é aumentar a participação de avaliadores independentes nos processos de desenvolvimento.
Esses profissionais poderiam acompanhar não apenas os modelos já finalizados, mas também processos de treinamento, infraestrutura e medidas utilizadas pelas empresas para identificar e reduzir riscos.
A Anthropic afirmou que pretende permitir esse tipo de acompanhamento contínuo em sua própria estrutura.
Outra possibilidade seria a criação de padrões comuns para testes de segurança antes do lançamento de sistemas mais avançados.
Desacelerar é diferente de interromper
Um ponto importante do debate é que a proposta não prevê o abandono da inteligência artificial.
A tecnologia continua sendo vista como capaz de gerar benefícios em áreas como saúde, ciência, produtividade e economia. A preocupação está na possibilidade de que a velocidade de desenvolvimento ultrapasse a capacidade de compreender e controlar os sistemas.
Por isso, a discussão envolve encontrar um equilíbrio entre continuar pesquisando e criar mecanismos capazes de reduzir riscos antes que modelos ainda mais poderosos sejam colocados em circulação.
Entenda o contexto
A discussão sobre desacelerar a inteligência artificial acontece justamente quando os sistemas estão avançando rapidamente e sendo utilizados para tarefas cada vez mais complexas.
O ponto central não é simplesmente decidir entre desenvolver ou não desenvolver IA. O desafio é determinar qual ritmo de avanço permite que segurança, fiscalização e capacidade de resposta acompanhem a evolução tecnológica.
A proposta de Dario Amodei coloca essa questão no centro do debate: ganhar tempo agora poderia permitir o desenvolvimento de mecanismos de proteção antes que os sistemas alcancem capacidades ainda mais difíceis de controlar.
AS MAIS LIDAS DO NC NEWS
As festas secretas de Vorcaro: 120 mulheres, celulares vetados e convidados do poder
Mendonça inclui Flávio Bolsonaro como investigado no Caso Dark Horse
Toffoli, Vorcaro e 196 páginas de sigilo: o escandaloso relatório da Polícia Federal
