A OpenAI anunciou nesta sexta-feira (30) novas medidas de segurança para o ChatGPT, com restrições mais rigorosas ao fornecimento de informações sobre armas a adolescentes. As mudanças buscam reduzir o risco de utilização da inteligência artificial no planejamento de episódios de violência e serão implementadas gradualmente nas próximas semanas.
Pelas novas regras, usuários menores de 18 anos terão acesso limitado a informações práticas sobre armas e sistemas de segurança que possam ser utilizadas de maneira perigosa. A restrição poderá ser aplicada mesmo quando a pergunta parecer inofensiva e não houver sinais de intenção violenta. A empresa também pretende ampliar o monitoramento de conversas que indiquem riscos à segurança de outras pessoas.
OpenAI alerta PF sobre ameaças de morte a Lula feitas em conversas no ChatGPT
O que muda no ChatGPT para adolescentes?
A principal mudança envolve o tratamento de perguntas relacionadas a armas de fogo, equipamentos e sistemas de segurança.
Até então, as respostas do ChatGPT já estavam sujeitas a regras que proíbem a utilização da plataforma para facilitar atividades violentas ou ilegais. Com a atualização, a OpenAI pretende tornar as restrições mais rigorosas para adolescentes, independentemente de a conversa apresentar sinais explícitos de risco.
Na prática, o sistema poderá deixar de fornecer determinadas informações técnicas que, embora tenham aplicações legítimas, também possam ser utilizadas para facilitar atos violentos.
A empresa informou que aperfeiçoou seu sistema de estimativa de idade para identificar contas que provavelmente pertencem a pessoas com menos de 18 anos.
Esses usuários poderão ser direcionados automaticamente para uma experiência com proteções específicas para adolescentes.
A medida não significa que todas as perguntas sobre armas serão proibidas. Informações gerais, históricas e educativas poderão continuar disponíveis, desde que não facilitem o uso indevido de armamentos ou a prática de violência.
Conversas sobre violência poderão ser encerradas automaticamente
Outra novidade envolve a identificação de comportamentos considerados preocupantes durante as interações com a inteligência artificial.
Segundo a OpenAI, o ChatGPT poderá encerrar automaticamente conversas nas quais um usuário demonstre preocupação recorrente e intensa com a prática de violência.
A empresa também poderá suspender temporariamente contas quando identificar várias conversas desse tipo.
As medidas não ficarão restritas aos adolescentes. Dependendo do conteúdo e dos sinais de risco identificados, usuários adultos também poderão ser submetidos às novas limitações.
O objetivo anunciado é impedir que a plataforma seja utilizada para aprofundar comportamentos violentos ou fornecer informações que possam contribuir para ataques.
A identificação de sinais de alerta, entretanto, não significa necessariamente que o usuário esteja planejando cometer um crime. A avaliação depende do contexto e dos critérios de segurança utilizados pela empresa.
Pais poderão receber alertas sobre contas suspensas
A OpenAI também informou que pretende desenvolver notificações para pais e responsáveis quando contas de adolescentes forem temporariamente suspensas por conversas recorrentes relacionadas à violência.
A funcionalidade ainda está em desenvolvimento e não foi apresentada como um recurso disponível imediatamente para todos os usuários.
A proposta faz parte de um conjunto de ferramentas destinadas a ampliar a proteção de menores de idade que utilizam serviços de inteligência artificial.
Segundo a empresa, adolescentes passam, em média, menos de 15 minutos por dia no ChatGPT, conforme dados apresentados em seu primeiro relatório sobre o uso da plataforma por esse público.
O anúncio ocorre em meio a discussões internacionais sobre os riscos associados ao uso de ferramentas de inteligência artificial por crianças e adolescentes.
ChatGPT também limitará detalhes sobre ataques em massa
As mudanças incluem novas restrições para perguntas relacionadas a ataques em massa ocorridos no passado.
A OpenAI informou que pretende reduzir a quantidade de detalhes fornecidos sobre armamentos utilizados nesses crimes e sobre as formas pelas quais os responsáveis conseguiram obtê-los.
As limitações serão aplicadas a todos os usuários, independentemente da idade.
O objetivo é evitar que informações históricas sejam apresentadas de maneira que possam facilitar a reprodução de episódios violentos.
A plataforma poderá continuar oferecendo explicações sobre os acontecimentos, suas consequências, o impacto sobre as vítimas e as medidas de prevenção.
A distinção estará no nível de detalhamento permitido, especialmente quando uma resposta puder servir como orientação prática para a realização de ataques.
Medidas surgem após críticas à segurança dos adolescentes
O anúncio acontece em um período de maior cobrança sobre as empresas responsáveis por ferramentas de inteligência artificial.
Um relatório divulgado em outubro pela organização Common Sense Media apontou problemas na capacidade de proteção de adolescentes durante conversas sobre temas sensíveis.
Segundo a entidade, em situações envolvendo suicídio, automutilação e transtornos alimentares, os alertas destinados aos responsáveis nem sempre foram emitidos de maneira adequada ou no momento esperado.
O levantamento reforçou o debate sobre a eficácia dos mecanismos utilizados pelas plataformas para identificar situações de risco.
A OpenAI afirma que continuará aprimorando suas ferramentas de proteção e os procedimentos de resposta a comportamentos considerados perigosos.
Empresa já comunicou ameaças identificadas no ChatGPT à Polícia Federal
No Brasil, a atuação da OpenAI na identificação de possíveis ameaças ganhou destaque em outubro, quando a empresa comunicou à Polícia Federal conversas de usuários que apresentavam indícios de violência contra o presidente Luiz Inácio Lula da Silva.
Segundo informações divulgadas na ocasião, os registros envolviam pelo menos duas pessoas que haviam feito comentários considerados preocupantes sobre possíveis ataques.
A documentação foi encaminhada às autoridades brasileiras para avaliação da necessidade de investigações.
A empresa também informou ter comunicado o Tribunal Superior Eleitoral sobre os episódios, que ocorreram durante o período eleitoral.
O encaminhamento das mensagens não representou comprovação de que os usuários haviam cometido crimes ou que os ataques seriam efetivamente realizados.
O episódio demonstrou como conversas com ferramentas de inteligência artificial podem ser analisadas por mecanismos de segurança e, em situações consideradas graves, resultar em comunicações às autoridades.
Próximos passos
A OpenAI informou que as novas medidas começarão a ser disponibilizadas gradualmente nas próximas semanas.
Durante esse período, a empresa deverá ampliar as restrições para adolescentes, aprimorar a identificação de sinais de violência e desenvolver os mecanismos de suspensão temporária de contas.
As notificações destinadas aos pais também deverão passar por novas etapas de desenvolvimento antes de sua disponibilização.
A efetividade das mudanças dependerá da capacidade da plataforma de identificar situações de risco sem impedir indevidamente o acesso a informações legítimas e educativas.
