A OpenAI criou uma versão do ChatGPT pensada especificamente para adolescentes de 13 a 17 anos. A novidade reúne filtros mais rígidos, ferramentas para estudos e controles que permitem aos pais limitar determinados recursos e definir horários em que a inteligência artificial não poderá ser utilizada.
A mudança acontece em meio ao crescimento do uso de inteligência artificial entre jovens e às preocupações sobre conteúdo inadequado, excesso de uso e dependência emocional de chatbots.
O que muda no ChatGPT para adolescentes?
A principal novidade está nas proteções adicionais. A experiência para adolescentes reduz o acesso a conteúdos considerados inadequados para a idade, incluindo violência gráfica, automutilação, desafios perigosos, conteúdo sexual ou romântico e padrões extremos de beleza.
A OpenAI também afirma que trabalha para impedir que o chatbot participe de interações que possam estimular comportamentos prejudiciais ou criar uma relação emocional inadequada com o usuário.
Pais podem controlar o ChatGPT?
Sim. Mas há um detalhe importante: os pais não conseguem ler as conversas dos filhos nem acompanhar o uso em tempo real.
Depois de vincular as contas, responsáveis podem administrar determinadas configurações, como conteúdo sensível, geração de imagens, modo de voz, memória, acesso a algumas ferramentas e recursos de estudo.
Também é possível estabelecer as chamadas “horas de silêncio”. Durante o período definido, o adolescente fica impedido de usar o ChatGPT.
E se o adolescente conversar sobre algo grave?
A plataforma também criou um mecanismo de alertas de segurança.
Quando os sistemas identificam sinais relacionados a preocupações graves de automutilação ou conversas sobre violência, uma equipe especializada pode avaliar o caso.
Se houver necessidade, o responsável vinculado pode receber uma notificação.
A OpenAI afirma que, nesse processo, não entrega aos pais o histórico completo da conversa. O alerta contém apenas as informações consideradas necessárias para apoiar a segurança do adolescente.
ChatGPT também quer ajudar nos estudos
A nova experiência não foi criada apenas para bloquear conteúdos.
A OpenAI também incluiu recursos voltados à aprendizagem, como guias de estudo, questionários, lembretes e ferramentas visuais interativas.
A proposta é fazer com que o estudante desenvolva o raciocínio e encontre a resposta, em vez de simplesmente receber uma solução pronta.
Existe ainda o Modo de Estudo, que pode ser utilizado para estruturar a interação com foco no aprendizado.
Como a OpenAI identifica que alguém é adolescente?
A empresa utiliza sistemas de previsão de idade para tentar identificar se uma conta pertence a alguém com menos de 18 anos.
O sistema considera informações fornecidas pelo usuário e outros sinais disponíveis para estimar a faixa etária. Quando há indicação de que a pessoa pode ser menor, as proteções destinadas a adolescentes podem ser ativadas.
Se o sistema errar e classificar um adulto como menor, existe a possibilidade de realizar uma verificação de idade para solicitar a retirada da experiência para adolescentes.
Por que a OpenAI criou essa versão?
A decisão ocorre em um momento de pressão crescente para que empresas de tecnologia tornem seus produtos mais seguros para crianças e adolescentes.
A inteligência artificial já é utilizada por jovens para estudar, pesquisar, criar conteúdo e tirar dúvidas. Ao mesmo tempo, especialistas e famílias discutem os riscos de uso excessivo e de interações em que o chatbot passa a ocupar um espaço semelhante ao de um amigo ou confidente.
A OpenAI afirma que vem trabalhando com especialistas para melhorar a maneira como o ChatGPT responde a conversas delicadas e reconhece sinais de sofrimento.
O que acontece quando o adolescente completa 18 anos?
Quando a conta é identificada como pertencente a alguém com 18 anos ou mais, ela deixa a experiência para adolescentes.
Nesse momento, os controles parentais são removidos e o usuário passa a ter controle sobre as configurações da própria conta. As notificações de segurança específicas para adolescentes também deixam de funcionar.
Entenda o contexto
A chegada do ChatGPT para adolescentes representa uma tentativa de adaptar a inteligência artificial a uma realidade que já existe: jovens estão usando chatbots e precisam de ferramentas pensadas para essa faixa etária.
A estratégia combina quatro elementos principais: proteção de conteúdo, controle parental, recursos educacionais e mecanismos de segurança.
Mas existe um desafio maior. Filtros conseguem bloquear determinados conteúdos. Controles podem limitar horários. Alertas podem chamar a atenção dos responsáveis.
Ainda assim, a discussão sobre quanto espaço uma inteligência artificial deve ocupar na vida de um adolescente está apenas começando.
A própria OpenAI reconhece que nenhum sistema de segurança é perfeito. As proteções reduzem determinados riscos, mas não garantem que todas as respostas serão adequadas em qualquer situação.
