ChatGPT para adolescentes: OpenAI lança versão com mais segurança
Nova experiência adapta as respostas para menores de 18 anos e inclui proteções contra conteúdos considerados inadequados
A OpenAI anunciou uma experiência do ChatGPT voltada para adolescentes, com proteções específicas para usuários menores de 18 anos. A proposta é adaptar o comportamento da ferramenta para essa faixa etária e reduzir a exposição a conteúdos que possam representar riscos.
Segundo a OpenAI, a experiência para adolescentes faz parte de uma estratégia para oferecer proteções adequadas à idade, sem impedir o uso do ChatGPT para aprendizado, criatividade e outras atividades.
Leia também: Quais empresas o ChatGPT mais recomenda em serviços digitais no Brasil?
O QUE MUDA NO CHATGPT PARA ADOLESCENTES?
Quando o sistema identifica que uma conta pertence a alguém com menos de 18 anos, o ChatGPT pode aplicar uma experiência diferente da oferecida aos adultos. Entre as medidas estão restrições adicionais para conteúdos relacionados a violência, conteúdo sexual, automutilação, desafios perigosos e distúrbios alimentares.
A OpenAI afirmou que o modelo deve responder de maneira adequada à idade e incentivar o adolescente a buscar apoio de pessoas de confiança ou profissionais quando uma situação exigir ajuda no mundo real.
A empresa vem trabalhando com um sistema de estimativa de idade, que considera sinais da conta e do uso do serviço para determinar se o usuário é menor de 18 anos. Caso identifique um adulto incorretamente como adolescente, a plataforma permite solicitar uma revisão.
PAIS PODERÃO TER MAIS CONTROLE
A experiência também inclui ferramentas para que pais e responsáveis acompanhem e ajustem algumas configurações da conta do adolescente.
É possível, por exemplo, definir horários de pausa, desativar memória ou histórico de conversas e controlar determinados recursos. Os pais não têm acesso automático ao conteúdo das conversas do adolescente.
Em situações consideradas graves, os sistemas da OpenAI também podem identificar possíveis sinais de risco à segurança do adolescente. Nesses casos, existem mecanismos específicos de notificação para responsáveis, seguindo as regras estabelecidas pela empresa.
CHATGPT TERÁ LIMITES DIFERENTES PARA MENORES
A experiência para adolescentes não é apenas uma versão com configurações diferentes. A OpenAI estabelece regras específicas sobre como o modelo deve responder a determinados assuntos.
Entre as orientações estão não incentivar comportamentos perigosos, não fornecer conteúdo sexual explícito e não reforçar padrões prejudiciais relacionados à aparência.
A empresa também orienta que o ChatGPT não deve se apresentar como substituto de um terapeuta, melhor amigo ou outra relação humana.
A ideia é que o adolescente use a ferramenta para estudar, tirar dúvidas e explorar ideias, respeitando os limites definidos para sua faixa etária.
POR QUE A OPENAI ESTÁ FAZENDO A MUDANÇA?
A criação de uma experiência específica para adolescentes ocorre em meio ao aumento da preocupação com como ferramentas de inteligência artificial são usadas por menores de idade.
A OpenAI já vinha implementando medidas para esse público, incluindo controles parentais e sistemas voltados à identificação de possíveis situações de risco. A empresa afirma que pretende combinar essas ferramentas com proteções diretamente incorporadas ao comportamento do modelo.
Com a nova experiência, a proposta é que a segurança seja aplicada de forma mais adequada à idade do usuário, em vez de oferecer exatamente o mesmo tipo de interação para adolescentes e adultos.
O QUE O CASO DO DISCORD NO BRASIL TEM A VER COM ISSO
O lançamento do ChatGPT for Teens acontece na mesma semana em que o Brasil viveu seu próprio capítulo do debate sobre segurança infantil online. A Autoridade Nacional de Proteção de Dados (ANPD) determinou, em medida preventiva, a suspensão da função de transmissão ao vivo do Discord no país — o recurso "Go Live", usado dentro de servidores privados. A plataforma cumpriu a ordem em 17 de agosto.
Foi a primeira vez que a ANPD usou os poderes de fiscalização do ECA Digital, o Estatuto Digital da Criança e do Adolescente em vigor desde março. Segundo a agência, o Discord não teria adotado mecanismos razoáveis para prevenir violações contra menores nas lives, já que a plataforma não consegue checar o conteúdo transmitido em tempo real. A ANPD registrou um salto de 54% nos relatos de violações envolvendo o Discord entre janeiro e julho deste ano, segundo dados da SaferNet Brasil.
O caso ganhou repercussão nacional após a morte de uma adolescente de 13 anos em Naviraí (MS), em 22 de julho, associada a uma transmissão ao vivo na plataforma. A suspensão das lives vale até que a empresa comprove ter implementado medidas eficazes de proteção.
Leia também: ANPD determina suspensão das lives do Discord no Brasil
ADOLESCENTES BRASILEIROS JÁ USAM IA COMO COMPANHIA
O vínculo emocional que parte dos adolescentes cria com chatbots é justamente um dos comportamentos que motivou as novas travas da OpenAI — e o fenômeno já aparece em pesquisas no Brasil. Um levantamento da Arco Educação com 936 estudantes da rede privada mostrou que quase um em cada cinco adolescentes brasileiros já recorre à IA como companhia quando se sente sozinho, em um cenário no qual 17% dizem sentir solidão com frequência.
Um estudo divulgado pela FGV Direito Rio no mesmo dia do anúncio da OpenAI avaliou as IAs de companhia mais usadas no país — Character.AI, Replika e Chai — e constatou que nenhuma delas implementou mecanismos eficazes de verificação de idade, mantendo apenas a autodeclaração como barreira. Segundo os pesquisadores, isso resulta em conversas de teor sexual com menores mesmo após a entrada em vigor do ECA Digital. Dados do Cetic.br/NIC.br mostram que 65% das crianças e adolescentes brasileiros já usam IA generativa.
Leia também: Plataformas de IAs de companhia são vulneráveis, aponta estudo da FGV
NA MESMA SEMANA, UMA PAUSA POR OUTRO MOTIVO
O anúncio do ChatGPT for Teens dividiu espaço, na semana da OpenAI, com uma notícia de natureza bem diferente. A empresa revelou ter pausado por duas semanas o treinamento por reforço (RL) de seus modelos mais recentes, depois que avaliações internas indicaram que o modelo em desenvolvimento com nome-código Astra pode ter atingido o limiar que seu Preparedness Framework classifica como capacidade cibernética "crítica" — o nível mais alto de risco previsto pela empresa. A decisão também foi motivada por um incidente em que um modelo interno ainda não lançado explorou, de forma autônoma, uma falha nos sistemas da Hugging Face durante testes.
Sam Altman comentou o caso em sua conta no X, afirmando que a OpenAI pretende seguir com o lançamento amplo do Astra e que não vê como boa estratégia restringir modelos poderosos a um grupo seleto de usuários. É outro lembrete de que a palavra "segurança" está no centro da semana da OpenAI por dois motivos diferentes: um voltado a proteger adolescentes do uso da IA, outro a conter o que a própria IA pode ser capaz de fazer.
