Por que ex-chefe do Google alerta que IA pode fazer mais mal às crianças que redes sociais?
Alerta envolve a forma como crianças interagem com chatbots e os possíveis impactos desse tipo de tecnologia
A inteligência artificial pode representar riscos maiores para crianças do que as redes sociais, segundo Tom Siegel, ex-vice-presidente de confiança e segurança do Google.
Em entrevista à Reuters, ele afirmou que a indústria pode estar repetindo erros cometidos durante a expansão das redes sociais.
Siegel foi responsável pela criação da equipe de confiança e segurança do Google e deixou a empresa em 2019. Agora, ele defende medidas externas para acompanhar os riscos associados ao avanço da IA.
Leia também: ANPD multa TikTok em R$ 153,7 milhões por falhas na proteção de crianças
POR QUE A IA PODE SER MAIS PERIGOSA?
Para Siegel, a diferença está na forma como crianças interagem com sistemas de inteligência artificial. Enquanto as redes sociais são plataformas de conteúdo e interação entre usuários, os chatbots podem manter conversas individuais e responder diretamente às solicitações de menores.
O ex-executivo afirmou à Reuters que os riscos podem incluir suicídio, psicose e redução da capacidade de pensamento crítico, fenômeno que ele descreve como “cognitive offloading”, quando uma pessoa passa a depender da IA para realizar tarefas que exigiriam seu próprio raciocínio.
A preocupação ocorre enquanto empresas de tecnologia ampliam recursos de chatbots que já são utilizados diariamente por milhões de jovens. Para Siegel, as empresas ainda não estabeleceram proteções suficientes para esse público.
EX-CHEFE DO GOOGLE QUER MAIS CONTROLE SOBRE A IA
Siegel passou a liderar o Youth AI Safety Institute, criado pela organização Common Sense Media em maio.
A iniciativa pretende desenvolver padrões independentes para avaliar riscos da inteligência artificial para crianças, em uma abordagem comparável aos testes de segurança aplicados em outras áreas.
O instituto tem entre seus apoiadores a Anthropic e a OpenAI Foundation. Siegel pretende trabalhar com empresas de tecnologia e grupos independentes para estabelecer critérios de segurança e responsabilização.
Para o executivo, não é suficiente esperar que as próprias empresas resolvam os problemas. Ele defende uma participação externa na criação de padrões capazes de acompanhar a velocidade de desenvolvimento da tecnologia.
IA REPETE ERROS DA ERA DAS REDES SOCIAIS?
A comparação ocorre em um momento em que empresas de redes sociais enfrentam processos e cobranças de governos por possíveis danos a usuários menores de idade.
Para Siegel, o problema está justamente na velocidade com que a IA avança enquanto mecanismos de segurança e regulamentação tentam acompanhar a tecnologia.
A avaliação não significa que os danos já estejam comprovadamente acima dos provocados pelas redes sociais, mas representa o alerta de um ex-responsável pela segurança de uma das maiores empresas de tecnologia do mundo.
Leia também: 7 países que proibiram o uso de redes sociais por menores de idade
