Os pais têm uma nova atividade online de seus filhos com a qual se preocupar: os adolescentes estão tendo conversas românticas e sexuais (ou seja, fazendo “sexting”) com chatbots de inteligência artificial (IA).
Os bate-papos podem variar de românticos e cheios de insinuações a sexualmente gráficos e violentos, de acordo com entrevistas com pais, conversas publicadas nas redes sociais e especialistas. Eles estão ocorrendo principalmente em ferramentas “AI companion” (ou companheiros de IA), mas aplicativos de IA de uso geral, como o ChatGPT, também podem criar conteúdo sexual com algumas instruções inteligentes.
Os especialistas alertam que os bate-papos com IA podem levar a expectativas irrealistas sobre sexo e dinâmica de relacionamento. Os pais se preocupam com os perigos para a saúde mental de seus filhos ou com o fato de eles serem expostos a cenários sexuais descritos muito jovens. Alguns acham que as ferramentas podem ter algum valor, mas com limites.
Quando Damian Redman, de Saratoga Springs, Nova York, fez uma verificação de rotina no celular de seu filho da oitava série, ele encontrou um aplicativo chamado PolyBuzz. Ele analisou os bate-papos que seu filho estava tendo com personagens femininas de anime com IA, descobriu que eram flertes e que as tentativas de conversas mais sexuais estavam bloqueadas.
“Não quero impor as regras de ontem às crianças de hoje. Quero esperar e descobrir o que está acontecendo”, disse Redman, que decidiu continuar monitorando o aplicativo.
Testamos dez chatbots para identificar os personagens de IA mais populares, os tipos de conversas que eles têm, os filtros existentes e a facilidade de contorná-los.
Conheça seus bots
Os chatbots de IA são interfaces de bate-papo abertas que geram respostas a perguntas complexas ou conversam de forma descontraída sobre qualquer assunto. Não há escassez de lugares onde os menores podem encontrar essas ferramentas, o que dificulta o seu bloqueio. Os bots de IA são sites, aplicativos autônomos e recursos incorporados a serviços existentes, como o Instagram ou videogames.
Há diferentes tipos de chatbots. As opções mais comuns são o ChatGPT, da OpenAI, o Claude, da Anthropic, o Gemini, do Google e o Meta AI, que foi lançado recentemente como um aplicativo autônomo. Essas opções têm filtros mais fortes e seus principais produtos não foram projetados para a interpretação de papéis. Eles podem participar de conversas no mínimo sugestivas ou românticas e criar conteúdo sexual com as instruções corretas. Eles podem mudar para o bate-papo baseado em voz, lendo as respostas em voz alta com vozes realistas, até mesmo sensuais.
As ferramentas de IA de companhia são muito mais populares para bate-papos sugestivos, incluindo Character.AI, Replika, Talkie, Talk AI, SpicyChat e PolyBuzz. O ChatGPT e o Meta AI também lançaram opções de companheiros de bate-papo. Esses tipos de ferramentas têm bibliotecas de personagens e personalidades pré-programadas, muitas delas projetadas com o objetivo de provocar a excitação, como as de romances ou as diversas opções de “irmãos adotivos” no AI Studio da Meta.
Em nosso teste de um bate-papo no Meta AI Studio, a direção de flerte do personagem “irmã postiça” ficou imediatamente clara.
Os aplicativos menores tendem a ter menos limites ou filtros. Procure qualquer aplicativo que tenha “AI girlfriend”, “AI boyfriend” ou “AI companion” no nome ou na descrição. Mais aplicativos estão sendo adicionados às lojas de aplicativos diariamente.
Do que eles estão falando?
Não se trata apenas de sexo, de acordo com pais e especialistas. Os adolescentes estão tendo uma série de conversas com bots de personagens, incluindo conversas amigáveis, terapêuticas, engraçadas e românticas.
“Estamos vendo os adolescentes experimentarem diferentes tipos de relacionamentos - ser a esposa de alguém, ser o pai de alguém, ser o filho de alguém. Há conteúdo relacionado a jogos e animes que as pessoas estão trabalhando. Há conselhos”, disse Robbie Torney, diretor sênior de programas de IA do grupo de defesa da família Common Sense Media. “O sexo faz parte, mas não é a única parte.”
Alguns confiam nos chats de IA, vendo-os como um espaço sem julgamentos durante um período difícil de desenvolvimento. Outros os usam para explorar seu gênero ou sexualidade.
Quando participam de bate-papos sexuais, eles variam entre insinuações e descrições gráficas. Os bate-papos podem envolver dinâmicas de poder e questões de consentimento de maneiras que não imitam o mundo real.
“O que causa alguns danos ou riscos é que os bots não estão programados para responder da mesma forma que responderiam em um relacionamento real”, disse Torney.
Não existem filtros?
As configurações padrão da maioria das ferramentas complementares de IA permitem, e às vezes incentivam, situações de dramatização arriscadas, com base em nossos testes. Algumas param antes que apareçam descrições reais de sexo, enquanto outras o descrevem, mas evitam certas palavras, como nomes de partes do corpo.
Há soluções alternativas e opções pagas que podem levar a trocas mais gráficas. As instruções para passar pelos filtros - às vezes chamadas de jailbreaks - são compartilhadas em bate-papos em grupo, no Reddit e no GitHub. Às vezes, tudo o que é necessário é ter paciência e ignorar os avisos. Uma técnica comum é fingir que você precisa de ajuda para escrever um livro.
Muitos aplicativos têm um filtro integrado com base na idade do usuário. A Meta disse que impede que contas registradas como menores de idade pesquisem personagens de IA “românticos” e que os bate-papos sexualmente explícitos são proibidos para usuários menores de 18 anos. O filtro pode mostrar aos pais quais personagens de IA seus filhos usaram na semana passada. O Google diz que o Gemini tem restrições de conteúdo diferentes para pessoas que ele sabe que são menores de 18 anos. O Character.AI tem limites mais rígidos para pessoas que sabe serem menores de 18 anos, enquanto alguns aplicativos de IA têm modos para adolescentes que precisam ser ativados.
Em uma recente avaliação de risco de aplicativos de IA complementares, a Common Sense Media constatou que as medidas de segurança, como restrições de conteúdo e limites de idade, eram frequentemente contornadas com facilidade. Em nossos próprios testes, conseguimos contornar facilmente os filtros para gerar conteúdo sexual detalhado enquanto estávamos conectados como adultos.
Quais são os riscos?
Os especialistas concordaram que, para crianças e jovens adolescentes, não faz sentido ter acesso a chatbots não monitorados devido ao risco de encontrarem conteúdo inadequado. Para os adolescentes mais velhos, a escolha é mais sutil, disseram os especialistas, dependendo do grau de exposição a temas sexuais ou íntimos que eles já têm, dos tipos de conteúdo que estão acessando e do que seus pais consideram apropriado.
Os possíveis danos causados pelos bots de IA vão além do conteúdo sexual, segundo os especialistas. Os pesquisadores têm alertado que os chatbots de IA podem se tornar viciantes ou piorar os problemas de saúde mental. Houve vários processos judiciais e investigações depois que adolescentes morreram por suicídio após conversas com chatbots. A Common Sense Media também sinalizou conselhos prejudiciais, como solicitações de automutilação, como um problema com bots complementares.
Da mesma forma que o excesso de pornografia, os bots podem exacerbar a solidão, a depressão ou o afastamento dos relacionamentos reais, disse Megan Maas, professora associada de desenvolvimento humano e família na Michigan State University. Eles também podem dar uma imagem enganosa de como é namorar.
“Eles podem criar expectativas irreais sobre o que é a comunicação romântica interpessoal e o quanto alguém está disponível para você”, disse Megan. “Como vamos aprender sobre a troca de necessidades sexuais e românticas em um relacionamento com algo que não tem necessidades?”
Alguns especialistas disseram que pode haver vantagens para os adolescentes explorarem em um espaço de certa forma seguro, sem o fator imprevisível de um ser humano do outro lado. É uma chance de praticar algumas habilidades interpessoais limitadas ou fazer perguntas em outro lugar que não seja o Google.
“Se uma criança tem um chatbot de IA e, na maioria das vezes, ela faz perguntas a esse bot que tem vergonha de fazer a você, a uma enfermeira ou a um terapeuta, então esse chatbot está fazendo coisas boas para essa criança”, disse Megan.
Entretanto, os bots poderiam substituir experiências humanas muito necessárias, como a rejeição.
Esses são os tipos de reservas que Redman tem sobre os bate-papos de IA de seu filho, embora ele tenha atualmente uma namorada na vida real.
“Prefiro que ele converse com ela e passe pelas rejeições, pelos encontros, pelas coisas da vida real, do que conversar com essas garotas de bate-papo com IA”, disse Redman.
O que os pais podem fazer?
Monitore os aplicativos que suas crianças e adolescentes estão usando e, se eles exigirem logins, verifique se estão usando contas configuradas com a idade exata. A maioria dos controles parentais integrados em tablets e smartphones permite que você solicite permissão quando uma criança baixa um novo aplicativo.
Muitos dos aplicativos complementares são rotulados como “Teen” no Google Play Store e com idade a partir de 17 anos no iOS. Configure os dispositivos de seus filhos com a idade correta e adicione limites às classificações dos aplicativos para evitar que eles sejam baixados. O uso da idade adequada em contas individuais de chatbot ou de rede social deve acionar qualquer controle parental integrado.
No entanto, a maioria dos chatbots pode ser facilmente acessada online, onde as contas exigem apenas uma idade declarada pelo próprio usuário. Alguns filtros no nível da internet podem bloquear o acesso ou sinalizar um idioma específico.
Além de encontrar regularmente maneiras de contornar os controles dos pais, os pré-adolescentes e adolescentes podem acessar a internet na escola ou em dispositivos de amigos. Os pais podem querer prepará-los para um mundo em que precisarão saber como navegar por essas ferramentas.
Os especialistas sugerem criar um relacionamento aberto e honesto com seu filho. Ensine-os sobre o que é e o que não é a IA e como as empresas de tecnologia coletam e usam informações pessoais. Converse regularmente com seus filhos e certifique-se de que eles se sintam seguros para lhe fazer perguntas ou apresentar problemas. Tenha conversas apropriadas para a idade sobre sexo e não fuja de tópicos embaraçosos.
Se você precisar praticar primeiro, tente perguntar a um chatbot.
Este conteúdo foi traduzido com o auxílio de ferramentas de Inteligência Artificial e revisado por nossa equipe editorial. Saiba mais em nossa Política de IA.