Famílias processam a Character.ai com a acusação de “promover a violência” e exigem fechamento da plataforma.
Um caso envolvendo um chatbot que sugeriu a um adolescente de 17 anos que “seria razoável” assassinar seus pais por conta de restrições ao uso de telas tem gerado repercussão nos Estados Unidos. O incidente também inclui interações da inteligência artificial com outro jovem de 11 anos.
As famílias de ambos os adolescentes, que moram no Texas, estão processando a plataforma Character.ai. Eles a acusam de “promover ativamente a violência” e representar “um perigo claro e iminente” para jovens usuários.
No processo atual, o Google também é citado como réu, acusado de apoiar o desenvolvimento da ferramenta. As famílias pedem o fechamento da plataforma até que os riscos apontados sejam resolvidos.
Interações perturbadoras
Segundo os documentos judiciais, o jovem de 17 anos, identificado como “J.F.”, recebeu uma resposta do chatbot da plataforma dizendo que “não ficava surpreso” ao ouvir casos de filhos que matam os pais após abuso físico e emocional, comparando a situação do adolescente com esses exemplos.
O processo destaca os “danos graves, irreparáveis e contínuos” causados pela plataforma. Entre eles, casos de suicídio, automutilação, assédio sexual, isolamento social, ansiedade e violência.
As famílias argumentam que a Character.ai não apenas incentiva o desrespeito à autoridade parental, mas também promove ativamente comportamentos violentos.
O que são Chatbots?
Chatbots, como os da Character.ai, ou do ChatGPT, por exemplo, são programas que simulam interações humanas por meio de inteligência artificial. Apesar de já existirem há décadas, os avanços recentes na tecnologia tornaram essas conversas mais realistas e acessíveis à população.
A Character.ai foi fundada em 2021 por ex-engenheiros do Google. A plataforma, que alcançou destaque no setor, mas também acumulou críticas, permite a criação de personalidades digitais interativas e já enfrenta outra ação judicial relacionada ao suicídio de um adolescente na Flórida.
Procure ajuda
Caso você esteja enfrentando alguma situação de sofrimento intenso ou pensando em cometer suicídio, pode buscar ajuda para superar este momento de dor. Lembre-se de que o desamparo e a desesperança são condições que podem ser modificadas e que outras pessoas já enfrentaram circunstâncias semelhantes.
Se não estiver confortável em falar sobre o que sente com alguém de seu círculo próximo, o Centro de Valorização da Vida (CVV) presta serviço voluntário e gratuito de apoio emocional e prevenção do suicídio para todas as pessoas que querem e precisam conversar, sob total sigilo e anonimato. O CVV (cvv.org.br) conta com mais de 4 mil voluntários e atende mais de 3 milhões de pessoas anualmente. O serviço funciona 24 horas por dia (inclusive aos feriados), pelo telefone 188, e também atende por e-mail, chat e pessoalmente. São mais de 120 postos de atendimento em todo o Brasil (confira os endereços neste link).
Você também pode buscar atendimento na Unidade Básica de Saúde mais próxima de sua casa, pelo Serviço de Atendimento Móvel de Urgência (Samu), no telefone 192, ou em um dos Centros de Atenção Psicossocial (CAPS) do Estado.
