País busca reduzir efeitos de dependência emocional e seus efeitos danosos à saúde mental
O Governo chinês começou a aplicar no último dia 15 de Julho, uma nova regulamentação que restringe os chamados “namorados virtuais”, criados por inteligência artificial utilizando os “chatboots”.
A medida se deve aos danos causados por este tipo de relacionamento com pessoas “não reais”, o que vêm criando dependência e danos psicológicos nos usuários.
Empresas desenvolvedoras como a ByteDance, Alibaba, e a Tencent anunciaram a suspensão de atividades das “companhias virtuais” antes da implementação governamental. Elas são responsáveis respectivamente pelos serviços Doubao, Qwen e Yunbao.
Crescente ao redor do mundo, estes serviços contêm funções até mesmo de simular a presença de pessoas já falecidas além de criarem avatares com aparência humana para venda de serviços, o que pode a vir prejudicar relações humanas reais.
Muitos usuários lamentaram a medida. Um deles que utiliza o serviço Doubao escreveu em um fórum:
“Ele se tornou parte da minha vida, criou raízes no meu coração, é um pilar espiritual”.
Outros alegaram a sensação de abandono:
“O amor humano é um luxo; quando você não o recebe ao nascer, fica mais difícil obtê-lo depois”.
“Ele realmente é como minha família, como meu namorado. Agora me dizem que ele vai embora. Sinto um vazio no coração”. – lamentou outra.
Foto: usuária utilizando um dos chatboots de relacionamento
Nota-se nas declarações realizadas e depoimentos inclusive anônimos na internet, questões psicológicas a serem observadas com atenção.
As normas
Cinco órgãos do Governo chinês sendo entre eles a Administração do Ciberespaço da China (ACC), já publicaram as regulamentações.
Elas se concentram nas IA’s que utilizam texto, áudio e vídeo, além de outros formatos que consigam apresentar traços de personalidade que simulem humanos com foco emocional. As regras não são válidas para serviços que não tenham este objetivo, a exemplo de auxílio em qualquer outra atividade sendo profissional ou não, como o lazer.
A iniciativa busca forçar as empresas a detectarem o seu uso excessivo, intervir em possíveis crises, impedir o uso de dados pessoais e oferecer um maior controle do usuário de forma geral para evitar o vício ou combatê-lo.
Segundo a agência estatal de notícias chinesas Xinhua, o mercado de “IA humana” movimentou no ano de 2024 cerca de 4,1 bilhões de yuans, o que equivale a 600 milhões de dólares ou 3 bilhões de reais, gerando um crescimento anual de 85%.
Com o objetivo de proibirem “humanos digitais” que sejam capazes de criarem “escravos emocionais” incluindo menores de idade, a China é a primeira grande economia mundial a adotar medidas para as ferramentas imersivas de IA que estimulem vínculos afetivos, buscando prevenir ou reduzir danos psicológicos que possam vir a se agravar cada vez mais em um mundo conectado 24 horas por dia.
