Berliner Tageblatt - IA deve evitar reproduzir erros das redes sociais, avalia Character.AI

"Eu me sinto muito melhor ao ver que todos na indústria - reguladores, técnicos, líderes políticos, o mundo acadêmico — estamos falando da segurança na IA muito antes do que fizemos com as redes sociais", afirmou Karandeep Anand, diretor-executivo da Character.AI, no Congresso Mundial da Telefonia Móvel (MWC), realizado em Barcelona.

Lançada em maio de 2023, a jovem empresa californiana ficou conhecida por seus robôs de IA personalizados, que reproduzem a personalidade de uma celebridade ou de um personagem de ficção.

Nesta plataforma é possível estabelecer uma conversa com Bob Dylan ou com um personagem da série "Bridgerton", assim como interpretar o papel de um membro da máfia.

Na direção da empresa desde o verão de 2025, Karandeep Anand assegurou que "a Character.AI ha avançou muito nos últimos nove meses", após ter sido associada em alguns casos de suicídio de adolescentes.

"Reforçamos ainda mais nossos padrões de segurança", afirmou, com medidas como a decisão de impedir o acesso de menores a suas ferramentas desde outubro.

"Temos o luxo de aprender com tudo de bom e de mau que aconteceu nas redes sociais e aplicá-lo à IA agora mesmo", argumentou o diretor, cuja empresa diz contar com quase 20 milhões de usuários ativos a cada mês.

Embora ainda seja muito cedo para determinar quais usos são perigosos, "é mais simples e preferível que pequemos pelo excesso de prudência" para proteger os menores, opinou Anand.

- Um "entretenimento" caro -

Igualmente, seu grupo decidiu se distanciar da criação de modelos de inteligência artificial para se concentrar em seus robôs conversacionais de personagens.

"Meu objetivo foi construir uma empresa que se torne completamente uma companhia de entretenimento baseada em IA", assegurou.

"Agora somos claramente uma companhia de aplicativos de consumo, centrada em levar ao limite o que poderia chegar a ser o entretenimento impulsionado pela IA", acrescentou.

Também pretendem se diferenciar de outros integrantes do setor da IA, que oferecem aos usuários a possibilidade de estabelecer conversas similares às que poderiam ter com um ser humano.

"Os usuários chegam com necessidades distintas", explicou, e menos de 10% deles consideram a plataforma um companheiro.

"A maioria vem pela ficção, a redação de histórias, a narração de contos, as tutorias e o coaching", relatou.

Em um setor que precisa de máquinas potentes para fazer funcionar seus programas, a questão do custo dos serviços e sua rentabilidade também é muito importante.

Como já fez a gigante OpenAI - que no começo de 2026 começou a introduzir publicidade no ChatGPT -, a Character.AI também quer garantir mais receita.

Para isso, a empresa introduziu três fontes de financiamento, através da publicidade, de compras integradas na plataforma e das assinaturas.

"Antes da minha chegada, a monetização não era um objetivo", lembrou Anand.

Mas o modelo econômico das empresas de tecnologia está evoluindo. Diferentemente da geração anterior, a das grandes plataformas que buscavam ter o maior número de usuários, com a IA "cada novo usuário que se incorpora é bastante caro para atender", assinalou.

Apesar dos desafios, ele se mantém otimista. "Acredito que a tecnologia realmente pode fazer muito bem à sociedade", insistiu.

G.Schulte--BTB