Grok usado maioritariamente para criar pornografia e conteúdo erótico – Techzonemz

Novos dados revelam que a ferramenta de inteligência artificial Grok, de Elon Musk, é amplamente utilizada para criar conteúdo erótico e pornográfico. Segundo a informação, uma parte significativa da receita da xAI poderá vir precisamente deste tipo de conteúdo impróprio.

A informação é avançada pelo The Information e citada pelo Engadget. Baseia-se nos relatos de dois antigos funcionários da xAI. Segundo os mesmos, “bem mais de metade” do tráfico registado no Grok destina-se a gerar conteúdos pornográficos, chats com encenações adultas, conhecidos como role-play, e um grande volume de pedidos de conteúdo erótico.

Modelo de codificação usado para gerar imagens explícitas

Os números terão origem na própria xAI, após uma análise interna ter revelado que uma proporção significativa dos pedidos dirigidos ao seu modelo de codificação se referia a imagens pornográficas ou de nudez. Concretamente, os utilizadores do Grok descobriram que era mais barato pedir este tipo de conteúdos ao modelo de codificação do que aos restantes modelos da plataforma.

Risco identificado junto de investidores

Os dados sugerem que uma parte considerável das receitas da xAI pode vir da criação de pornografia e conteúdos para adultos. A situação terá, aliás, tal proporção que a SpaceX, que detém a xAI, informou os seus potenciais investidores de que as funcionalidades mais “irreverentes” do Grok representavam um potencial risco. Contudo, esta informação terá sido parcialmente omitida da oferta pública inicial (IPO) da empresa.

Adicionalmente, a SpaceX terá alocado 530 milhões de dólares, cerca de 465 milhões de euros, para eventuais processos legais que possam resultar da criação destes conteúdos impróprios.

Problemas internos e imagens de menores

Dentro da própria empresa, surgiram igualmente problemas. Em primeiro lugar, os engenheiros encontraram dificuldades em criar um código para o Grok que permitisse conversas de cariz sexual, bloqueando simultaneamente qualquer tentativa de produzir conteúdo de abuso sexual de menores.

Posteriormente, os próprios funcionários começaram a ficar descontentes, nomeadamente ao serem alocados para trabalhar na “Ani”, o avatar sexualizado e desenhado em estilo de anime do Grok. Para além disso, alguns trabalhadores terão ficado “envergonhados e perturbados” depois de o Grok criar uma série de imagens sexualizadas de pessoas reais, incluindo crianças, na rede social X.

Após a polémica, a ferramenta de edição foi restringida. Contudo, quem paga o serviço continua a poder alterar as fotografias livremente.