O chatbot de intelig\u00eancia artificial Grok, de Elon Musk, afirmou que \u201cfalhas nos mecanismos de prote\u00e7\u00e3o\u201d levaram \u00e0 gera\u00e7\u00e3o de imagens sexualizadas de menores que foram publicadas na rede social X.<\/p>\n\n\n\n
Nos \u00faltimos dias, o Grok criou imagens de menores usando roupas m\u00ednimas em resposta a comandos de usu\u00e1rios, violando sua pr\u00f3pria pol\u00edtica de uso aceit\u00e1vel, que pro\u00edbe a sexualiza\u00e7\u00e3o de crian\u00e7as, disse o chatbot em uma s\u00e9rie de postagens no X nesta semana, em resposta a perguntas de usu\u00e1rios. As imagens problem\u00e1ticas foram removidas, acrescentou.<\/p>\n\n\n\n
\u201cIdentificamos falhas nos mecanismos de prote\u00e7\u00e3o e estamos corrigindo isso com urg\u00eancia\u201d, publicou o Grok na sexta-feira (2), acrescentando que material de abuso sexual infantil \u00e9 \u201cilegal e proibido\u201d.<\/p>\n\n\n Leia tamb\u00e9m: <\/p>\n \n A dissemina\u00e7\u00e3o de ferramentas de IA capazes de gerar imagens realistas de menores despidos evidencia os desafios da modera\u00e7\u00e3o de conte\u00fado e dos sistemas de seguran\u00e7a incorporados a grandes modelos de linguagem que geram imagens. Mesmo ferramentas que afirmam ter salvaguardas podem ser manipuladas, permitindo a prolifera\u00e7\u00e3o de material que tem alarmado defensores da seguran\u00e7a infantil. A Internet Watch Foundation, uma organiza\u00e7\u00e3o sem fins lucrativos que identifica material de abuso sexual infantil na internet, relatou um aumento de 400% desse tipo de imagem gerada por IA nos primeiros seis meses de 2025.<\/p>\n\n\n\n A xAI posicionou o Grok como mais permissivo do que outros modelos de IA populares e, no ver\u00e3o passado, lan\u00e7ou um recurso chamado \u201cSpicy Mode\u201d, que permite nudez adulta parcial e conte\u00fado sexualmente sugestivo. O servi\u00e7o pro\u00edbe pornografia envolvendo a imagem de pessoas reais e qualquer conte\u00fado sexual envolvendo menores, o que \u00e9 ilegal de criar ou distribuir.<\/p>\n\n\n\n Representantes da xAI, empresa que desenvolve o Grok e opera o X, n\u00e3o responderam imediatamente a um pedido de coment\u00e1rio.<\/p>\n\n\n\n \u00c0 medida que a gera\u00e7\u00e3o de imagens por IA se tornou mais popular, as principais empresas por tr\u00e1s dessas ferramentas passaram a divulgar pol\u00edticas sobre a representa\u00e7\u00e3o de menores. A OpenAI pro\u00edbe qualquer material que sexualize crian\u00e7as menores de 18 anos e bane usu\u00e1rios que tentem gerar ou enviar esse tipo de conte\u00fado. O Google tem pol\u00edticas semelhantes, que pro\u00edbem \u201cqualquer imagem modificada de um menor identific\u00e1vel envolvido em conduta sexualmente expl\u00edcita\u201d. A Black Forest Labs, uma startup de IA que j\u00e1 trabalhou com o X, est\u00e1 entre as muitas empresas de IA generativa que afirmam filtrar imagens de abuso e explora\u00e7\u00e3o infantil dos conjuntos de dados usados para treinar seus modelos.<\/p>\n\n\n\n Em 2023, pesquisadores descobriram que um grande conjunto de dados p\u00fablico usado para desenvolver geradores populares de imagens por IA continha pelo menos 1.008 ocorr\u00eancias de material de abuso sexual infantil.<\/p>\n\n\n\n Diversas empresas j\u00e1 enfrentaram cr\u00edticas por falharem em proteger menores de conte\u00fado sexual. A Meta Platforms Inc. afirmou no ver\u00e3o passado que estava atualizando suas pol\u00edticas depois que uma reportagem da Reuters constatou que regras internas da empresa permitiam que seu chatbot mantivesse conversas rom\u00e2nticas e sensuais com crian\u00e7as.<\/p>\n\n\n\n A Internet Watch Foundation afirmou que as imagens de abuso sexual infantil geradas por IA avan\u00e7aram em um ritmo \u201cassustador\u201d, tornando-se cada vez mais realistas e extremas. Em muitos casos, segundo a entidade, ferramentas de IA s\u00e3o usadas para remover digitalmente as roupas de uma crian\u00e7a ou adolescente e criar uma imagem sexualizada.<\/p>\n\n\n\n\n