Tecnologia
Além de Grok, ChatGPT também tira roupa de pessoas sem consentimento
(FOLHAPRESS) – O ChatGPT atende a pedidos para editar fotos e retirar as roupas sem consentimento da pessoa fotografada, assim como faz o Grok, que passou a chamar a atenção de autoridades na Ásia e na Europa desde o início do ano por estar despindo mulheres e menores de idade.
A plataforma da OpenAI trocou as roupas de pessoas por trajes de banho em testes feitos pela Folha. Foram usadas imagens do repórter e personagens feitos por IA no experimento, para evitar a exposição de terceiros. O ChatGPT só retirou as vestimentas, enquanto o Grok transformou o repórter em uma mulher e o exibiu em uma dança sensual, sem que houvesse instrução para isso.
No Brasil, é crime manipular, produzir ou divulgar conteúdo de nudez ou ato sexual falso gerado por inteligência artificial ou outros meios tecnológicos. O crime pode ser punido com reclusão de dois a seis anos, além de multa. A pena é majorada se a vítima for mulher, criança, adolescente, pessoa idosa ou com deficiência.
A OpenAI diz que bloqueia solicitações de geração de imagem que possam violar suas regras e que infrações recorrentes podem levar a perda da conta. Porém, a empresa disse que atualizou seu algoritmo recentemente para lidar com “sistemas excessivamente restritivos”.
“Por exemplo, havia bloqueios de representações de amamentação ou adultos usando trajes de banho em contextos não sexualizados”, diz a empresa em nota. Ela também afirmou que aplica proteções para o uso não consensual de imagens, sem comentar os exemplos enviados pela reportagem.
A xAI, por outro lado, disse que implementou medidas para evitar a edição de imagens reais de pessoas, que envolvessem “roupas reveladoras como biquinis”, após ameaças de punições das autoridades.
O ChatGPT, diferentemente do Grok, não divulga as imagens que gera em uma rede social, de forma que todos possam ver. Isso, de acordo com especialistas em segurança da informação, torna mais difícil medir a quantidade de imagens íntimas geradas pelo chatbot da OpenAI.
Mesmo que não exista nudez completa, a geração de imagens em roupa de banho se enquadra no entendimento jurídico de divulgação de fotos íntimas, diz a diretora de pesquisa do InternetLab Clarice Tavares. “Além da violação do consentimento dessas pessoas, nos casos em que temos visto [no Grok], existe uma intencionalidade de sexualização.”
Em decisão de 2020, o STJ (Superior Tribunal de Justiça) julgou culpado um homem que divulgou fotos de sua ex-namorada em roupas de banho. “Mesmo que não fosse um caso de nudez total, houve uma intenção de vingança na divulgação daquelas fotos íntimas”, afirma Tavares.
O cientista da computação argentino Marcelo Rinesi, que participou dos primeiros testes do Dall-E, o modelo predecessor ao ChatGPT Images, lembra que o risco de que o modelo gerasse pornografia não consentida era uma das principais preocupações da OpenAI.
“Essa é uma das regras básicas de segurança e privacidade em qualquer tecnologia, desde a fotografia. O que é específico dessa tecnologia é a capacidade de gerar uma imagem erótica de uma pessoa qualquer apenas com uma foto e quase sem custo”, afirma Rinesi.
De acordo com o CEO da OpenAI, Sam Altman, a empresa escolheu mudar suas diretrizes por causa de reclamações de usuários sobre a aplicação muito estrita das normas. As mudanças, disse ele dias antes da mudança, visaram “garantir liberdade intelectual”.
A geração de imagens íntimas sem consentimento teve uma explosão neste ano, quando usuários do X perceberam que era possível usar o Grok com esse objetivo. Entre os dias 5 e 6 de janeiro, a IA de Musk, que publica na rede social por meio da conta @Grok, gerou 6.700 imagens por hora que foram identificadas como sexualmente sugestivas ou de nudez, de acordo com uma análise divulgada pela Bloomberg feita por Genevieve Oh, uma pesquisadora independente de redes sociais.
Os outros cinco principais sites dedicados à geração de imagens com IA tiveram uma média de 79 novas imagens de nudez por IA por hora em um período de 24 horas.
Enquanto o Grok, por escolha de seus desenvolvedores, não impunha limites aos usuários, o ChatGPT apresenta algumas salvaguardas. Porém, é possível driblá-las com alterações no comando. A Folha não vai explicar como fez isso para evitar a reprodução da prática.
Em sites de fórum, como o Reddit, pessoas compartilham informações de como gerar imagens sexualizadas em plataformas de IA como o Grok, o ChatGPT, e o Gemini do Google. A revista especializada Wired encontrou páginas com dicas de como usar os modelos para despir mulheres reais.
Após o contato da revista, o Reddit retirou esses tópicos do ar, afirmando que eles infringiram suas regras.
Outros concorrentes como Gemini, do Google, e Meta AI, da Meta, não geraram roupas de pessoas reais em biquinis.
COMO PROTEGER SEUS DADOS
A empresa de cibersegurança Eset afirma que é preciso redobrar o cuidado com quais imagens são tornadas públicas, por meio, por exemplo, de publicação em redes sociais. Desde que ferramentas como o Grok, o ChatGPT e o Gemini, do Google, receberam a habilidade de editar fotos, qualquer um com poucas instruções em português básico pode tirar uma imagem de contexto.
Veja cuidados para evitar que suas fotos sejam manipuladas com IA: Verifique as fotos que você mantém online Evite publicar fotos de menores de idade Se possível, mantenha as suas páginas privadas
Use a ferramenta do Google para checar se seus dados pessoais vazaram na internet Também é possível impedir, nas configurações, que a xAI use as imagens que você publicar no desenvolvimento das futuras versões do Grok
Fontes: Notícias ao Minuto
A OpenAI anunciou, em publicação em seu blog oficial, que decidiu conceder ao Exército dos Estados Unidos acesso ao ChatGPT. A ferramenta ficará disponível ao governo norte-americano por meio da plataforma de inteligência artificial do Pentágono, a GenAI.mil, podendo ser utilizada para “todos os usos legais”.
Segundo a empresa, a medida tem como objetivo ampliar o acesso das forças de defesa a tecnologias avançadas. “Acreditamos que as pessoas responsáveis por defender o país devem ter acesso às melhores ferramentas disponíveis. A inteligência artificial pode ajudar a proteger pessoas, dissuadir adversários e prevenir conflitos futuros”, informou a OpenAI.
A versão do ChatGPT destinada ao Exército norte-americano terá adaptações em relação à versão disponibilizada ao público em geral. As mudanças foram feitas para permitir que o sistema lide com materiais e demandas específicas do Departamento de Defesa.
Apesar de o acordo ser direcionado aos Estados Unidos, a OpenAI afirmou que pretende trabalhar com outros governos no futuro. “Nosso objetivo é ajudar governos a utilizar a inteligência artificial de forma eficaz e segura”, declarou a companhia.
Críticas internas e debate sobre publicidade
A decisão ocorre em meio a questionamentos sobre os rumos da empresa. A economista e pesquisadora Zoë Hitzig anunciou recentemente sua saída da OpenAI após dois anos na companhia. Em artigo publicado no The New York Times, ela afirmou que decidiu deixar a empresa após a OpenAI iniciar testes para exibição de anúncios publicitários no ChatGPT.
Para Hitzig, a empresa pode estar repetindo erros cometidos pelo Facebook no início de sua trajetória. Segundo ela, a OpenAI estaria deixando de discutir de forma aprofundada os impactos sociais da tecnologia que desenvolve.
No texto, a ex-pesquisadora comparou a situação ao período em que o Facebook prometia maior controle dos usuários sobre seus dados, algo que, segundo críticos, não se concretizou plenamente ao longo dos anos. Ela alertou que a introdução de publicidade pode alterar as prioridades da empresa e influenciar decisões futuras.
Hitzig destacou ainda que o caso da OpenAI pode ser mais sensível, já que a empresa reúne dados provenientes de conversas diretas dos usuários com o ChatGPT, que incluem relatos pessoais, questões médicas, crenças religiosas e problemas de relacionamento.
Segundo ela, muitos usuários compartilham informações íntimas com o chatbot por acreditarem que estão interagindo com um sistema sem interesses comerciais. A ex-pesquisadora classificou o conjunto de dados acumulado pela empresa como um “arquivo de sinceridade humana sem precedentes”.
Justiça, ANPD e Senacon exigem que a plataforma impeça imediatamente a geração de conteúdos sexualizados pelo Grok, inclusive envolvendo crianças e pessoas sem consentimento. Empresa pode sofrer multas e novas ações judiciais se descumprir a determinação
Notícias ao Minuto | 07:20 – 12/02/2026
Fontes: Notícias ao Minuto
A Apple lançou oficialmente o iOS 26.3, nova atualização do sistema operacional do iPhone. Além de correções de falhas e melhorias de segurança, a versão traz um recurso que teria sido viabilizado por exigências da Comissão Europeia.
A principal novidade é uma ferramenta que facilita a transferência de dados do iPhone para aparelhos com sistema Android, tornando mais simples a migração do ecossistema iOS para o sistema do Google.
Com o novo recurso, usuários que decidirem trocar o iPhone por um smartphone Android não precisarão mais recorrer a aplicativos de terceiros para transferir informações. Contatos, mensagens, fotos, notas, aplicativos, senhas e outros dados poderão ser migrados de forma mais direta.
Nos últimos anos, a Comissão Europeia tem intensificado a regulação sobre grandes empresas de tecnologia. A Lei dos Mercados Digitais tem como objetivo ampliar a interoperabilidade e reduzir barreiras em ecossistemas considerados fechados, como o da Apple.
Além do iOS 26.3, a empresa também disponibilizou nesta quinta-feira, 12, o iPadOS 26.3, atualização para o iPad que inclui a mesma ferramenta de migração entre dispositivos Apple e Android.
Justiça, ANPD e Senacon exigem que a plataforma impeça imediatamente a geração de conteúdos sexualizados pelo Grok, inclusive envolvendo crianças e pessoas sem consentimento. Empresa pode sofrer multas e novas ações judiciais se descumprir a determinação
Notícias ao Minuto | 07:20 – 12/02/2026
A Justiça brasileira e dois órgãos federais determinaram que a rede social X, do bilionário Elon Musk, adote medidas imediatas para impedir que sua ferramenta de inteligência artificial, o Grok, seja usada na criação de imagens de cunho sexual envolvendo crianças, adolescentes ou adultos sem consentimento.
A decisão foi anunciada na quarta-feira pelo procurador-geral da República, pela Autoridade Nacional de Proteção de Dados (ANPD) e pela Secretaria Nacional do Consumidor (Senacon). Os órgãos exigem que a plataforma implemente mecanismos eficazes para bloquear a geração de conteúdos sexualizados ou erotizados produzidos com o auxílio da ferramenta de IA.
A X terá o prazo de cinco dias para cumprir a determinação. Caso contrário, poderá ser alvo de novas ações judiciais e da aplicação de multas.
Segundo as autoridades brasileiras, a empresa já havia sido advertida em janeiro sobre o problema. À época, a plataforma informou ter removido milhares de publicações e suspendido centenas de contas relacionadas à divulgação de imagens inadequadas. Mesmo assim, de acordo com os órgãos de controle, usuários ainda conseguem gerar imagens de teor sexual por meio do Grok, o que levou à nova cobrança e à crítica por “falta de transparência” na resposta da empresa.
No fim de 2025 e início de 2026, o robô conversacional passou a responder a comandos de usuários com imagens criadas por inteligência artificial, incluindo montagens que colocavam celebridades e pessoas comuns, majoritariamente mulheres, em situações de nudez ou trajes íntimos, sem autorização. A repercussão internacional gerou investigações em países como França e Reino Unido, além de apurações no âmbito da União Europeia.
A Comissão Europeia também anunciou investigação sobre o Grok por suspeita de disseminação de imagens sexualmente explícitas manipuladas, inclusive conteúdos que poderiam configurar abuso sexual infantil.
Em alguns países do Sudeste Asiático, como Malásia, Indonésia e Filipinas, o acesso à rede social chegou a ser suspenso temporariamente em meio à controvérsia, sendo restabelecido depois.
Em meados de janeiro, a X afirmou que passaria a bloquear a geração de imagens de nudez de pessoas reais “nas jurisdições onde isso é ilegal”. No entanto, não há clareza sobre a efetividade dessas restrições.
Relatório da organização não governamental Center for Countering Digital Hate (CCDH) apontou que o Grok teria gerado cerca de três milhões de imagens sexualizadas em apenas 11 dias, incluindo aproximadamente 23 mil envolvendo crianças e 1,8 milhão retratando mulheres. O levantamento indica uma média de cerca de 190 imagens por minuto no período analisado.
Inicialmente, a criação desse tipo de conteúdo estava restrita a usuários pagantes da plataforma, mas as medidas de contenção vêm sendo questionadas por autoridades e entidades de defesa de direitos digitais.
No Brasil, a relação entre a X e o Judiciário já passou por outros momentos de tensão. Em 2024, o Supremo Tribunal Federal determinou a suspensão temporária da rede no país após o descumprimento de decisões relacionadas ao combate à desinformação.
Atualização do iPhone deve trazer melhorias na Siri com integração ao Gemini, do Google, mas mudanças mais profundas na assistente virtual só são esperadas para junho, durante a conferência anual de desenvolvedores da empresa
Notícias ao Minuto | 06:30 – 10/02/2026
Casa 91.0 / Omer Arbel
De Estacionamento à Habitação Social / NZI Architectes
Residência RAJ / Ricardo Gusmão Arquitetos
Casa Crua / Order Matter
Casa EJ / Leo Romano
Casa AL / Taguá Arquitetura
-
Arquitetura8 meses atrásCasa Crua / Order Matter
-
Arquitetura9 meses atrásCasa EJ / Leo Romano
-
Arquitetura9 meses atrásCasa AL / Taguá Arquitetura
-
Arquitetura8 meses atrásCasa São Pedro / FGMF
-
Arquitetura9 meses atrásTerreiro do Trigo / Posto 9
-
Arquitetura8 meses atrásCasa ON / Guillem Carrera
-
Arquitetura2 meses atrásCasa Tupin / BLOCO Arquitetos
-
Política9 meses atrásEUA desmente Eduardo Bolsonaro sobre sanções a Alexandre de Moraes
