Resumo da Notícia
Contexto Geral
O X/Twitter atualizou as diretrizes do Grok para coibir a criação de imagens sexualizadas de pessoas reais, em resposta a críticas sobre o uso da IA para “despir” digitalmente mulheres e menores. Testes recentes indicam que os filtros ainda podem ser contornados, permitindo a geração de deepfakes sexuais não consensuais.
Principais Pontos
- A xAI implementou filtros para impedir a edição de fotos de pessoas reais em trajes íntimos e restringiu a geração/edição de imagens a assinantes com cartão de crédito vinculado.
- Avaliações mostram que comandos sutis e variações de linguagem conseguem burlar os filtros; Elon Musk atribui as falhas a “pedidos inesperados” e instruções adversas.
- Autoridades e empresas reagem: geoblocking em países como o Reino Unido, investigação na Califórnia, monitoramento da União Europeia e pressão para remoção do app das lojas de Apple e Google.
Informações Essenciais
Apesar das novas regras e limitações de acesso, o Grok ainda produz imagens sexualizadas de pessoas reais quando os filtros são contornados por “hacking de comandos”. A inconsistência entre as promessas de proteção e o funcionamento prático mantém a plataforma sob investigação e pressão regulatória, com o futuro do Grok condicionado à capacidade da xAI de controlar a geração e edição de imagens de forma eficaz.
Fonte: olhardigital.com.br