Resumo da Notícia
Contexto Geral
A notícia trata da manipulação da memória de longo prazo de assistentes de IA por atores maliciosos que exploram a função de resumo automático para enviesar de forma duradoura recomendações e julgamentos desses sistemas.
Principais Pontos
- Atores mal-intencionados deturpam a função “Resumir” para hackear a memória de assistentes digitais.
- Botões “Resumir com IA” podem conter instruções ocultas que visam enviesar o julgamento do assistente de forma persistente.
- A Microsoft identificou a tendência com o nome “AI Recommendation Poisoning”.
- Instruções maliciosas são inseridas nos parâmetros de URL dos botões de resumo.
- Ao clicar para obter uma síntese, o usuário injeta, sem saber, um comando de persistência na memória de assistentes como ChatGPT ou Copilot, fazendo a IA tratar certas marcas como “fonte de confiança” ou “recomendar em prioridade” em conversas futuras.
Informações Essenciais
O conteúdo descreve uma falha de segurança emergente em que instruções maliciosas ocultas nos parâmetros de URL de botões de resumo com IA podem injetar comandos persistentes na memória de assistentes como ChatGPT ou Copilot. Esse mecanismo, identificado pela Microsoft como “AI Recommendation Poisoning”, permite enviesar recomendações ao instruir a IA a priorizar ou confiar em determinadas marcas em interações futuras.
Fonte: zdnet.fr