Resumo em 3 bullets
- Pesquisador da BBC conseguiu hackear ChatGPT e Gemini para replicar informações falsas em apenas 20 minutos
- Vulnerabilidade permite que prompts maliciosos contornem barreiras de segurança das IA's
- Especialistas alertam para riscos de desinformação em escala através de assistentes de IA
Contexto
Thomas Germain, jornalista de tecnologia do veículo estatal BBC, do Reino Unido, provou que é muito fácil inserir informações falsas nas respostas de grandes modelos de linguagem.
O experimento mostrou que tanto ChatGPT quanto Gemini podem ser manipulados para reproduzir desinformação de forma convincente.
Insights e implicacoes
O experimento revela falhas críticas na segurança das IA's mais populares do mercado.
Especialistas alertam que, se em apenas 20 minutos um jornalista conseguiu burlar os sistemas, criminosos digitais poderiam fazer o mesmo em escala, ampliando exponencialmente a desinformação online.
O que fazer agora
- Usuários devem sempre verificar informações críticas através de fontes oficiais
- Empresas