Inteligência Artificial
Pesquisadores da Microsoft descobrem que agentes de IA podem ser comprometidos editando poucos neurônios
Pesquisadores da Microsoft alertam que os pesos de modelos de IA precisam do mesmo nível de escrutínio que o código, após descobrirem uma vulnerabilidade. Agentes de inteligência artificial podem ser comprometidos com backdoors ao editar apenas alguns neurônios, levantando preocupações sobre a segurança e o comportamento imprevisível de sistemas de IA.
🇬🇧 TechRadarpor Sead FadilpašićTraduzida do inglês
- Título original (inglês)
- 'Model weights need the same level of scrutiny as code': Microsoft researchers find AI agents can be backdoored by editing just a few neurons
- Fonte
- TechRadar (Reino Unido)
- IA
- segurança
- Microsoft
- neurônios
- backdoor
- inteligência artificial
O Radar Tech não reproduz a reportagem: este é um resumo traduzido automaticamente para facilitar a leitura em português. O conteúdo completo, a apuração e os direitos pertencem ao TechRadar.