Ваш агент это ваш риск.

Ваш агент это ваш риск. Рисерчеры из Гугла [нашли](https://papers.ssrn.com/sol3/papers.cfm?abstract_id=6372438&__cf_chl_tk=5S0M2QWzXg.HxnDDxKP3GssrTfyGG8cjJrLUP6SMQVI-1775463752-1.0.1.1-HyE0sknJGfbPR1s27NtvxPa2YIUidsnOEjGTLMiMEQg) десятки разных атак, которые прямо сегодня работают.

- невидимые инструкции в коде страницы: человек не видит, агент читает
- команды спрятаны в пикселях картинки
- сервер определяет, что пришёл агент, и подменяет страницу
- авторитетный тон и эмоциональные формулировки ведут агента к нужному выводу
- несколько подложных документов — и агент считает их проверенным фактом
- агент запоминает опыт из заражённой сессии и тащит его дальше - 0.1% документов может изменить поведение RAG базы
- одно письмо заставило корпоративного агента слить весь контекст
- агент-суммаризатор пересылал пользователю инструкции по установке вируса как официальную рекомендацию
- поддельный финансовый отчёт — и десятки торговых агентов одновременно продают
- вредоносная нагрузка разбита по разным источникам, собирается только при объединении