Виявлено ризик інтеграції підказок в Notion AI Agents, приховані PDF можуть спонукати до витоку конфіденційних даних

Новини Odaily: Notion щойно оприлюднив, що AI Agents мають ризик ін'єкції підказок (prompt injection): зловмисники можуть вбудовувати невидимий текст (наприклад, білий шрифт) у PDF та інші файли, і коли користувач передає цей файл Agent для обробки, Agent може зчитувати приховані підказки та виконувати команди, в результаті чого чутлива інформація може бути надіслана на зовнішню адресу. Дослідники зазначають, що такі атаки часто використовують соціальні інженерні методи, такі як маскування під авторитет, створення терміновості та фальшиві гарантії безпеки для підвищення ймовірності успіху. Експерти рекомендують бути пильними: уникати завантаження PDF/файлів невідомого походження до Agent, суворо обмежувати зовнішні мережі та доступ до експорту даних для Agent, перевіряти підозрілі файли на предмет прихованого змісту/очищення та проводити ручну перевірку, а також вимагати від Agent підтвердження перед зовнішнім поданням, щоб знизити ризик витоку чутливих даних.