Защита памяти AI-агента: что нужно заложить в архитектуру
Вторая встреча цикла: переходим от атак к защите памяти агента — подходы, ограничения привычных проверок и архитектурные решения, которые помогают контролировать память от записи данных до их использования.
Ваш агент умеет запоминать полезное. Но кто решает, чему он может доверять? Что помешает ему сохранить поддельный факт и опираться на него в следующих задачах? И как защитить память, сохранив возможности, ради которых вы строите агента?
На второй встрече цикла перейдём от атак к защите. Разберём существующие подходы, ограничения привычных проверок и архитектурные решения, которые помогают контролировать память агента — от записи данных до их использования.
Программа
Почему защиты от prompt injection недостаточно для защиты памяти.
Какие методики защиты существуют, где помогают и какие ограничения имеют.
Как контролировать источники данных, права на запись и доступ к памяти.
Как ограничить последствия заражения и предусмотреть восстановление.
Как выбирать баланс между безопасностью, автономностью и полезностью агента.
Для кого
Для тех, кто строит собственные харнессы, оркестраторы и системы из нескольких агентов. Особенно если агенты сохраняют данные между сессиями, используют общую память или работают с внешними источниками.
Что можно будет применить
Сможете оценить архитектуру своей системы: где нужны проверки, какие полномочия стоит разделить и что предусмотреть для восстановления после заражения. Безопасность памяти закладывается при проектировании — на встрече разберём, какие решения для этого нужно принять.
Это вторая лекция цикла. На первой разбирали устройство memory injection, примеры атак и результаты исследований о том, как они проходят через существующие защиты.
Эта и другие встречи доступны участникам Лабы
Уникальные встречи с практиками работы с ИИ из разных сфер. Передовые подходы к работе с ИИ
Помимо этой встречи, в Лаборатории вы получаете
Проверять на практике, а не в теории
Каждую неделю применяем новую тему к вашему пет-проекту или рабочей задаче. Никаких мертвых лекций — только реальный код, тесты и измеримые выводы.
Практика на своём проекте
Спринты и эксперименты: применяйте новые подходы к своим задачам.
Обратная связь
Показывайте демо и разбирайте технические и продуктовые вопросы с практиками.
Сообщество и база знаний
Закрытая группа участников, обмен опытом и накопленные материалы Лабы.
Начните с короткого знакомства
Обсудим ваши задачи и формат Лабы. Участие платное; доступ к закрытым встречам и материалам — после знакомства и оформления участия.
