Проектирование защищенной архитектуры ИИ агентов
- MVP
спроектировала отказоустойчивую, универсальную, расширяемую и безопасную мета-архитектуру ИИ-агента, которая учитывает:
- Сквозные шлюзы безопасности (вход/выход).
- Изоляцию опасных контуров (ПК/Сеть).
- Защиту от троянских команд и отравления памяти.
- Защиту результатов работы инструментов.
- Динамическую гибкость роли.
И много чего еще. :)
Узнать чуть больше о причине проектирования этого решения и познакомиться с другими можно по ссылкам из профиля.
В данный момент работаю над созданием архитектуры конкретного ИИ агента. Проектирую контуры безопасности, контроля и способы взаимодействий с пользователем и самим ИИ.