«Нейросети уже ищут дыры в коде лучше людей»: в Петербурге обсуждают новую волну AI-угроз
В Санкт-Петербурге проходит профессиональный митап по AI-безопасности. Главные темы — утечки данных, атаки на LLM-модели и уязвимости AI-агентов. Ещё год назад российские AI-мероприятия почти полностью были посвящены эффективности и автоматизации.
12 мая в Санкт-Петербурге проходит митап «AI-безопасность: от LLM-атак и утечек данных до уязвимостей кода». Организаторами выступили компании Just AI, Nexign и ИнфоТеКС. Мероприятие проводится в офлайн-формате с онлайн-трансляцией.
Само событие небольшое и ориентировано в первую очередь на специалистов по разработке и информационной безопасности, однако показательно изменение тематики. Если большая часть российских AI-мероприятий 2024–2025 годов была сосредоточена на внедрении нейросетей в бизнес-процессы, автоматизации и росте производительности, то теперь появляются отдельные профессиональные встречи, посвящённые уже не возможностям ИИ, а связанным с ним рискам.
В программе митапа заявлены доклады о prompt injection-атаках, утечках корпоративных данных через AI-сервисы, уязвимостях AI-агентов и использовании нейросетей для поиска ошибок в программном коде.
Менеджер AI-продуктов Nexign Марат Галиаскаров представляет доклад о безопасном внедрении генеративного ИИ в крупных компаниях. Руководитель команды разработки Just AI Дмитрий Марчук разбирает сценарии атак на AI-агентов и способы обхода ограничений языковых моделей. Представитель ИнфоТеКСа Алексей Медведев рассказывает об использовании AI-инструментов для анализа уязвимостей кода.
Отдельно обращает на себя внимание сам набор тем. Ещё недавно вопросы AI-безопасности в России чаще обсуждались внутри закрытых технических сообществ или на специализированных секциях крупных форумов. Теперь подобные темы начинают выходить в отдельные отраслевые мероприятия, пусть пока и сравнительно небольшого масштаба.
На фоне массового внедрения генеративного ИИ в корпоративные сервисы и внутренние рабочие процессы разговор о безопасности постепенно становится частью повседневной технологической повестки, а не только исследовательской дискуссией.
Изображение срегенировано нейросетями
Продолжаем разговор во ВКонтакте — обсуждение, споры и позиции. Подписывайтесь и включайтесь.