Самая крупная мультиформатная конференция для тимлидов и руководителей

30 ноября 2023 и 1 декабря 2023

Москва, Кампус СКОЛКОВО

Как защитить бизнес при внедрении LLM

TechLeadConf: Путь техлида

Поиск и развитие команды
Будущее рынка разработки ПО
Трансформационные изменения

Доклад принят в программу конференции

Мнение Программного комитета о докладе

Внедрение LLM в решение бизнес-задач выглядит очень привлекательно. Но с новыми возможностями появляются новые типы угроз. Что это за угрозы и как с ними бороться, Евгений расскажет в своем докладе.

Целевая аудитория

Руководители команд, компаний, тимлиды, кто интересуется внедрением AI-технологий и практик в свои команды.

Тезисы

В своём докладе Евгений рассмотрит основные вызовы, связанные с безопасностью при внедрении LLM в современном бизнесе. Он поделится особенностями применения различных типов приложений на базе LLM и расскажет, почему многие организации предпочитают создавать прототипы на данной платформе.

Мы обсудим основные угрозы, которые несут LLM-приложения, включая инъекции промпт, троянских коней в мультимодальных моделях и уязвимости плагинов, становящиеся целью для непрямых атак. Евгений акцентирует внимание на важности понимания этих рисков для обеспечения надежной защиты бизнеса. Затронем тему защиты от популярных атак на LLM.

Имеет опыт работы в проектах Microsoft, Google и Сбер, где занимался внедрением сложных технологических решений в различные отрасли от финтеха до медицины. Выводил на рынок специализированные продукты для маркетплейсов AWS, PowerBI, Slack, и Atlassian. Сейчас фокусируюсь на изучении аспектов безопасности ИИ и разработке мер защиты для ИИ-приложений.

Raft

Raft специализируется на разработке прикладных решений на основе генеративного ИИ. Одно из наших решений - это платформа для анализа звонков на GPT http://audioinsights.ru. Мы активно используем сервисы OpenAI, открытые модели Llama/Mistral, и являемся партнёрами YandexGPT и СберДевайсов.

Видео