Искусственный интеллект в фармацевтике постепенно выходит за пределы отдельных экспериментов. Компании тестируют генеративные модели, AI-ассистентов, предиктивную аналитику, компьютерное зрение и автоматизацию работы с документами.
Однако вместе с количеством сценариев растёт и число вопросов. Какие данные можно передавать модели? Кто отвечает за результат? Как контролировать публичные AI-сервисы? Можно ли использовать ответ модели в регулируемом процессе? Как подтвердить, что система не исказила данные, не раскрыла конфиденциальную информацию и не начала действовать за пределами предусмотренного сценария?
Эти вопросы особенно важны для фармацевтической отрасли, где цифровые решения связаны не только с производительностью сотрудников, но и с качеством продукции, Data Integrity, персональными данными, фармаконадзором, регуляторной документацией и непрерывностью критичных процессов.
Модель угроз Сбера: защищать нужно не только запрос к нейросети
«Сбер Кибербезопасность» подготовил модель угроз для систем искусственного интеллекта. Документ рассматривает полный жизненный цикл AI-решения и систематизирует 70 угроз, распределённых по трём этапам:
- сбор и подготовка данных;
- разработка и обучение модели;
- эксплуатация модели и её интеграция с приложениями.
Такой подход важен, поскольку публичное обсуждение безопасности ИИ часто сводится к prompt-инъекциям или запрету сотрудникам отправлять документы в общедоступные чат-боты. Это лишь видимая часть проблемы.
Угрозы могут возникать значительно раньше: при выборе источников данных, подготовке датасетов, использовании сторонних библиотек, загрузке open-source-моделей и настройке инфраструктуры обучения.
После внедрения поверхность атаки становится ещё шире. В неё входят сама модель, API, приложение, системный промпт, механизмы обработки входных и выходных данных, внутренние базы, RAG-источники, журналы запросов и внешние интеграции.
Какие сценарии особенно важны для фармы
Первый блок рисков связан с данными. Модель может быть обучена или дообучена на искажённых, отравленных либо незаконно полученных данных. Конфиденциальная информация может попасть в датасет, сохраниться в модели и позднее проявиться в её ответах.
Для фармкомпании это может затронуть данные исследований, информацию о пациентах и врачах, материалы фармаконадзора, производственные записи, регистрационную документацию, коммерческую информацию или внутреннюю переписку.
Второй блок связан с компонентами и моделями сторонних разработчиков. Уязвимая библиотека, модифицированная open-source-модель или вредоносный код в цепочке поставки способны создать скрытый канал доступа к данным и инфраструктуре.
Третий блок касается эксплуатации модели: её подмены, кражи, нарушения доступности, обхода встроенных механизмов защиты, извлечения информации о модели или данных, на которых она обучалась.
Отдельная группа угроз появляется при использовании RAG, когда модель обращается к внутренним документам и базам знаний. Источник может быть изменён, запрос или ответ перехвачен, а в документ может быть внедрена скрытая инструкция, меняющая поведение системы.
Наконец, развитие AI-агентов создаёт риск уже не просто ошибочного ответа, а ошибочного или вредоносного действия: отправки информации во внешний сервис, изменения файла, запуска функции, передачи команды другой системе или распространения вредоносной инструкции по цепочке агентов.
Почему цена ошибки в фарме выше
Для обычного офисного сценария ошибка генеративной модели может закончиться неудачным письмом или странной презентацией. Тоже достижение цивилизации, но обычно обратимое.
В фармацевтической компании последствия могут быть серьёзнее.
Если AI-система используется при подготовке документации качества, анализе отклонений, обработке данных исследований, создании медицинского контента или формировании регуляторных материалов, необходимо обеспечить проверяемость результата, разграничение доступа, журналирование и контроль изменений.
Если модель влияет на GxP-процесс, возникает вопрос её валидации и подтверждения пригодности для предусмотренного использования.
Если она работает с персональными или чувствительными корпоративными данными, необходимо понимать, где эти данные обрабатываются, сохраняются ли они поставщиком и могут ли быть использованы для последующего обучения.
Если AI интегрирован с корпоративными системами, нужно учитывать не только качество ответа, но и полномочия модели: какие сведения она может читать, какие действия выполнять и кто остановит процесс при аномальном поведении.
Главный риск состоит не в том, что искусственный интеллект иногда ошибается. Люди с этим справлялись задолго до появления нейросетей. Проблема возникает, когда ошибка модели становится частью бизнес-процесса, а владельца результата, правил проверки и механизма остановки нет.
Что показало исследование цифровой зрелости фармкомпаний
В исследовании клуба «Фармакод» отдельный блок был посвящён применению искусственного интеллекта. Для предварительного отраслевого среза использован 64 профильных ответа представителей производителей, контрактных производителей, международных фармкомпаний, дистрибьюторов и R&D/biotech-компаний.
Результаты показывают: отрасль уже начала внедрение ИИ, однако управленческие механизмы пока развиваются медленнее технологий. Расчёты выполнены по приложенной выгрузке исследования.
Пилоты появляются быстрее стратегии
У 29,5% участников уже есть пилотные AI-проекты, но нет единой стратегии использования искусственного интеллекта.
Утверждённая стратегия есть у 23% компаний. Ещё 18% изучают возможности, а почти 20% пока не имеют стратегии.
Получается довольно знакомая корпоративная конструкция: технология уже проникла в процессы, а документ, объясняющий, зачем она там находится, ещё проходит согласование.
AI Governance остаётся редкостью
Полноценный контур AI Governance действует только у 9,8% респондентов.
Под AI Governance понимаются комитет или ответственная функция, реестр AI-сценариев, правила допуска решений к эксплуатации, распределение ролей, оценка рисков и контроль качества после внедрения.
У 36,1% компаний такого контура нет. Ещё по 19,7% ответили, что он сформирован частично или находится в процессе создания.
Это означает, что во многих организациях пока не определено:
- кто утверждает AI-сценарий;
- кто владеет результатом;
- кто оценивает риски;
- какие данные разрешено использовать;
- при каких условиях пилот можно масштабировать;
- кто отвечает за мониторинг модели после запуска.
Данные остаются главным ограничением
Только 8,2% участников считают данные своей компании полностью готовыми для применения ИИ.
У 52,5% данные готовы частично. Ещё 24,6% пока не оценивали их готовность, а 14,8% прямо считают данные неготовыми.
Таким образом, почти 39% компаний либо не готовы к использованию данных в AI-сценариях, либо ещё не проводили соответствующую оценку.
Проблема обычно заключается не только в качестве данных. Необходимо определить владельцев, правила доступа, источники, происхождение, актуальность, сроки хранения и возможность использования конкретного набора в заданном процессе.
Публичные AI-сервисы не всегда контролируются
Только 34,4% респондентов разрешают использование публичных AI-сервисов в контролируемом режиме.
В 19,7% компаний их применение не регулируется. Ещё в 18% сотрудники используют такие сервисы самостоятельно, без контроля со стороны компании.
Итого почти 38% участников находятся в ситуации, когда использование публичных моделей либо не регулируется, либо происходит в теневом режиме.
Простой запрет проблему обычно не решает. Он лишь превращает легальный запрос сотрудника в нелегальный запрос того же сотрудника с личного устройства. Поэтому компании нужен безопасный и понятный рабочий контур, а не документ, который все торжественно проигнорируют.
Какие риски ИИ фармкомпании считают наиболее значимыми
На первом месте оказались утечки конфиденциальных данных. Этот риск отметили 77% участников исследования.
Далее следуют:
- отсутствие необходимых компетенций — 55,7%;
- теневое использование ИИ сотрудниками — 50,8%;
- ошибки и галлюцинации моделей — 47,5%;
- низкое качество данных — 41%;
- регуляторные риски — 39,3%;
- невозможность валидации в GxP-среде — 39,3%;
- отсутствие понятного ROI — 36,1%;
- нарушение авторских прав — 31,1%.
Этот список показывает, что проблема ИИ в фарме находится сразу на пересечении ИТ, информационной безопасности, качества, данных, юридической функции и бизнеса.
Назначить ответственным только ИТ-директора или CISO удобно, но бессмысленно. Технологическая функция может обеспечить инфраструктуру и защиту, однако она не должна единолично определять допустимость бизнес-сценария, качество результата и критерии его использования.
Где фармкомпании уже применяют ИИ
Наиболее распространённым направлением стал маркетинг. Его указали 52,5% респондентов.
На втором месте находятся продажи — 47,5%. Далее идёт работа с документами — 45,9%.
Также AI применяется или пилотируется в HR, R&D, фармаконадзоре, финансах, производстве, клинических исследованиях, информационной безопасности и контроле качества.
Такое распределение объяснимо. В маркетинге, продажах и документообороте проще запустить ограниченный пилот, быстрее получить обратную связь и оценить эффект.
Но именно здесь возникает риск преждевременного масштабирования. Успешный эксперимент с генерацией текста ещё не означает, что компания готова подключить модель к CRM, внутренней базе знаний или медицинскому контенту.
При этом интерес к технологии продолжает расти: 55,7% участников включили искусственный интеллект в планы цифровизации на ближайшие два года.
Что нужно сделать до масштабирования AI-сценария
Первый шаг — определить бизнес-задачу и владельца результата. Не «внедрить нейросеть», а сократить время подготовки документа, повысить точность прогноза, ускорить обработку обращений или снизить объём ручного труда.
Второй шаг — провести оценку данных. Необходимо понимать, какие сведения использует модель, откуда они получены, кто ими владеет, можно ли передавать их во внешний сервис и насколько они пригодны для конкретного сценария.
Третий шаг — сформировать контролируемый технологический контур. Он должен включать разграничение доступа, журналирование, фильтрацию входных и выходных данных, управление интеграциями и возможность отключить модель.
Четвёртый шаг — установить правила проверки результата. Для критичных процессов должен сохраняться контроль со стороны человека, а решение о применении результата нельзя перекладывать на формулировку «модель так посчитала».
Пятый шаг — создать AI Governance: реестр сценариев, роли, уровни риска, порядок согласования, требования к поставщикам, мониторинг качества и критерии остановки или пересмотра решения.
Без этого пилот может показать красивый результат, но не превратиться в управляемый промышленный сервис.
12 августа: результаты исследования цифровой зрелости фармы
12 августа 2026 года в 12:00 состоится открытый вебинар по итогам исследования цифровой зрелости фармацевтических компаний.
На вебинаре будут представлены агрегированные результаты по ИТ, данным, информационной безопасности, GxP, качеству, бюджетам, интеграциям и готовности компаний к применению искусственного интеллекта. Участие бесплатное.
26 августа: практическая конференция «ИИ в фарме: ИТ × MKTG»
Следующим шагом станет практическая онлайн-конференция «ИИ в фарме: ИТ × MKTG», которая пройдёт 26 августа 2026 года с 12:00 до 16:00.
В программе предусмотрены результаты отраслевого исследования, модель совместной работы ИТ и маркетинга, практические кейсы, вопросы архитектуры, данных, информационной безопасности, ответственности и масштабирования AI-решений. Участие бесплатное, требуется регистрация.
Вместо заключения
Искусственный интеллект в фарме уже перестал быть отдельным экспериментом энтузиастов. Он постепенно становится частью корпоративного ИТ-ландшафта и бизнес-процессов.
Поэтому главный вопрос теперь звучит не так: «Нужно ли фармкомпаниям использовать ИИ?»
Вопрос в другом: как выбрать полезный сценарий, подготовить данные, определить ответственность, обеспечить безопасность и получить измеримый результат без потери контроля над процессом.
Ответ на него невозможно найти силами одной функции. ИТ, ИБ, данные, качество, маркетинг и бизнес должны договориться до запуска системы, а не после первого инцидента.
