Российские специалисты по кибербезопасности и госструктуры все чаще предупреждают: искусственный интеллект не стоит внедрять в автоматизацию и ключевые бизнес-решения без предварительных расчетов, контроля и понимания рисков. ИИ способен ускорить процессы, но при некритичном принятии его выводов – ошибиться в расчетах, раскрыть конфиденциальные данные компании или стать точкой доступа для мошенников.

Именно эта тема стала центральной на третьем бизнес-бранче «Идеальное ограбление. Как использование ИИ может опустошить ваш бюджет», который прошел 14 октября в пространстве «Особняк Инвестора» (Москва, улица Фридриха Энгельса, 64, стр. 1). Организатором встречи выступила экосистема «Хаб событий».

Участники обсудили, что автоматизация на основе ИИ особенно опасна, когда решения принимаются слишком быстро и без человеческого участия. Ошибочная модель, некорректные данные, «отравленный» датасет или слепое доверие нейросети могут привести к «идеальному ограблению» бюджета, утечкам и репутационным потерям.

«Эффективность внедрения ИИ нужно оценивать не по обещаниям, а по результатам пилотных проектов на реальных задачах. Мы внедряем автоматизацию только там, где она не снижает качество, а повышает производительность и освобождает время сотрудников. На практике ИИ у нас работает прежде всего как ассистент: помогает искать и систематизировать информацию, готовить материалы и выполнять рутинные операции. В сложных финансовых и аналитических процессах его применение пока ограничено, поскольку затраты на обучение, контроль и корректировку могут превышать эффект. Для нас ИИ пока – инструмент точечной оптимизации, а не полноценная замена бизнес-процессов», – поделился Алексей Кричевский, финансовый эксперт, автор и владелец проекта «Экономизм».

Отдельно шла речь о рисках передачи корпоративных данных во внешние AI-сервисы, использовании сотрудниками несанкционированных нейросетей и росте атак с применением дипфейков. «Хаотичное внедрение ИИ расширяет возможности киберпреступников: упрощает создание фишинговых сообщений, подделку голоса и видео, а также разработку вредоносного ПО», – отметил генеральный директор коммуникационной группы «Р.И.М. и Интериму» Валерий Сидоренко.

Ключевой практический вывод бранча – ИИ может помогать в анализе и рутинной автоматизации, но финальные решения, особенно юридические, финансовые и стратегические, должны оставаться за людьми. Компаниям важно внедрять правила доступа к данным, проверять источники и результаты работы моделей, ограничивать передачу чувствительной информации и регулярно аудировать AI-процессы.

Основным спикером встречи стал Андрей Масалович – эксперт в сфере киберразведки и информационной безопасности, президент Консорциума «Инфорус» и создатель системы интернет-разведки Avalanche. Он подчеркнул: 

«ИИ – не «черный ящик», которому можно делегировать ответственность, а инструмент, требующий зрелого управления рисками».

В рамках дискуссии эксперты также затронули вопрос: кто несет ответственность за внедрение и применение ИИ-решений – разработчик, интегратор или компания? Александр Сорочан, специалист по повышению операционной эффективности, оптимизации бизнес-процессов и управлению изменениями, автор книги «БДСМ в бизнес-процессах», обратил внимание на то, что основная ответственность все-таки лежит на компании, которая внедряет и использует ИИ. «Именно она определяет правила работы системы, загружает данные и контролирует взаимодействие с клиентом. Разработчик отвечает за качество и корректность самого решения, но при корпоративном внедрении его роль вторична».

Подробнее о всей серии бизнес-бранчей на сайте мероприятия: https://bestconf.pro/cyberbranch