Компания ТрансТелеКом приняла участие в Форуме «Цифровые решения».
На сессии «Когда код управляет движением: кибербезопасность современного транспорта» эксперты в области цифровой безопасности обсудили риски и стратегии защиты информации, в том числе, при использовании искусственного интеллекта. Модератором сессии выступила Полина Давыдова, директор Ассоциации «Цифровой транспорт и логистика».
Руководитель департамента услуг по информационной безопасности компании ТрансТелеКом Александр Малявкин представил доклад, посвященный методам защиты от негативных сценариев применения искусственного интеллекта в транспортно-логистической отрасли. Эксперт рассказал о задачах, которые искусственный интеллект с успехом решает уже сейчас: анализирует трафик и загрузку транспортных магистралей, выстраивая оптимальные маршруты, помогает в автоматизации внутренних процессов. На смену традиционным перевозкам приходят автопилоты для грузовиков и дроны-доставщики, а складские операции все чаще выполняются роботами-сортировщиками под управлением ИИ. Еще один сценарий использования – предиктивное обслуживание транспорта, где анализ телеметрии с помощью ИИ позволяет предсказывать поломки до их возникновения.
Спикер подчеркнул, что вместе с новыми возможностями приходят и серьезные угрозы, прежде всего связанные с использованием внешних ИИ-платформ. Утечка данных через внешние ИИ-сервисы, отравление обучающих данных, при котором злоумышленники компрометируют информацию и тем самым искажают результаты работы модели, а также прямые и непрямые инъекции промптов, позволяющие обойти защитные механизмы, – все это формирует новый класс рисков.
При этом в отношении внутренних ИИ-платформ зачастую создаётся ложное чувство их безопасности. Однако данные системы также подвержены потенциальному отравлению данных (умышленному или неумышленному) или деградации за счёт ограничения возможностей дообучения. А самая существенная проблема кроется в том, что со временем, в случае расширения сфер применения внутренней платформы ИИ, она становится уникальным инструментом для злоумышленника.
Уже сейчас многие из киберпреступников в первую очередь обращают внимание на поиск внутренних ИИ-платформ, которые могут дать им ответ о профиле и структуре компании, особенностях функционирования ИТ-инфраструктуры, количестве и составе используемых информационных систем и даже средствах защиты информации. Раньше потребовалось бы значительное время на сбор этой информации, а теперь всё это будет в «одном окне».
В ответ на актуальные вызовы Александр Малявкин предложил комплексную стратегию защиты. На уровне данных речь идет о шифровании обучающих массивов и анонимизации персональной информации перед передачей в ИИ. На уровне моделей – о контроле доступа к параметрам, мониторинге актуальности данных и запрете неавторизованного дообучения. Сетевая безопасность обеспечивается сегментацией ИИ-контура, фильтрацией входных и выходных данных и мониторингом аномальных запросов, а инфраструктурная – резервным копированием моделей и данных и использованием отечественных платформ.
Организационные меры включают регламент использования ИИ-сервисов, обучение сотрудников, перечень допустимых ИИ-инструментов и назначение ответственных за ИИ-безопасность. Наконец, регуляторный контур предполагает соответствие приказу ФСТЭК России № 117, моделирование угроз по БДУ ФСТЭК России, соблюдение 152-ФЗ и пр.
Подводя итоги, эксперт подчеркнул, что ИИ в транспортно-логистической сфере уже дает один из самых ощутимых экономических эффектов, но при этом требует комплексного контроля безопасности. Внешние ИИ-платформы создают риск утечки данных и блокировки доступа, поэтому требуется строгая регламентация. Внутренние ИИ-системы, в свою очередь, могут стать мощным оружием в руках киберпреступников.
«Защита должна выстраиваться последовательно – от данных и моделей к инфраструктуре, организационным мерам и регуляторному соответствию. Ключевой принцип – баланс между инновацией и безопасностью. Без надежной защиты ИИ становится не активом, а угрозой для транспортно-логистической компании», – резюмировал Александр Малявкин.
Форум «Цифровые решения» прошел с 6 по 10 октября в Национальном центре «Россия» в Москве при поддержке Правительства РФ и Минцифры России. Площадка объединила представителей государства, бизнеса и ИТ-сообщества для диалога на тему цифровой трансформации страны. Деловая программа Форума включала более 120 сессий по различным направлениям, в том числе «Цифровая инфраструктура», «Искусственный интеллект и облачные сервисы», «Кибербезопасность», «Программное обеспечение».
О компании
Компания ТрансТелеКом (ТТК) работает на рынке более двадцати пяти лет. ТрансТелеКом является поставщиком услуг связи и провайдером современных цифровых сервисов для государственных организаций и крупнейших корпоративных клиентов, работающих в ключевых отраслях экономики. В продуктовом портфеле Компании ТрансТелеКом – самые востребованные продукты для обеспечения безопасности и эффективности функционирования бизнеса, а также инновационные услуги.
ТТК управляет одной из крупнейших в России магистральных волоконно-оптических линий связи протяженностью более 100 000 км и пропускной способностью более 6 Тбит/с.
