19 мая стартовал XIII Петербургский международный юридический форум
Он проходит под девизом «Право: уроки прошлого для мира будущего»
Президент Владимир Путин в своём приветствии отметил, что ПМЮФ-2025 предоставляет возможность обсудить широкий круг актуальных юридических вопросов, связанных с развитием системы международных отношений, совершенствованием и гармонизацией национальных правовых систем.
Организаторами Форума выступили Минюст России и Фонд «Росконгресс».
В первый день на сессии «Искусственный интеллект и его пределы в праве» с докладом «Риски и угрозы искусственного интеллекта в информационном пространстве» выступила начальник отдела специальных проектов и академических программ Научно-технического центра ФГУП «ГРЧЦ» Анна Гущина.
Предлагаем тезисы её доклада.
В Научно-техническом центре ГРЧЦ мы ведем регулярную работу по изучению технологий ИИ и вопросов его регулирования. Работа строится по двум направлениям – экспертно-дискуссионное и исследовательское.
В 2021 году был создан Экспертный совет по ИИ ГРЧЦ, в который вошли работники организации и внешние эксперты. Совет стал площадкой обмена экспертизы, в том числе по правовым вопросам, которые требуют решений.
Исследовательская работа позволяет нам понимать, что внутри ИИ, нейросетей, видеть результаты и прогнозировать последствия ИИ.
В 2023 году было проведено исследование, по результатам которого сформулировали 12 функциональных групп – кластеров передовых решений с ИИ по мониторингу интернета и обеспечении безопасности его пользователей.
В своей работе мы оперируем функциональными кластерами с ИИ:
- Обнаружение дипфейков
- Определение контекста происходящего на видео
- Автоматизация мониторинга и модерации контента
- Распознавание лиц
- Извлечение смысла из текста
- Поддержка фактчекинга
- Распознавание символики
- Извлечение и анализ метаданных
- Распознавание эмоций
- Поддержка решений при информационных атаках
- Генерация контента
- Рекомендация контента
В каждом из кластеров имеются различия в технических особенностях работы решений. А также сформулированы универсальные положения. Выделю те результаты исследования, которые важны в контексте нашей секции. Эти положения очерчивают ключевые задачи в процессе формирования нормативной базы, определяют степень ответственности за конечные результаты регулирования и помогают удерживать четкое представление о целях, которые необходимо достичь после введения новых правил.
1) Регуляторика в большинстве стран не успевает за скоростью развития технологий. Это относится к большой доле кластеров, начиная с генеративных алгоритмов, регуляция которых всё ещё не достигла должной детализации, и заканчивая самими датасетами, подход к наполнению и использованию которых во многих странах остается на совести самих разработчиков.
2) Существенная доля моделей представляет собой «чёрный ящик» — из-за огромного объёма параметров крайне сложно определить, как именно эти модели принимают свои решения. Это представляет угрозу в случае внедрения зарубежных моделей, использования зарубежными датасетами и разработки некачественных моделей.
3) Разработка процедур тестирования и оценки моделей — важная инфраструктурная задача, которая позволит государству держать руку на пульсе развития технологий, отслеживать перспективных разработчиков и проекты.
4) Наличие отечественных моделей и их внедрение, а также использование отечественных датасетов — вопрос национальной безопасности, так как зарубежные акторы способны экспортировать искусственный интеллект, который будет им подконтролен после передачи клиенту.
5) Из-за автоматизации информационных войн и развития генеративных моделей будет крайне проблематично обеспечить когнитивную безопасность населения без внедрения искусственного интеллекта.