ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ В ГОСУДАРСТВЕННОМ СЕКТОРЕ: СИНЕРГЕТИЧЕСКИЙ ЭФФЕКТ И СИСТЕМНЫЕ РИСКИ
Ключевые слова:
GovTech, искусственный интеллект, цифровые технологии, машинное обучение, государственные услуги, цифровизация, управление рискамиАннотация
Введение. Цифровизация государственного сектора является одним из важнейших глобальных трендов. Цель исследования заключается в проведении комплексного анализа перспектив внедрения ИИ-решений в госсекторе в контексте GovTech, в выявлении сопутствующих им системных рисков и разработке решений для их минимизации.
Материалы и методы. Использована комплексная методология, включающая документальный анализ научной литературы (2022–2025 гг.), контент-анализ и сравнительный анализ возможностей и сопутствующих им рисков внедрения ИИ в рамках GovTech. Анализируются практические кейсы внедрения ИИ в госсекторе России.
Результаты. Систематизированы ключевые направления применения ИИ в государственном секторе: социальная поддержка граждан, здравоохранение, обеспечение правопорядка и контроля соблюдения законодательства, городская и транспортная инфраструктура. Синергетический эффект от применения ИИ в госсекторе заключается в комплексном использовании технологий машинного обучения, обработке естественного языка и компьютерного зрения. Это позволяет повышать скорость и точность обработки данных, реализовывать упреждающее реагирование на вызовы, усиливать обоснованность решений и улучшать доступность сервисов. Обоснована необходимость создания системы управления рисками при внедрении ИИ-решений в госсекторе: ее социальные, правовые, технические, этические аспекты. Выявлена взаимосвязь жизненного цикла ИИ-системы в госсекторе с группами рисков. На стадии проектирования ключевыми являются правовые и этические риски (оценка допустимости применения технологии для конкретной задачи, соответствие правовым нормам и этическим принципам); на стадии разработки ИИ-систем доминируют технические риски (корректность архитектуры, качество и репрезентативность наборов данных); при внедрении и эксплуатации – социальные риски (потеря рабочих мест в госсекторе, низкая квалификация госслужащих) и технические риски (неадекватная работа модели в реальных условиях, кибератаки); на этапе мониторинга критическими становятся правовые (несоответствие модели изменяющемуся законодательству) и этические риски (выявление непредвиденных негативных последствий в процессе длительной эксплуатации). Преодоление выявленных рисков авторы связывают с внедрением принципов «доверенного ИИ», предполагающего обязательный аудит алгоритмов до и в процессе их эксплуатации ИИ в государственном секторе; создание при ключевых ведомствах этических комитетов, уполномоченных проводить экспертизу проектов на предмет алгоритмической предвзятости; разработку и утверждение единых стандартов качества данных, используемых в госсекторе.
Обсуждение. Полученные результаты способствуют реализации этически корректной концепции «доверенного ИИ», а также интеграции управления рисками в ядро процессов разработки и внедрения ИИ в рамках GovTech.
Скачивания
