5 ключевых областей, в которых правительства должны ответственно развертывать генеративный искусственный интеллект – Блог IBM

В 2024 году продолжающийся процесс цифровизации еще больше повысит эффективность государственных программ и действенность политики, как подробно описано в предыдущем технический документ. Двумя важнейшими элементами, способствующими этой цифровой трансформации, являются данные и искусственный интеллект (ИИ). ИИ играет ключевую роль в раскрытии ценности данных и получении более глубокого понимания обширной информации, которую правительства собирают для обслуживания своих граждан.  

Поскольку в этом году ожидается рост спроса на генеративный искусственный интеллект, государственному сектору становится крайне важно принять ответственное использование этой технологии. Только так правительства смогут зарекомендовать себя как заслуживающие доверия управляющие. 

Различия между генеративным ИИ и традиционным ИИ 

Чтобы понять уникальные проблемы, которые ставит генеративный ИИ по сравнению с традиционным ИИ, необходимо понять их фундаментальные различия. Традиционный ИИ в первую очередь полагается на алгоритмы и обширные наборы размеченных данных для обучения моделей посредством машинного обучения. Эти модели могут давать рекомендации или определять определенное поведение, распознавая закономерности и придерживаясь заранее определенных правил. Например, традиционный ИИ используется для повышения эффективности фильтрации спама в электронной почте, улучшения рекомендаций фильмов или продуктов для потребителей, а также для предоставления виртуальным помощникам помощи людям в поиске информации. 

Генеративный ИИ становится ценным решением для автоматизации и улучшения рутинных административных и повторяющихся задач. Эта технология превосходно подходит для применения базовых моделей, которые представляют собой большие нейронные сети, обученные на обширных неразмеченных данных и точно настроенные для различных задач. Он может эффективно идентифицировать, обобщать, преобразовывать, прогнозировать и генерировать контент из больших наборов данных. Внедрение этой технологии в государственном секторе может значительно повысить эффективность, позволяя организациям выполнять свои повседневные задачи с минимальными затратами ресурсов. 

Генеративный ИИ предоставляет беспрецедентную возможность улучшить различные аспекты деятельности правительства и улучшить услуги для граждан. Это может предоставить государственным служащим более мощные инструменты для ответа на вопросы и проведения исследований. Такие задачи, как составление контрактов и управление ими, которые одновременно отнимают много времени и имеют решающее значение, могут значительно выиграть от применения генеративного ИИ. 

В прошлом году Государственный департамент США запросил отзывы о проблемах и соображениях безопасности, связанных с внедрением генеративного искусственного интеллекта и обработки естественного языка в свою сеть. Июньский запрос информации от Государственного департамента показал, что их цель — повысить эффективность и точность работников при выполнении повторяющихся задач, связанных с исследованием рынка и планированием закупок для написания контрактов. Генеративный искусственный интеллект, обученный машинному обучению, может помочь в разработке новых контрактов на основе этого исследования. 

Ответственное внедрение генеративного искусственного интеллекта 

Замечательные генеративные возможности этой новой технологии искусственного интеллекта поднимают вопросы об ее ответственном использовании в государственном секторе. Например, менеджеры по контрактам должны знать, что первоначальное исследование добросовестно преобразовано в юридически обязывающий контракт для двух или более сторон.  

Недавно общественность столкнулась с генеративным искусственным интеллектом, главным образом, благодаря инструментам, которые используют уже существующий текст, изображения, видео и аудио для создания персонализированного контента по запросу. Однако уровень детализации обучения некоторых из этих моделей может быть недостаточно, особенно для крупных предприятий или жестко регулируемых отраслей, зависящих от общественного доверия.  

Для разработки ответственного ИИ лидеры правительств должны тщательно подготовить свои внутренние данные использовать весь потенциал как ИИ, так и генеративного ИИ. Установление ответственных стандартов является важнейшей ролью правительства, требующей интеграции ответственности с самого начала, а не второстепенной мысли. Это включает, среди прочего, поддержание человеческого надзора, чтобы обеспечить точность контента, создаваемого ИИ, и предотвратить предвзятость. 

Ключевые столпы ответственного ИИ в правительстве 

Разработка IBM в области искусственного интеллекта сосредоточена на пяти фундаментальных принципах, которые помогают обеспечить надежность искусственного интеллекта. Правительственным руководителям следует уделять приоритетное внимание этим основным принципам при рассмотрении ответственной разработки, обучения и внедрения ИИ:  

• Справедливость в системе ИИ означает ее способность справедливо относиться к отдельным людям или группам, в зависимости от контекста, в котором используется система ИИ. Это означает противодействие предвзятости и предотвращение дискриминации, связанной с защищаемыми характеристиками, такими как пол, раса, возраст и статус ветерана. 
• Политика относится к способности системы искусственного интеллекта определять приоритеты и защищать конфиденциальность и права потребителей на данные, соблюдая при этом существующие правила, касающиеся сбора, хранения, доступа и раскрытия данных.  
• Объяснимость Это важно, потому что система ИИ должна быть в состоянии предоставить понятное человеку объяснение своим предсказаниям и идеям таким образом, чтобы не прятаться за техническим жаргоном.  
• Прозрачность означает, что система ИИ должна включать и обмениваться информацией о том, как она была спроектирована и разработана, а также о данных или источниках данных, используемых для питания системы. 
• прочность — это способность системы искусственного интеллекта эффективно справляться с исключительными условиями, такими как аномалии входных данных. Это помогает обеспечить согласованность результатов.  

IBM-ватсонкс™, интегрированная платформа искусственного интеллекта, данных и управления, воплощает эти принципы, предлагая цельный, эффективный и ответственный подход к разработке искусственного интеллекта в различных средах. В частности, недавний запуск IBM® watsonx.governance™ помогает командам государственного сектора автоматизировать и решать эти области, позволяя им направлять, управлять и контролировать деятельность ИИ в своей организации. Этот инструмент упрощает четкие процессы, поэтому организации могут заранее выявлять и снижать риски, одновременно поддерживая свои программы соответствия внутренним политикам в области искусственного интеллекта и отраслевым стандартам.  

Поскольку государственный сектор продолжает использовать ИИ и автоматизацию для решения проблем и повышения эффективности, крайне важно поддерживать доверие и прозрачность в любом решении ИИ. Команды должны иметь возможность понимать жизненный цикл ИИ и эффективно управлять им. Активное внедрение ответственных методов искусственного интеллекта — это возможность для всех нас совершенствоваться.  

Узнайте больше о том, как ИИ может преобразовать государственные услуги