정부가 책임감 있게 생성 AI를 배치해야 하는 5가지 핵심 영역 - IBM 블로그

2024년에는 진행 중인 디지털화 프로세스로 인해 이전 보고서에서 설명한 바와 같이 정부 프로그램의 효율성과 정책의 효율성이 더욱 향상됩니다. 백지. 이러한 디지털 혁신을 이끄는 두 가지 중요한 요소는 데이터와 인공지능(AI)입니다. AI는 데이터에서 가치를 발굴하고 정부가 시민에게 서비스를 제공하기 위해 수집하는 광범위한 정보에 대한 더 깊은 통찰력을 얻는 데 중추적인 역할을 합니다.  

올해 제너레이티브 AI에 대한 수요가 증가할 것으로 예상됨에 따라 공공 부문에서 이 기술의 책임감 있는 사용을 수용하는 것이 필수적입니다. 그렇게 함으로써만 정부는 신뢰할 수 있는 청지기로 자리매김할 수 있습니다. 

생성 AI와 기존 AI의 차이점 

기존 AI와 비교하여 생성 AI가 제기하는 고유한 과제를 이해하려면 근본적인 차이점을 이해하는 데 도움이 됩니다. 기존 AI는 주로 알고리즘과 광범위한 레이블이 지정된 데이터 세트를 사용하여 기계 학습을 통해 모델을 교육합니다. 이러한 모델은 패턴을 인식하고 사전 정의된 규칙을 준수하여 권장 사항을 제공하거나 특정 행동을 식별할 수 있습니다. 예를 들어, 기존 AI는 스팸 이메일 필터링의 효율성을 향상하고, 소비자를 위한 영화 또는 제품 추천을 강화하며, 개인이 정보를 찾는 데 도움을 주는 가상 비서를 활성화하는 데 사용됩니다. 

생성적 AI는 일상적인 관리 및 반복 작업을 자동화하고 개선하기 위한 귀중한 솔루션으로 떠오르고 있습니다. 이 기술은 레이블이 지정되지 않은 광범위한 데이터에 대해 훈련되고 다양한 작업에 맞게 미세 조정된 대규모 신경망인 기초 모델을 적용하는 데 탁월합니다. 대규모 데이터 세트에서 콘텐츠를 효과적으로 식별, 요약, 변환, 예측 및 생성할 수 있습니다. 공공 부문에서 이 기술을 구현하면 효율성이 크게 향상되어 조직이 적은 리소스로 일상 업무를 완료할 수 있습니다. 

생성적 AI는 정부 운영의 다양한 측면을 강화하고 시민을 위한 서비스를 개선할 수 있는 전례 없는 기회를 제공합니다. 이는 정부 직원에게 질문에 답하고 연구를 수행하기 위한 더욱 강력한 도구를 제공할 수 있습니다. 시간이 많이 걸리고 중요한 계약서 작성 및 관리와 같은 작업은 생성 AI를 적용하면 큰 이점을 얻을 수 있습니다. 

작년에 미국 국무부는 생성 및 자연어 처리 AI를 네트워크에 도입하는 데 따른 과제와 보안 고려 사항에 대한 피드백을 구했습니다. 6월 국무부의 정보 요청에서는 시장 조사 및 계약서 작성을 위한 인수 계획과 관련된 반복적인 작업에서 작업자 효율성과 정확성을 향상하려는 목표가 밝혀졌습니다. 기계 학습으로 훈련된 생성 AI는 이 연구를 기반으로 새로운 계약 초안을 작성하는 데 도움이 될 수 있습니다. 

책임감 있는 생성 AI 구현 

이 신흥 AI 기술의 놀라운 생성 능력은 공공 부문에서의 책임 있는 사용에 대한 의문을 제기합니다. 예를 들어, 계약 관리자는 원본 연구가 둘 이상의 당사자를 위한 법적 구속력이 있는 계약으로 충실하게 변환되었음을 알아야 합니다.  

대중은 최근 기존 텍스트, 이미지, 비디오 및 오디오를 사용하여 주문형 맞춤형 콘텐츠를 생성하는 도구를 통해 주로 생성 AI를 접했습니다. 그러나 이러한 모델 중 일부의 훈련에 관한 세부 수준은 부족할 수도, 특히 대중의 신뢰에 의존하는 대기업이나 규제가 심한 산업의 경우 더욱 그렇습니다.  

책임감 있는 AI를 개발하려면 정부 지도자는 신중하게 노력해야 합니다. 내부 데이터 준비 AI와 생성 AI의 잠재력을 최대한 활용하는 것입니다. 책임 있는 기준을 설정하는 것은 중요한 정부 역할로, 나중에 생각하기보다는 처음부터 책임의 통합을 요구합니다. 여기에는 AI 생성 콘텐츠의 정확성을 보장하고 편견을 방지하는 데 도움이 되는 사람의 감독을 유지하는 것이 포함됩니다. 

정부의 책임 있는 AI를 위한 핵심 기둥 

IBM의 AI 개발은 신뢰할 수 있는 AI를 보장하는 데 도움이 되는 5가지 기본 원칙을 중심으로 진행됩니다. 정부 지도자들은 책임 있는 AI 개발, 교육 및 배포를 고려할 때 다음 요소의 우선순위를 지정해야 합니다.  

• 공평 AI 시스템에서 AI 시스템이 사용되는 맥락에 따라 개인이나 그룹을 공평하게 대우하는 능력을 의미합니다. 이는 편견에 맞서고 성별, 인종, 연령, 병역 상태 등 보호되는 특성과 관련된 차별을 방지하는 것을 의미합니다. 
• 개인정보보호 데이터 수집, 저장, 액세스 및 공개와 관련된 기존 규정을 준수하면서 소비자의 개인 정보 및 데이터 권리를 우선시하고 보호하는 AI 시스템의 능력과 관련이 있습니다.  
• 설명 가능성 AI 시스템은 기술적 전문 용어 뒤에 숨지 않는 방식으로 예측과 통찰력에 대해 인간이 해석할 수 있는 설명을 제공할 수 있어야 하기 때문에 중요합니다.  
• 투명도 이는 AI 시스템이 설계 및 개발 방법과 시스템에 공급하는 데 사용된 데이터 또는 데이터 소스에 대한 정보를 포함하고 공유해야 함을 의미합니다. 
• 견고성 입력의 이상과 같은 예외적인 상황을 효과적으로 처리하는 AI 시스템의 능력입니다. 일관된 출력을 보장하는 데 도움이 됩니다.  

IBM watsonx™통합 AI, 데이터 및 거버넌스 플랫폼인 는 다양한 환경에서 AI 개발에 대한 원활하고 효율적이며 책임감 있는 접근 방식을 제공함으로써 이러한 원칙을 구현합니다. 구체적으로 최근 출시된 IBM® watsonx.governance™ 공공 부문 팀이 이러한 영역을 자동화하고 해결하여 조직의 AI 활동을 지시, 관리 및 모니터링할 수 있도록 지원합니다. 이 도구는 조직이 내부 AI 정책 및 업계 표준에 대한 규정 준수 프로그램을 지원하는 동시에 위험을 사전에 감지하고 완화할 수 있도록 명확한 프로세스를 촉진합니다.  

공공 부문이 문제를 해결하고 효율성을 개선하기 위해 계속해서 AI와 자동화를 수용함에 따라 모든 AI 솔루션에 대한 신뢰와 투명성을 유지하는 것이 중요합니다. 팀은 AI 수명주기를 효과적으로 이해하고 관리할 수 있는 능력을 갖추어야 합니다. 책임감 있는 AI 관행을 적극적으로 채택하는 것은 우리 모두가 개선할 수 있는 기회입니다.  

AI가 정부 서비스를 변화시킬 수 있다는 사실에 대해 자세히 알아보세요.