OpenAI는 선거 및 유권자 억제에 사용을 배제합니다.

OpenAI는 선거에서 잘못된 정보에 맞서기 위한 결정적인 조치로 엄격한 입장 선거 캠페인 및 유권자 억압 전술에 생성 AI 도구를 사용하는 것에 반대합니다.

2024년 전 세계 선거를 어떻게 준비하고 있는지 스냅샷:

• 오해의 소지가 있는 딥페이크를 포함한 남용을 방지하기 위해 노력합니다.
• AI 생성 콘텐츠에 대한 투명성 제공
• 권위 있는 투표 정보에 대한 접근성 향상https://t.co/qsysYy5l0L

— 오픈AI(@OpenAI) 2024 년 1 월 15 일

이번 발표는 2024년에 예정된 수많은 주요 선거의 무결성을 보장하기 위한 필수적인 단계입니다.

또한 읽기 : OpenAI, CNN, Fox, Time과 뉴스 콘텐츠 라이선스 협상

혁신과 정책을 통해 오용 방지

OpenAI는 자사의 기술이 선거 결과를 조작하는 데 악용되지 않도록 보호하기 위한 전략을 시작했습니다. 법무, 엔지니어링, 정책 등 다양한 부서의 전문지식을 융합해 선거 관련 업무에 집중하는 전문팀을 꾸렸다. 이 팀의 주요 목표는 선거에서 AI의 잠재적인 남용을 식별하고 완화하는 것입니다.

"우리는 안전 시스템, 위협 인텔리전스, 법률, 엔지니어링 및 정책 팀의 전문 지식을 모아 선거 업무에 전념하는 다기능적 노력을 기울이고 있습니다."

정치에서 잘못된 정보의 위협은 새로운 것이 아니지만 AI 기술의 출현은 전례 없는 도전을 제시합니다. OpenAI는 이를 인지하고 적극적인 조치를 취하고 있습니다. 회사는 레드팀 구성, 사용자 참여, 안전 가드레일과 같은 기술을 혼합하여 사용할 계획입니다. 구체적으로 그들의 이미지는 생성 도구, DALL-E, 정치 후보자를 포함한 실제 인물을 묘사하는 이미지 생성을 방지하도록 업데이트되었습니다.

“DALL·E는 후보자를 포함한 실제 인물의 이미지 생성을 요구하는 요청을 거부하는 가드레일을 갖추고 있습니다.”

OpenAI는 진화하는 AI 기술 환경과 오용 가능성에 발맞추기 위해 사용자 정책을 지속적으로 수정합니다. 업데이트된 안전 정책은 이제 정치 캠페인 및 로비를 위한 AI 애플리케이션 개발을 명시적으로 제한합니다. 또한, 실제 사람이나 조직을 모방한 챗봇의 생성을 방지하기 위한 조치가 취해졌습니다.

투명성과 책임성 강화

OpenAI 전략의 핵심 구성 요소는 DALL-E 도구에 대한 출처 분류기를 도입하는 것입니다. 현재 베타 테스트 중인 이 기능은 DALL-E에서 생성된 이미지를 감지할 수 있습니다. 회사는 AI 생성 콘텐츠의 투명성을 높이기 위해 언론인, 플랫폼 및 연구자가 이 도구에 액세스할 수 있도록 하는 것을 목표로 합니다.

“저희는 언론인, 플랫폼, 연구원을 포함한 첫 번째 테스터 그룹이 피드백을 받을 수 있도록 곧 이 정보를 제공할 계획입니다.”

OpenAI는 또한 실시간 뉴스 보고를 ChatGPT. 이번 통합은 사용자에게 정확하고 시의적절한 정보를 제공하고 AI가 제공하는 정보 소스에 대한 투명성을 높이는 것을 목표로 합니다.

OpenAI는 미국 국무장관 협회와의 공동 노력을 통해 자사의 기술이 선거 참여를 저해하는 것을 방지하는 데 중점을 두고 있습니다. 팀워크에는 GPT 기반 챗봇 사용자를 CanIVote.org와 같은 신뢰할 수 있는 투표 정보 웹사이트로 안내하는 것이 포함됩니다.

AI 경쟁에서 경쟁자들이 뒤따른다

OpenAI의 발표는 AI 업계에서 선례를 세웠습니다. Google LLC Meta Platforms Inc.도 자사 기술을 통해 확산되는 잘못된 정보에 맞서기 위한 조치를 시행하고 있습니다. 업계 리더들의 이러한 공동 노력은 AI가 민주적 프로세스에 미치는 잠재적 영향에 대한 인식과 책임이 커지고 있음을 의미합니다.

하지만 이것으로 충분합니까? Pund-IT Inc.의 Charles King은 이러한 조치가 시의적절한지 또는 사후 조치인지 의문을 제기하면서 중요한 점을 제기합니다. 그는 AI가 생성한 잘못된 정보에 대한 우려가 수년 동안 존재해 왔으며 OpenAI의 최근 발표는 너무 적고 너무 늦었다고 볼 수 있다고 주장합니다. 이러한 관점은 정치적 환경에서 AI 개발자의 역할과 책임에 대한 더 깊은 성찰을 촉발합니다.

“기껏해야 이번 발표는 OpenAI가 스위치에서 잠자고 있다는 것을 암시합니다. 그러나 최악의 경우 이는 올해 다가오는 세계 선거에서 생성 AI가 팬을 때릴 때 OpenAI가 지적할 수 있는 손 씻기 의식과 유사합니다.”

• SEO 기반 콘텐츠 및 PR 배포. 오늘 증폭하십시오.
• PlatoData.Network 수직 생성 Ai. 자신에게 권한을 부여하십시오. 여기에서 액세스하십시오.
• PlatoAiStream. 웹3 인텔리전스. 지식 증폭. 여기에서 액세스하십시오.
• 플라톤ESG. 탄소, 클린테크, 에너지, 환경, 태양광, 폐기물 관리. 여기에서 액세스하십시오.
• PlatoHealth. 생명 공학 및 임상 시험 인텔리전스. 여기에서 액세스하십시오.
• 출처: https://metanews.com/openai-rules-out-use-in-elections-and-voter-suppression/