Analysis 다가오는 미국 대통령 선거를 준비하고 있는 올해 기술 기업들에게는 AI 허위 정보를 다루는 것이 그 어느 때보다 중요합니다.
그러나 허위 정보와 딥페이크에 맞서 싸우는 것은 합성 콘텐츠를 생성하는 도구가 그 어느 때보다 광범위하게 이용 가능하다는 점을 고려할 때 더욱 어려워졌습니다.
OpenAI의 ChatGPT는 2022년 XNUMX월 처음 출시된 이후 점점 더 성능이 향상되었습니다. 작년에 업그레이드 텍스트 위에 오디오와 이미지를 생성하는 GPT-4 시스템입니다. 이제 스타트업은 GPT 스토어, 특정 성격을 채택하거나 특정 작업을 수행할 수 있는 맞춤형 ChatGPT 기반 봇을 호스팅하는 플랫폼입니다.
'우리는 개인화된 설득에 우리 도구가 얼마나 효과적인지 이해하기 위해 계속 노력하고 있습니다.'
월요일, OpenAI는 정치적 캠페인과 로비를 위해 GPT를 구축하는 것이 금지되어 있으며 실제 사람, 기업 또는 정부를 사칭하는 챗봇을 구동하기 위해 모델을 사용하는 것은 기술 남용이라고 밝혔습니다. 예를 들어 투표 등 민주적 절차를 방해하는 모든 애플리케이션도 금지됩니다.
"우리는 사람들이 우리 도구를 안전하고 책임감 있게 사용하기를 기대하고 목표로 삼고 있으며, 선거도 다르지 않습니다." 그것은 말했다. "우리는 오해를 불러일으키는 '딥페이크', 대규모 영향력 행사 또는 후보자를 사칭하는 챗봇과 같은 관련 남용을 예측하고 예방하기 위해 노력합니다."
규칙을 명확히 하는 것은 좋지만 이를 시행하는 것은 또 다른 문제입니다. GPT 스토어를 감시하는 것은 어렵고 OpenAI는 정책에 위배되는 애플리케이션을 신고하기 위해 사용자에게 의존하고 있습니다. 사람들은 이미 "연애적인 교제를 조성하거나 규제된 활동을 수행하는 데 전념하는" GPT를 만들지 않는 것에 대한 규칙을 어겼습니다. 플랫폼에는 AI '여자친구'가 많고 정치적인 챗봇도 많습니다.
예를 들어 일부는 설득력 있는 사칭은 아니지만 도널드 트럼프와 같은 정치인을 모방하도록 제작된 반면, 다른 일부는 특정 정치적 이념을 지지합니다. 예를 들어 'The Real Trump Bot'과의 대화에서는 우편투표에 반대한다고 밝혔습니다. “오, 우편 투표를 시작하지 마세요. 문제를 요구하는 것과 같습니다. 남용될 가능성이 너무 높아 믿기지 않습니다.”
이는 OpenAI의 정책에 위배됩니까? 누군가가 투표를 우편으로 보내는 것을 단념시킬 수 있습니까?. OpenAI는 “우리는 개인화된 설득에 우리 도구가 얼마나 효과적인지 이해하기 위해 계속 노력하고 있습니다.”라고 인정했습니다.
OpenAI는 다른 예방 조치도 취했습니다. 텍스트-이미지 모델 DALL-E에 안전 가드레일이 마련되어 있어 사용자가 딥페이크를 방지하기 위해 정치인의 이미지를 생성하는 것을 방지합니다. 하지만 가드레일을 사용하면 이미지 편집이 가능합니다. 즉, 사람들은 AI의 도움 없이도 후보자의 사진을 조작할 수 있습니다.
콘텐츠 금지 또는 차단 외에도 회사가 허위 정보에 맞서기 위해 취하고 있는 다른 전략에는 디지털 워터마크 출시 및 사용자에게 AI 생성 이미지 또는 비디오에 대한 투명성 요구가 포함됩니다.
Microsoft는 C2PA(콘텐츠 출처 및 진위 연합)의 회원이며 콘텐츠 자격 증명 이니셔티브를 지원하고 있습니다. Bing Image Creator에서 생성된 콘텐츠에 워터마크를 삽입하는 기능을 출시하고 있습니다. 여기에는 이미지가 어떻게 만들어졌는지, 언제, 누가 만들었는지 설명하는 메타데이터가 포함되어 있으며 이를 검사하여 진위 여부를 증명할 수 있습니다. OpenAI는 이에 따라 다음을 구현할 계획입니다. CP2A의 디지털 자격 증명도 마찬가지입니다. 하지만 워터마킹과 메타데이터 기능이 완벽한 것은 아닙니다. 그러나 이미지 출처에 대한 정보는 콘텐츠 자격 증명 형식을 지원하는 애플리케이션이나 웹사이트에서만 볼 수 있습니다.
사용자는 Microsoft 또는 OpenAI 도구로 생성된 이미지에서 정보를 제거하고 CP2A를 지원하지 않는 Google Chrome과 같은 도구에서 열 수 있습니다. 그러면 이미지와 관련된 메타데이터가 없으며 대신 해당 버전을 자유롭게 배포할 수 있습니다.
Google의 YouTube 플랫폼은 다른 접근 방식을 취하여 대신 제작자에게 동영상에 AI 생성 영상이 포함되어 있는지, 가짜 이벤트를 묘사하는지, 자신이 말하지 않은 내용을 말하는 사람들이 포함되어 있는지 공개하도록 요구하고 있습니다. 그 동안에, 메타 및 구글 광고에 가짜 이미지, 비디오, 오디오 등 합성 콘텐츠가 포함되어 있는지 선언하도록 광고주에게 요청했습니다.
정치인에게는 규칙이 더 엄격합니다. 캘리포니아, 텍사스, 미시간, 워싱턴, 미네소타 등 여러 주가 통과되었습니다. 법률 제정 정치 후보가 유권자에게 영향을 미치기 위해 딥페이크를 만들어내는 것을 금지합니다. 그러나 연방법은 없습니다. 연방선거관리위원회는 아직 “다른 후보자나 정당을 허위로 왜곡하는 행위”에 대한 정책이 AI 생성 콘텐츠에 적용되는지 여부를 결정하지 않았습니다.
AI는 여전히 대부분 규제되지 않으며 전 세계에 적용되는 다양한 법률이 정치적 허위 정보의 모든 사례를 다루지는 않습니다. 기술 회사들이 사용자가 AI 허위 정보를 생성하지 못하도록 억제하기 위한 노력을 강화하고 있지만, 그들의 방법은 완벽하지 않으며 사용자는 종종 안전 조치를 피할 수 있는 방법을 찾습니다. ®
- SEO 기반 콘텐츠 및 PR 배포. 오늘 증폭하십시오.
- PlatoData.Network 수직 생성 Ai. 자신에게 권한을 부여하십시오. 여기에서 액세스하십시오.
- PlatoAiStream. 웹3 인텔리전스. 지식 증폭. 여기에서 액세스하십시오.
- 플라톤ESG. 탄소, 클린테크, 에너지, 환경, 태양광, 폐기물 관리. 여기에서 액세스하십시오.
- PlatoHealth. 생명 공학 및 임상 시험 인텔리전스. 여기에서 액세스하십시오.
- 출처: https://go.theregister.com/feed/www.theregister.com/2024/01/17/ai_political_disinformation/
- :있다
- :이다
- :아니
- $UP
- 2022
- a
- 소개
- 남용
- 얻기 쉬운
- 방과 후 액티비티
- 인정 된
- 채택
- 광고
- 광고주
- 반대
- AI
- 겨냥
- All
- 수
- 이미
- 또한
- 이기는하지만
- an
- 및
- 다른
- 예상
- 어떤
- 응용할 수 있는
- 어플리케이션
- 적용하다
- 접근
- 있군요
- 약
- AS
- 질문
- 관련
- 오디오
- 정품
- 금지
- BE
- 가
- 전에
- 빙
- 블로킹
- 봇
- 봇
- 부서진
- 건물
- 사업
- 비자 면제 프로그램에 해당하는 국가의 시민권을 가지고 있지만
- by
- 캘리포니아
- 선거 운동
- CAN
- 후보자
- 수
- 나르다
- 어떤
- 잡담
- ChatGPT
- 크롬
- CO
- 연합
- 싸우기
- 위원회
- 기업
- 포함하는
- 함유량
- 대화
- 수
- 엄호
- 만들어진
- 만들기
- 창조자
- 크리에이터
- 신임장
- 결정적인
- 맞춤형
- 달이
- 결정하다
- 전용
- 딥 페이크
- 민주
- 설명
- 다른
- 어려운
- 디지털
- 드러내다
- 그릇된 정보
- 설득하다
- 배포하다
- do
- 들린
- 돈
- 도널드
- 도널드 트럼프
- 편집
- 유효한
- 노력
- 선거
- 선거
- 시행
- 에테르 (ETH)
- 조차
- 이벤트
- EVER
- 예
- 기대
- 모조품
- 그릇된
- 특색
- 연방
- 연방법
- Find
- 먼저,
- 따라
- 럭셔리
- 체재
- 육성
- 무료
- 에
- 생성
- 생성
- 얻을
- 주어진
- Go
- 좋은
- 구글
- Google Chrome
- 정부
- 성장한
- 있다
- 항구
- 도움
- 호스팅
- 방법
- 그러나
- HTTPS
- 엄청나게
- 이데올로기
- if
- 영상
- 형상
- 구현
- 중대한
- in
- 포함
- 더욱 더
- 영향
- 정보
- 발의
- 인스턴스
- 를 받아야 하는 미국 여행자
- Isn
- IT
- 그
- JPG
- 라벨
- 성
- 작년
- 법
- 법규
- 처럼
- 로비
- 만든
- 메일 링
- .
- 문제
- me
- 의미
- 그 동안에
- 조치들
- 회원
- 메타 데이터
- 방법
- 미시간
- Microsoft
- 수도
- 미네소타
- 오도 된
- 모델
- 모델
- 월요일
- 배우기
- 대개
- 여러
- 아니
- 십일월
- 지금
- of
- 자주
- oh
- on
- 만
- 열 수
- OpenAI
- 행정부
- or
- 기타
- 기타
- 우리의
- 아웃
- 특별한
- 파티
- 합격
- 사람들
- 완전한
- 실행할 수 있는
- 개성
- 맞춤형 교육 플랫폼
- 사진
- 장소
- 계획
- 플랫폼
- 플라톤
- 플라톤 데이터 인텔리전스
- 플라토데이터
- 많은
- 경찰
- 정책
- 정책
- 정치
- 정치 후보
- 정당
- 정치인
- 힘
- 대통령
- 대통령 선거
- 예방
- 프로세스
- 생산
- 금지
- 증명
- 기원
- 램핑
- RE
- 현실
- 규제
- 출시
- 관련된
- 의지
- 신고
- 책임감있게
- 구르는
- 규칙
- s
- 안전하게
- 안전
- 말했다
- 속담
- 본
- 이후
- So
- 어떤 사람
- 무언가
- 구체적인
- 시작
- 시작
- 미국
- 아직도
- 저장
- 전략들
- 더 엄격한
- 조각
- 이러한
- 소송
- SUPPORT
- 지원
- 인조
- 체계
- T
- 태클
- 촬영
- 복용
- 작업
- 기술
- 하이테크 기업
- Technology
- 텍사스
- 본문
- 보다
- 그
- XNUMXD덴탈의
- 정보
- 세계
- 그들의
- 그들
- 그때
- 그곳에.
- 그들
- 일
- 이
- 올해
- 그래도?
- 에
- 너무
- 검색을
- 상단
- 투명한
- 수고
- 훌륭한 사람
- 시도
- 이해
- 해방
- 곧 출시
- us
- 사용
- 사용자
- 사용
- 여러
- 버전
- 동영상
- 투표
- 유권자
- 투표
- 였다
- 워싱턴
- 워터 마크
- 워터 마킹
- 워터 마크
- 방법
- we
- 웹 사이트
- 잘
- 언제
- 여부
- 어느
- 동안
- 누구에게
- 크게
- 과
- 없이
- 작업
- 일하는
- 세계
- 겠지
- year
- 아직
- 유튜브
- 제퍼 넷