사이버 범죄자도 보안 기능을 우회할 수 있기 때문에 워터마킹 콘텐츠는 실제 콘텐츠와 AI 생성 콘텐츠를 구별하기에는 아직 충분하지 않습니다.
이는 AI 기술, 특히 생성 AI의 채택이 증가함에 따라 부도덕한 개인이 이를 사용하여 잘못된 정보, 증오 및 기타 형태의 악의적인 콘텐츠를 퍼뜨릴 수 있는 비옥한 기반을 마련함에 따라 발생합니다.
그리고 워터마킹은 AI 생성 콘텐츠와 실제 콘텐츠를 구별하는 핵심 솔루션 중 하나로 떠올랐습니다. 그러나 단점도 있습니다.
또한 읽기 : Meta의 Audio2Photoreal은 이제 음성 기반의 사실적인 아바타를 허용합니다.
조작
전문가들은 AI의 성장에는 악의적인 행위자가 이 기술을 이용하여 허위 정보와 악의를 퍼뜨리고 가짜 뉴스로 패닉을 야기하는 경우도 있다고 말합니다.
사용자가 AI 생성 콘텐츠와 실제 인간이 만든 콘텐츠를 구별할 수 있도록 워터마킹이 확인되었지만, 이 역시 조작되기 쉽습니다.
에 따르면 등록, Dall-E 텍스트-이미지 모델과 같은 일부 눈에 보이는 서명은 AI 탐지 도구를 우회하는 가장 쉬운 방법 중 하나입니다. 기사에서는 부도덕한 개인이 직접 다운로드를 우회하는 방식으로 워터마크를 잘라내거나 이미지를 복사할 수 있다고 덧붙였습니다.
미국 버팔로 대학의 컴퓨터 과학 교수인 시웨이 류(Siwei Lyu)는 장벽을 무너뜨리는 데 전문가도 있다고 말했습니다.
Lyu는 “워터마크 기술과 AI에 대한 지식이 있는 사람이 이를 깨고 워터마크를 제거하거나 제조하는 것이 그리 어렵지 않기 때문에 워터마킹 기술이 아주 어렵게 사용되었습니다.”라고 말했습니다.
사람들이 기술을 사용하여 인권을 증진할 수 있도록 돕는 비영리 단체의 AI 전문가이자 전무이사인 Sam Gregory는 생각 워터마킹은 여전히 악의적인 행위자에 의해 조작될 수 있습니다.
그에게 그것은 “피해 감소를 위한 분류 도구”이며 “100% 해결책은 아니다”라고 덧붙였습니다.
워터마크의 종류
그러나 부도덕하고 나쁜 배우들에게는 장밋빛이 아닙니다. Google DeepMind와 같이 눈에 보이지 않는 일부 워터마크 신디사이저, "Imagen의 시스템 출력에 직접 내장"되어 있기 때문에 제거하기가 어렵습니다.
이러한 종류의 워터마크는 육안으로는 볼 수 없지만 특수 소프트웨어나 알고리즘을 사용하면 감지할 수 있습니다.
그러나 Lyu는 여전히 "그것을 제거하는 기술적 노하우"를 가진 악당들이 가능하다고 생각합니다.
“워터마크는 대부분 사람들이 자신의 존재를 알지 못하는 데서 작용한다고 생각합니다. 그래서 그들이 할 수 있다는 것을 안다면 그것을 깨뜨릴 방법을 찾을 것입니다.”라고 Lyu는 말했습니다.
또 다른 유형의 워터마크는 Google, Getty, OpenAI와 같은 회사에서 콘텐츠의 유효성을 확인하기 위해 비디오, 텍스트 또는 이미지에 추가하는 눈에 보이는 워터마크입니다.
세 번째 유형의 워터마크는 암호화 메타데이터입니다. 콘텐츠가 언제 생성되었고 어떻게 편집되었는지 보여줍니다.
"워싱아웃" 워터마크
컴퓨터 과학 교수인 소헤일 페이지(Soheil Feizi)가 이끄는 메릴랜드 대학의 연구에 따르면 AI 워터마크는 완벽하지 않았어. 그들은 모든 유형의 워터마크를 테스트하고 "모두 깨뜨렸습니다."
“현재로서는 신뢰할 수 있는 워터마킹이 없습니다.”라고 그는 말했습니다.
교수는 또한 워터마크를 '세척'한다고 설명하면서 악의적인 행위자가 워터마크를 조작하는 것이 얼마나 쉬운지 설명했습니다.
캘리포니아 대학교 산타바바라 캠퍼스와 카네기 멜론 연구진이 공동으로 작성한 또 다른 연구에서도 동일한 결과가 나왔습니다.
"눈에 보이는 워터마크는 모두 신뢰할 수 없습니다." 읽기 종이.
시간에 민감한 문제
AI 관련 법안 초안 작성에 참여한 미국 상원 직원은 Fedscope에 "나쁜 행위자들과 보조를 맞춰야" 한다고 말했습니다. 상원은 현재 "교육 및 문제 정의" 시대에 있다고 덧붙였습니다.
"올림픽 선수와 같습니다. 이제 당신이 이 약을 찾고 있다는 것을 알았으니 다른 약을 복용하겠습니다."
와 많은 나라들이 투표소에 갑니다 올해에는 딥페이크와 허위정보를 최소화하기 위한 대책의 필요성도 간과할 수 없습니다. 지난 9월 척 슈머(Chuck Schumer) 상원 원내대표는 콘텐츠의 진위 여부를 다루는 것은 매우 어려운 일이라고 말했습니다. 시간에 민감한 문제 많은 나라에서 선거가 코앞으로 다가왔다는 점을 고려하면요.
“사람들이 실제로 딥페이크를 하는 문제가 있습니다. 후보가 완전히 AI의 창조물인데도 무언가 말하고 있다고 믿는 것이죠.”라고 그는 말했습니다. 비공개 AI 통찰력 포럼입니다.
기술 기업이 도전에 나서다
한편, 미디어 및 기술 기업의 아이디어인 콘텐츠 출처 및 진위성 연합(C2PA)이 현재 설립되었습니다. 이는 이미지를 생성하는 데 사용된 카메라인지 AI 프로그램인지 여부에 관계없이 이미지의 소스를 식별합니다.
또한 이미지가 생성된 시간, 장소, 방법에 대한 세부 정보를 제공하여 사람들이 이미지의 출처를 확인할 수 있도록 합니다. TikTok은 워터마킹 분야를 주도하는 최고의 기술 회사 중 하나인 것으로 알려졌습니다.
“TikTok은 사용된 오디오 트랙을 보여줍니다. 만들어진 스티치를 보여줍니다. 사용된 AI 효과를 보여줍니다.”라고 Gregory는 말했습니다.
다른 큰 하이테크 기업 Alphabet, Amazon, Meta, OpenAI와 같은 기업은 작년에 잘못된 정보를 해결하기 위한 워터마킹 기술을 개발하겠다고 약속했습니다.
- SEO 기반 콘텐츠 및 PR 배포. 오늘 증폭하십시오.
- PlatoData.Network 수직 생성 Ai. 자신에게 권한을 부여하십시오. 여기에서 액세스하십시오.
- PlatoAiStream. 웹3 인텔리전스. 지식 증폭. 여기에서 액세스하십시오.
- 플라톤ESG. 탄소, 클린테크, 에너지, 환경, 태양광, 폐기물 관리. 여기에서 액세스하십시오.
- PlatoHealth. 생명 공학 및 임상 시험 인텔리전스. 여기에서 액세스하십시오.
- 출처: https://metanews.com/bad-actors-can-still-bypass-watermarks/
- :있다
- :이다
- :아니
- :어디
- 8
- 9
- a
- 할 수 있는
- 배우
- 실제로
- 추가
- 첨가
- 양자
- 이점
- 후
- AI
- 알고리즘
- All
- 허용
- 수
- 알파벳
- 또한
- 아마존
- 중
- an
- 및
- 다른
- 어떤
- 있군요
- 약
- 기사
- AS
- At
- 오디오
- 정품
- 나쁜
- 장벽
- BE
- 때문에
- 된
- 사이에
- 큰
- 흩어져
- 파괴
- 물소
- 비자 면제 프로그램에 해당하는 국가의 시민권을 가지고 있지만
- by
- 우회로
- 캘리포니아
- 카메라
- CAN
- 후보자
- 카네기 멜론
- 원인
- 척
- 연합
- 제공
- 기업
- 컴퓨터
- 컴퓨터 과학
- 함유량
- 모서리
- 국가
- 만들
- 만든
- 만들기
- 창조
- 작물
- cryptographic
- 현재
- 사이버 범죄자
- 달이
- 딥 페이크
- 정의
- 기술 된
- 세부설명
- 탐지 된
- Detection System
- 개발
- 어려운
- 곧장
- 직접
- 책임자
- 그릇된 정보
- 드러내다
- 말라
- 마약
- 가장 쉬운
- 쉽게
- 효과
- 선거
- 등장
- 가능
- 충분히
- 대
- 특히
- 행정부
- 집행 이사
- 전문가
- 전문가
- 설명
- 눈
- 모조품
- 가짜 뉴스
- 특징
- Find
- 결과
- 기업
- 먼저,
- 럭셔리
- 양식
- 포럼
- 추가
- 생성적인
- 제너레이티브 AI
- 얻을
- 주어진
- 제공
- 가는
- 구글
- 육로
- 성장하는
- 성장
- 했다
- 하드
- 해가
- 미워
- 있다
- 데
- he
- 도움이
- 그를
- 그의
- 방법
- 그러나
- HTTPS
- 사람의
- 인권
- i
- 악
- 확인
- 식별하다
- if
- 영상
- 형상
- in
- 개인
- 으로
- 눈에 보이지 않는
- 참여
- 발행물
- IT
- 그
- 다만
- 키
- 종류
- 알아
- 지식
- 성
- 작년
- 리드
- 리더
- 지도
- 법제정 담당
- 처럼
- 위치
- 찾고
- 만든
- 과반수
- 악의있는
- 조작
- 시장 조작
- .
- 메릴랜드
- 그 동안에
- 조치들
- 미디어
- 멜론
- 메타
- 메타 데이터
- 방법
- 최소화
- 오보
- 모델
- 대개
- 필요
- news
- 비영리 단체
- 비영리 단체
- 지금
- of
- 올림피아 경기
- on
- ONE
- OpenAI
- or
- 조직
- 기타
- 아웃
- 출력
- 평화
- 공포
- 서
- 사람들
- 사람들의
- 실사
- 장소
- 플라톤
- 플라톤 데이터 인텔리전스
- 플라토데이터
- 연극
- 포인트 적립
- 가능한
- 교수
- 프로그램
- 홍보
- 기원
- 읽기
- 현실
- 정말
- 축소
- 신뢰할 수있는
- 제거
- 전하는 바에 의하면
- 연구원
- 구하다
- 권리
- 장미색의
- 말했다
- 소금
- 샘
- 같은
- 산타
- 산타 바바라
- 라고
- 속담
- 과학
- 보안
- 본
- 상원
- XNUMX월
- 단점
- 쇼
- 서명
- So
- 소프트웨어
- 해결책
- 솔루션
- 일부
- 어떤 사람
- 무언가
- 출처
- 특별한
- 특수 소프트웨어
- 전파
- 미국
- 아직도
- 교육과정
- 이러한
- 체계
- 태클
- 태클
- 받아
- 복용
- 기술
- 하이테크 기업
- 기술
- Technology
- 테스트
- 본문
- 그
- XNUMXD덴탈의
- 소스
- 그들의
- 그들
- 그곳에.
- 그들
- 생각
- 생각
- 제삼
- 이
- 올해
- 을 통하여
- Tik의 톡
- 시간
- 에
- 이야기
- 너무
- 수단
- 상단
- 완전히
- 선로
- 선별기
- 유형
- 유형
- 대학
- University of California
- 메릴랜드 대학
- us
- 미국 상원
- 사용
- 익숙한
- 사용자
- 사용
- 확인
- 동영상
- 눈에 보이는
- 였다
- 워터 마크
- 워터 마킹
- 워터 마크
- 방법..
- 방법
- 뭐
- 언제
- 여부
- 어느
- 의지
- 과
- year
- 아직
- 당신
- 제퍼 넷