OpenAI, Microsoft, Google, Meta, Amazon, Anthropic 및 Inflection 등 XNUMX개의 AI 기술 대기업은 AI 생성 콘텐츠를 워터마킹하기 위해 노력했습니다. 목표는 AI가 생성한 텍스트, 비디오, 오디오 및 이미지의 출처에 레이블을 지정하여 콘텐츠의 출처에 대해 사용자를 오도하는 위험을 줄이는 것입니다. Google의 블로그에서 적절하게 표현한 것처럼 "우리 중 누구도 스스로 AI를 올바르게 사용할 수 없습니다."
딥페이크는 바이러스성 가짜 이미지를 만들거나 사람들에게 거액의 돈을 사기치는 등 논란이 많은 방식으로 많이 사용되었습니다. 콘텐츠에 포함된 제안된 워터마크는 이러한 오용에 대한 보호 조치 역할을 할 수 있습니다. 백악관은 이것이 "AI를 통한 창의성이 번창할 수 있게 해줄 것"이며 "사기와 속임수의 위험을 감소시킬 것"이라고 믿습니다.
OpenAI와 Google이 이러한 책임을 주도하고 있습니다. Google은 또한 신뢰할 수 있는 정보를 홍보하기 위해 메타데이터(다른 혁신적인 기술과 함께)를 통합할 계획입니다.
이러한 약속은 책임 있는 AI 거버넌스를 보장하기 위한 광범위한 노력의 일환입니다. 기술 회사는 AI 시스템에 대한 내부 및 외부 테스트를 수행하고 사이버 보안에 더 많이 투자하며 AI 위험을 줄이기 위해 정보를 공유할 것을 약속하고 있습니다. OpenAI가 말했듯이 이러한 약속은 "미국과 전 세계에서 의미 있고 효과적인 AI 거버넌스를 발전시키는 중요한 단계"입니다.
예외… 라마 2(내 일요일 에세이 참조)은 수십 개의 다른 우수한 AI 모델과 마찬가지로 오픈 소스입니다. 이러한 노력에 깊은 박수를 보내지만 이러한 워터마크는 빅 테크의 AI 모델을 사용하여 만든 작업 제품을 식별하는 데 (기껏해야) 유용할 것입니다. 최악의 경우 워터마크는 시스템의 신용을 떨어뜨리기 위해 딥페이크될 것이며 아무도 무엇이 2022/2023년 포스트를 만들었는지 알 수 없을 것입니다.
작성자 노트 : 협찬글이 아닙니다. 저는 이 기사의 저자이며 제 의견을 표명합니다. 나도, 우리 회사도 이에 대한 보상을 받지 못하고 있습니다.
셸리 팔머 소개
셸리 팔머 Syracuse University의 SI Newhouse Public Communications School of Public Communications의 Advanced Media in Residence 교수이자 Fortune 500대 기업의 기술, 미디어 및 마케팅을 지원하는 컨설팅 회사인 The Palmer Group의 CEO입니다. 명명 된 LinkedIn의 "최고의 기술 보이스" 그는 기술과 비즈니스를 다룹니다. 좋은 날 뉴욕, CNN의 정규 해설자이며 인기있는 글을 씁니다. 일일 비즈니스 블로그. 그는 베스트셀러 작가, 그리고 인기있는 무료 온라인 과정의 제작자, 경영진을 위한 생성 AI. 따라 @shellypalmer 또는 방문 shellypalmer.com.
- SEO 기반 콘텐츠 및 PR 배포. 오늘 증폭하십시오.
- PlatoAiStream. 웹3 인텔리전스. 지식 증폭. 여기에서 액세스하십시오.
- PREIPO®로 PRE-IPO 회사의 주식을 사고 팔 수 있습니다. 여기에서 액세스하십시오.
- 출처 : Plato Data Intelligence : 플라토데이터