サイバー犯罪者がセキュリティ機能を回避する可能性もあるため、コンテンツに透かしを入れるだけでは、本物のコンテンツと AI が生成したコンテンツを区別するにはまだ十分ではありません。
これは、AI テクノロジー、特に生成 AI の導入が増えており、悪意のある個人が誤った情報、憎しみ、その他の形式の悪意のあるコンテンツを拡散するために使用するための肥沃な土壌を作り出していることに起因しています。
そして、透かしは、AI によって生成されたコンテンツと現実のコンテンツを区別するための重要なソリューションの 1 つとして浮上しました。しかし、欠点もあります。
また、お読みください。 Meta の Audio2Photoreal で音声によるフォトリアルなアバターが可能に
操作
専門家らは、AIの成長には、悪意のある人物がテクノロジーを利用して偽情報や悪意を広め、フェイクニュースでパニックを引き起こすことも伴うと述べている。
透かしは、ユーザーが AI によって生成されたコンテンツと実際に人間が作成したコンテンツを区別できるようにするために使用されることが確認されていますが、これも改ざんされる傾向があります。
による 登録Dall-E text-to-image モデルなどの一部の目に見えるシグネチャは、AI 検出ツールをバイパスするのが最も簡単なシグネチャの 1 つです。この記事ではさらに、悪意のある個人が直接ダウンロードを回避する方法で透かしを切り取ったり、画像をコピーしたりする可能性があると述べています。
米国バッファロー大学のコンピューターサイエンス教授、シウェイ・リュー氏は、障壁を打ち破ることに関しては専門家もいると語った。
「ウォーターマーク技術は割り引いて使用されてきました。それは、ウォーターマークと AI の知識がある人にとって、ウォーターマークを解読してウォーターマークを削除したり、ウォーターマークを製造したりするのはそれほど難しくないからです。」と Lyu 氏は言います。
AI の専門家であり、人々がテクノロジーを利用して人権を促進するのを支援する非営利団体の事務局長であるサム・グレゴリー氏は、 考える ウォーターマークは依然として悪意のある者によって操作される可能性があります。
同氏にとって、これは「危害を軽減するためのトリアージツール」であり、「100%の解決策ではない」と付け加えた。
ウォーターマークの種類
しかし、不謹慎な悪役にとっては、すべてがバラ色というわけではありません。 Google DeepMind のような、目に見えない一部の透かし シンセID、 これらは「Imagen のシステム出力に直接埋め込まれている」ため、取り除くのが困難です。
この種の透かしは肉眼では見ることができませんが、特別なソフトウェアまたはアルゴリズムを使用して検出できます。
しかし、リュー氏は依然として、「技術的なノウハウ」を持った悪党がそれを一掃することは可能だと考えている。
「ウォーターマークは主に、人々がその存在に気づいていないことを利用していると思います。したがって、それができるとわかっていれば、彼らはそれを打破する方法を見つけるでしょう」とリュー氏は言いました。
もう 1 つのタイプの透かしは、Google、Getty、OpenAI などの企業によってコンテンツの正当性を検証するためにビデオ、テキスト、または画像に追加される可視透かしです。
3 番目のタイプのウォーターマークは、暗号化メタデータです。これは、コンテンツがいつ作成され、どのように編集されたかを示しています。
「洗い流す」透かし
コンピューターサイエンス教授のソヘイル・フェイジ氏が率いるメリーランド大学の研究によると、AIのウォーターマークは 絶対確実ではありませんでした。彼らはあらゆる種類の透かしをテストし、「すべてを破りました」。
「現時点では信頼できる透かしはありません」と彼は言う。
同教授はまた、悪意のある者が透かしを「洗い流す」と表現する方法で透かしを操作することがいかに簡単であるかについても説明した。
カリフォルニア大学サンタバーバラ校とカーネギーメロン大学の研究者が共同執筆した別の研究でも、同じ結果が得られました。
「目に見える透かしはすべて信頼できるものではありません。」 読み込み 紙。
一刻を争う問題
AI関連法案の起草に携わった米上院職員はフェドスコープに対し、「悪者と歩調を合わせる」必要性を語り、上院は現在「教育と問題の定義」の時代にあると付け加えた。
「オリンピック選手のようなものです。あなたがこの薬を探していることが分かったので、私は別の薬を飲みます。」
多くの国が投票に行く 今年は、ディープフェイクや誤った情報を最小限に抑えるための対策の必要性を見過ごすことはできません。昨年9月、チャック・シューマー上院院内総務は、コンテンツの信頼性に取り組むことが重要であると述べた。 一刻を争う問題 多くの国で選挙が目前に迫っていることを考えると。
「実際にディープフェイクが存在するという問題があり、人々は候補者が完全にAIの創作物であるにもかかわらず、その候補者が何かを言っていると本当に信じているのです」と彼は初の演説後に述べた。 非公開の AI 洞察 フォーラム。
テクノロジー企業が挑戦する
その一方で、メディア企業とテクノロジー企業の発案によるコンテンツ来歴と信頼性に関する連合 (C2PA) が発足しました。これにより、画像のソースがカメラであるか、画像の作成に使用された AI プログラムであるかが識別されます。
また、画像の作成時間、場所、方法についても詳細が記載されており、人々がその出所を確認できるようになります。伝えられるところによると、TikTokはウォーターマーキングで先手を打つトップテクノロジー企業の一つだという。
「TikTok では、使用されたオーディオ トラックが表示されます。作られたステッチが表示されます。使用された AI エフェクトが表示されます」とグレゴリー氏は言いました。
その他の大きな ハイテク企業 アルファベット、アマゾン、メタ、オープンAIなどは昨年、誤った情報に対処するための透かし技術を開発すると約束した。
- SEO を活用したコンテンツと PR 配信。 今日増幅されます。
- PlatoData.Network 垂直生成 Ai。 自分自身に力を与えましょう。 こちらからアクセスしてください。
- プラトアイストリーム。 Web3 インテリジェンス。 知識増幅。 こちらからアクセスしてください。
- プラトンESG。 カーボン、 クリーンテック、 エネルギー、 環境、 太陽、 廃棄物管理。 こちらからアクセスしてください。
- プラトンヘルス。 バイオテクノロジーと臨床試験のインテリジェンス。 こちらからアクセスしてください。
- 情報源: https://metanews.com/bad-actors-can-still-bypass-watermarks/
- :持っている
- :は
- :not
- :どこ
- 8
- 9
- a
- できる
- 俳優
- 実際に
- 追加されました
- 追加
- 養子縁組
- 利点
- 後
- AI
- アルゴリズム
- すべて
- 許可
- ことができます
- アルファベット
- また
- Amazon
- 間で
- an
- および
- 別の
- どれか
- です
- 周りに
- 記事
- AS
- At
- オーディオ
- 信頼性
- 悪い
- 障壁
- BE
- なぜなら
- き
- の間に
- ビッグ
- ブレーク
- 破壊
- バッファロー
- 焙煎が極度に未発達や過発達のコーヒーにて、クロロゲン酸の味わいへの影響は強くなり、金属を思わせる味わいと乾いたマウスフィールを感じさせます。
- by
- カリフォルニア州
- カメラ
- 缶
- 候補者
- カーネギーメロン
- 原因となる
- チャック
- 連合
- comes
- 企業
- コンピュータ
- コンピュータサイエンス
- コンテンツ
- コーナー
- 国
- 作ります
- 作成した
- 作成
- 創造
- 作物
- 暗号
- 現在
- サイバー犯罪者
- ドール
- ディープフェイク
- 定義
- 記載された
- 細部
- 検出された
- 検出
- 開発する
- 難しい
- 直接
- 直接に
- 取締役
- 虚偽情報
- 見分けます
- ドント
- 薬
- 最も簡単
- 簡単に
- 効果
- 選挙
- 登場
- enable
- 十分な
- 時代
- 特に
- エグゼクティブ
- エグゼクティブ·ディレクター
- エキスパート
- 専門家
- 説明
- 目
- 偽
- 偽のニュース
- 特徴
- もう完成させ、ワークスペースに掲示しましたか?
- 調査結果
- 企業
- 名
- フォーム
- フォーラム
- さらに
- 生々しい
- 生成AI
- 取得する
- 与えられた
- 与える
- 行く
- でログイン
- 陸上
- 成長
- 成長性
- 持っていました
- ハード
- 害
- 嫌い
- 持ってる
- 持って
- he
- ことができます
- 彼に
- 彼の
- 認定条件
- しかしながら
- HTTPS
- 人間
- 人権
- i
- 私は
- 特定され
- 識別する
- if
- 画像
- 画像
- in
- 個人
- に
- 目に見えない
- 関係する
- 問題
- IT
- ITS
- ただ
- キー
- 種類
- 知っている
- 知識
- 姓
- 昨年
- つながる
- リーダー
- ツェッペリン
- 立法
- ような
- 場所
- 探して
- 製
- 大多数
- 悪意のある
- 操作
- 操作
- 多くの
- メリーランド
- その間
- 措置
- メディア
- メロン
- Meta
- 方法
- 最小限に抑えます
- 誤報
- 主に
- 必要
- ニュース
- 非営利
- 非営利団体
- 今
- of
- オリンピック
- on
- ONE
- OpenAI
- or
- 組織
- その他
- でる
- outputs
- 平和
- パニック
- 紙素材
- のワークプ
- 人々の
- 写実的
- 場所
- プラトン
- プラトンデータインテリジェンス
- プラトデータ
- プレイ
- ポイント
- 可能
- 東京大学大学院海洋学研究室教授
- 演奏曲目
- 推進する
- 来歴
- 読む
- リアル
- 本当に
- 削減
- 信頼性のある
- 削除します
- 報道によると
- 研究者
- 取り除きます
- 権利
- ロージー
- 前記
- 塩
- サム
- 同じ
- サンタ
- サンタバーバラ
- 言う
- 格言
- 科学
- セキュリティ
- 見て
- 上院
- 9月
- 欠点
- 作品
- 署名
- So
- ソフトウェア
- 溶液
- ソリューション
- 一部
- 誰か
- 何か
- ソース
- 特別
- 特別なソフトウェア
- 広がる
- 米国
- まだ
- 勉強
- そのような
- タックル
- タックル
- 取る
- 取得
- テク
- ハイテク企業
- テクノロジー
- テクノロジー
- テスト
- 클라우드 기반 AI/ML및 고성능 컴퓨팅을 통한 디지털 트윈의 기초 – Edward Hsu, Rescale CPO 많은 엔지니어링 중심 기업에게 클라우드는 R&D디지털 전환의 첫 단계일 뿐입니다. 클라우드 자원을 활용해 엔지니어링 팀의 제약을 해결하는 단계를 넘어, 시뮬레이션 운영을 통합하고 최적화하며, 궁극적으로는 모델 기반의 협업과 의사 결정을 지원하여 신제품을 결정할 때 데이터 기반 엔지니어링을 적용하고자 합니다. Rescale은 이러한 혁신을 돕기 위해 컴퓨팅 추천 엔진, 통합 데이터 패브릭, 메타데이터 관리 등을 개발하고 있습니다. 이번 자리를 빌려 비즈니스 경쟁력 제고를 위한 디지털 트윈 및 디지털 스레드 전략 개발 방법에 대한 인사이트를 나누고자 합니다.
- それ
- ソース
- アプリ環境に合わせて
- それら
- そこ。
- 彼ら
- 考える
- 考え
- 三番
- この
- 今年
- 介して
- TikTok
- 時間
- 〜へ
- 言われ
- あまりに
- ツール
- top
- 完全に
- 追跡する
- トリアージ
- type
- 大学
- カリフォルニア大学
- メリーランド大学
- us
- 米上院
- つかいます
- 中古
- users
- 確認する
- 動画
- 目に見える
- ました
- 透かし
- 電子透かし
- 透かし
- 仕方..
- 方法
- この試験は
- いつ
- かどうか
- which
- 意志
- 年
- まだ
- 貴社
- ゼファーネット