ディープフェイクアプリケーション向け AI 不正監視で AI と戦う - KDnuggets

プラトン再発行

フォロワー： 0

ディープフェイクはここ数年、データサイエンスコミュニティで大きな話題になっています。 2020 年に遡って、MIT テクノロジーレビューディープフェイクであると主張した「主流の使用への転換点」に達していました。

データは確かにそれを裏付けています。の ウォールストリートジャーナル は、10,000 年にオンラインで発見されたディープフェイクは 2018 件未満だったと報告しました。その数は現在数百万件に達しており、ディープフェイクが混乱や誤った情報を与え、金融詐欺を永続させるために使用されている実例が数多くあります。

ディープフェイク技術は、サイバー犯罪者に多くの高度なオプションを提供しています。

彼らは、有名人の画像を「見逃せない」ビットコインのオファーの宣伝資料に挿入する能力をはるかに超えていますが、もちろん、これは詐欺であることが判明します。特にディープフェイク動画は詐欺師の注目を集めています。これらは自動化された ID および KYC チェックを通過する方法を提供し、恐ろしいほど効果的であることが証明されています。

5月の2022では、 ベルジェ と報告した」生存テスト」は、ユーザーの身元を確認するために銀行やその他の機関によって使用されており、ディープフェイクによって簡単に騙される可能性があります。関連する調査では、テストされた ID 検証システムの 90% に脆弱性があることが判明しました。

それで、答えは何でしょうか？サイバー犯罪者がディープフェイク技術を利用して金融機関のセキュリティ対策を簡単に突破できる時代が到来しているのだろうか？このような企業は自動化されたシステムを廃止し、手動による人間によるチェックに戻らなければならないのでしょうか?

簡単な答えは「おそらくそうではない」です。犯罪者が急増を利用できるのと同じように、 AIの進歩、彼らがターゲットとする企業も同様です。ここで、脆弱な企業が AI を使ってどのように AI と戦うことができるかを見てみましょう。

ディープフェイクは、次のようなさまざまな人工知能技術を使用して作成されます。

生成的敵対的ネットワーク（GAN）
エンコーダ/デコーダのペア
一次運動モデル

これらのテクニックは、一見すると、機械学習コミュニティの独占的な領域のように聞こえるかもしれませんが、参入障壁が高く、専門的な技術知識が必要です。ただし、AI の他の要素と同様に、それらも時間の経過とともにかなりアクセスしやすくなりました。

誰でも OpenAI にサインアップして ChatGPT の機能をテストできるのと同じように、低コストの既製ツールを使用して、技術者以外のユーザーでもディープフェイクを作成できるようになりました。

つい最近 2020 年に、世界経済フォーラムは、「最先端ディープフェイクは30,000万ドル以下だ。しかし2023年、ウォートンスクールのイーサン・モリック教授は、バイラルなツイッター投稿を通じて、自分がディープフェイクビデオ彼自身が XNUMX 分以内に講義を行っている様子を映したものです。

モリックさんの支出総額は 10.99 ドルでした。彼は 5Labs というサービスを利用して、5.99 ドルで自分の声をほぼ完璧に模倣しました。 D-ID と呼ばれる別のサービスは、月額 XNUMX ドルで、スクリプトと XNUMX 枚の写真のみに基づいてビデオを生成しました。彼は ChatGPT を使用してスクリプト自体を作成しました。

ディープフェイクが最初に出現し始めたとき、主な焦点は偽の政治ビデオ (および偽ポルノ) でした。それ以来、世界は次のようなことを目にしてきました。

BuzzFeedVideos は、俳優のジョードンピールになりすましたバラクオバマを「特集」したディープフェイクの公共広告を作成します。
ドナルド・トランプがトナカイについての話をしていると称するディープフェイク YouTube 動画。
サタデー・ナイト・ライブで放映されたヒラリー・クリントンのディープフェイク動画で、実際には出演者になりすまされていた。

これらの例はディープフェイクの「楽しい」側面を示しており、おそらくこのテクノロジーの機能について現実に衝撃を与えるものですが、詐欺師たちはディープフェイクを邪悪な目的に使用することに時間を無駄にしていません。

ディープフェイク技術を使用して永続化される詐欺の実例は数多くあります。

ディープフェイク詐欺による損失は数十万から数百万に及びます。 2021 年には、AI 音声クローン詐欺を利用して 35 万ドルの不正な銀行送金が手配されました。これは莫大な経済的利益をもたらしましたが、 必要とする ビデオの使用。

AI 出力、特にビデオの品質は大きく異なる場合があります。一部のビデオは人間にとって明らかに偽物です。しかし、上で述べたように、銀行やフィンテックで使用されている自動システムは、過去に簡単にだまされてしまうことが証明されています。

AI の能力が向上し続けるにつれて、バランスはさらに変化する可能性があります。最近の開発としては、検出メカニズムを欺くことを目的として、「ターゲットを絞った目に見えない「ノイズ」をディープフェイクに追加する「カウンターフォレンジック」が組み込まれています。

だから何を行うことができますか？

詐欺師が金銭的利益を得るために最新の AI テクノロジーを利用しようとしているのと同じように、テクノロジー企業などの企業も犯罪者を捕まえるためにテクノロジーを活用する方法を見つけることに懸命に取り組んでいます。

AI と戦うために AI を使用している企業の例をいくつか紹介します。

2022 年後半、インテルは「」と呼ばれる AI ベースのツールを発売しました。フェイクキャッチャー”。 Intel が報告している信頼性率は 96% で、光電脈波記録法 (PPG) として知られるテクノロジーが使用されています。

この技術は、人工的に生成されたビデオには存在しないもの、つまり血流を利用します。正規のビデオでトレーニングされたその深層学習アルゴリズムは、血液が体内を移動するにつれて色が変化する血管によって吸収または反射される光を測定します。

Intel の Responsible AI イニシアチブの一部である FakeCatcher は、「ミリ秒単位で結果を返す世界初のリアルタイムディープフェイク検出器」と説明されています。これは、ビデオに映っている人物が本当に人間であるという兆候を探す革新的なテクノロジーです。データを分析して「間違っている」点を強調するのではなく、「正しい」点を探します。このようにして偽物の可能性を示します。

一方、バッファロー大学（UB）のコンピューター科学者たちは、独自のディープフェイク検出技術の開発に取り組んでいる。熱心な PC ゲーマーがエミュレートするには膨大な処理能力が必要であることを知っているもの、つまり光を使用します。

UBが偽写真に対して94%の効果があると主張するこのAIツールは、被写体の目に光がどのように反射するかを調べます。角膜の表面は鏡の役割を果たし、「反射パターン」を生成します。

「不一致な角膜鏡面ハイライトを使用した GAN 生成の顔の露出」と題されたこの科学者の研究は、「GAN 合成された顔は、XNUMX つの目の間の不一致な角膜鏡面ハイライトで露出できる」ことを示しています。

AI システムが本物のハイライトをエミュレートすることは「自明ではない」ことを示唆しています。リアルな照明効果を体験するために最新のレイトレーシンググラフィックスカードに投資することが多い PC ゲーマーは、ここでの課題を直感的に認識するでしょう。

おそらく、不正行為検出の最大の課題は、詐欺師と詐欺師を阻止しようとする人々との間の終わりのない「いたちごっこ」でしょう。上記のような発表を受けて、そのような検出メカニズムを回避して打ち破ることができるテクノロジーの構築に人々がすでに取り組んでいる可能性が非常に高いです。

また、そのようなメカニズムが存在することと、それが企業が使用するソリューションに日常的に統合されているということは別のことです。先ほど、ソリューションの 90% が「簡単にだまされる」可能性があることを示唆する統計について言及しました。少なくとも一部の金融機関は依然としてそのようなシステムを使用している可能性があります。

賢い不正行為の監視この戦略では、企業はディープフェイクを自ら検出するだけではなく、その先に目を向けることが求められます。できることはたくさんあります詐欺師は、ビデオベースの ID 検証または KYC プロセスに参加するためにシステムに十分に侵入します。プロセスの早い段階で場所を見つけるための予防策には、AI や機械学習の要素が含まれる場合もあります。

たとえば、機械学習は、リアルタイムの不正行為の監視とルールセットの作成の両方に使用できます。これらは、過去の不正行為を調査し、人間が簡単に見落とす可能性のあるパターンを検出できます。高リスクとみなされる取引は完全に拒否されるか、手動レビューに通過する可能性があります。 到達する前に ID チェックが行われる可能性がある段階であり、したがって詐欺師がディープフェイク技術を利用する機会となります。

システムがサイバー犯罪者を検出するのは早ければ早いほど良いのです。犯罪を永続させる可能性が低くなり、企業がさらなる検査に費やす費用も減ります。ビデオベースの ID チェックは、ディープフェイクを検出する AI テクノロジーを組み込んでいない場合でも、コストがかかります。

デジタルフットプリントなどの技術を使用して、そこに至る前に詐欺師を特定できれば、より多くのリソースが利用可能となり、より境界線に近いケースのチェックを最適化できるようになります。

機械学習の性質そのものから、時間が経つにつれて、異常の検出と不正行為との闘いがより上手になるはずです。 AI を活用したシステムは、新しいパターンから学習し、プロセスの初期段階で不正な取引を排除できる可能性があります。

特にディープフェイクに関して言えば、上記の例は希望を抱かせる特別な理由を与えてくれます。科学者たちは、光の反射を利用してディープフェイクの大部分を検出する方法を発見しました。このような発展は、詐欺防止における大きな前進であると同時に、サイバー犯罪者にとっては大きな障害となっています。

理論的には、詐欺師がそれを回避する方法、たとえば光の挙動を高速かつ大規模に複製する方法を見つけるよりも、このような検出テクノロジーを導入する方がはるかに簡単です。「いたちごっこ」は永遠に続くように思われるが、大手テクノロジー企業や大手金融機関には、少なくとも理論的には一歩先を行くためのリソースと潤沢な資金がある。

ジミーフォン SEON の CCO であり、不正行為との戦いに関する深い経験を活かして、あらゆる場所の不正行為チームを支援しています。