کی طرف سے تصویر تیما میروشنیچینکو
Deepfakes have been a big topic of conversation in the data science community for some years now. Back in 2020, the MIT Technology Review posited that deep fakes had hit their “tipping point for mainstream use”.
The data certainly backs that up. The وال سٹریٹ جرنل reported that less than 10,000 deepfakes had been found online in 2018. Those numbers now run into the millions, and there are many real-life examples of deep fakes being used both to confuse and misinform and to perpetuate financial fraud.
Deepfake techniques are altogether providing cybercriminals with many sophisticated options.
They go way beyond the ability to insert the image of a celebrity into promotional material for an “unmissable” Bitcoin offer, which – of course – turns out to be a scam. Deepfake videos, in particular, are on the radar of fraudsters. They provide them with a way to get through automated ID and KYC checks and have proved frighteningly effective.
مئی 2022 میں، جھگڑا reported that “liveness tests” used by banks and other institutions to help verify users’ identities can be easily fooled by deep fakes. The related study found that 90% of the ID verification systems tested were vulnerable.
So what’s the answer? Are we entering an era where cybercriminals can easily use deep fake technology to outwit the security measures used by financial institutions? Will such businesses have to ditch their automated systems and revert to manual, human checks?
The simple answer is “probably not”. Just as criminals can make use of the surge in AI کی ترقی, so too can the companies they target. Let’s now look at how vulnerable businesses can fight AI with AI.
Deepfakes are produced using a range of artificial intelligence techniques, such as:
- جنریٹو ایڈورسریل نیٹ ورکس (GANs)
- encoder/decoder pairs
- first-order motion models
These techniques may, on the face of it, sound like the exclusive preserve of the machine learning community, complete with high barriers to entry and a need for expert technical knowledge. However, like other elements of AI, they have become considerably more accessible over time.
Low-cost, off-the-shelf tools now allow non-technical users to create deep fakes, just as anybody can sign up to OpenAI and test the capabilities of ChatGPT.
As recently as 2020, the World Economic Forum reported that the cost of producing a “آرٹ کی حالت” deepfake is under $30,000. But in 2023, Wharton School professor Ethan Mollick revealed, via a viral Twitter post, that he had produced a deep fake video of himself delivering a lecture in under six minutes.
Mollick’s total spend was $10.99. He used a service called ElevenLabs to almost perfectly mimic his voice, for a cost of $5. Another service called D-ID, at $5.99 per month, generated a video based on only a script and a single photograph. He even used ChatGPT to create the script itself.
When deepfakes first began to emerge, a primary focus was on fake political videos (and fake pornography). Since then, the world has seen:
- BuzzFeedVideos create a deepfake public service announcement “featuring” Barack Obama, impersonated by actor Jordon Peele.
- A deep fake YouTube video purporting to show Donald Trump telling a story about a reindeer.
- A deep fake video of Hilary Clinton shown on Saturday Night Live, when she was in fact being impersonated by a cast member.
While these examples show the “fun” side of deepfakes, and perhaps provide a jolt of reality as to the capabilities of the technology, fraudsters haven’t wasted any time in using them for nefarious purposes.
Real-life examples of fraud, perpetuated using deepfake techniques, are many.
Losses due to deep fake scams range from hundreds of thousands to many millions. In 2021, an AI voice cloning scam was used to arrange fraudulent bank transfers of $35 million. This was a huge financial payoff that didn’t even کی ضرورت the use of video.
The quality of AI output, especially video, can vary hugely. Some videos are obviously fake to humans. But, as stated above, automated systems, such as those used by banks and fintech, have proved easily fooled in the past.
The balance is likely to shift further as AI capabilities continue to improve. A recent development is an incorporation of “counter forensics”, where “targeted invisible “noise” is added to deep fakes, in an attempt to fool detection mechanisms.
تو کیا کیا جا سکتا ہے؟
Just as fraudsters seek to use the latest AI technology for financial gain, businesses such as tech firms are hard at work finding ways to utilize tech to catch criminals.
Here are a couple of examples of companies using AI to fight the AI:
In late 2022, Intel launched an AI-based tool called “FakeCatcher”. With Intel’s reported reliability rate of 96%, it uses a technology known as photoplethysmography (PPG).
The tech makes use of something that’s not present in artificially generated videos: blood flow. Trained on legitimate videos, its deep-learning algorithm measures the light that’s absorbed or reflected by blood vessels, which change color as blood moves around the body.
FakeCatcher, part of Intel’s Responsible AI initiative, is described as “the world’s first real-time deep fake detector that returns results in milliseconds.” It’s an innovative technology that looks for signs that the person shown in a video is truly human. It looks for something that’s “right”, rather than analyzing data to highlight something that’s “wrong”. This is how it indicates the likelihood of a fake.
Meanwhile, University of Buffalo (UB) computer scientists have been working on a deepfake detection technology of their own. It uses something that avid PC gamers know requires immense processing power to emulate: light.
Claimed by UB to be 94% effective on fake photos, the AI tool looks at how light reflects in the eyes of the subject. The surface of the cornea acts as a mirror, and generates “reflective patterns”.
The scientists’ study, entitled “Exposing GAN-Generated Faces Using Inconsistent Corneal Specular Highlights”, indicates that “GAN synthesized faces can be exposed with the inconsistent corneal specular highlights between two eyes”.
It suggests that it would be “nontrivial” for AI systems to emulate the genuine highlights. PC gamers, who often invest in the latest ray-tracing graphics cards in order to experience realistic lighting effects, will instinctively recognize the challenges here.
Perhaps the greatest fraud detection challenge is the endless “cat and mouse” game between fraudsters and those who work to thwart them. It’s highly likely, in the wake of announcements such as those above, that people are already working on building technologies that can sidestep and beat such detection mechanisms.
It’s also one thing that such mechanisms exist, but another to see them routinely integrated into the solutions that businesses use. Earlier, we referred to a statistic that suggested 90% of solutions can be “easily fooled”. The likelihood is that at least some financial institutions are still using such systems.
ایک عقلمند fraud monitoring strategy requires companies to look beyond detecting the deep fakes themselves. Much can be done اس سے پہلے a fraudster gets far enough into a system to participate in a video-based ID verification or KYC process. Precautions that find a place earlier in the process may also involve an element of AI and machine learning.
For example, machine learning can be used for both real-time fraud monitoring and the creation of rulesets. These can look at historical fraud events, detecting patterns that could easily be missed by a human. Transactions deemed to be high risk can be rejected outright, or passed for manual review before even reaching a stage where there may be an ID check – and therefore an opportunity for a fraudster to make use of deepfake tech.
The earlier a system detects a cybercriminal, the better. There’s less chance that they can perpetuate a crime and less for the business to spend on further checks. Video-based ID checks are costly, even without the incorporation of AI technology to detect deep fakes.
If fraudsters can be identified before they get that far, with techniques such as digital footprinting, there will be more resources left available to optimize the checks of more borderline cases.
The very nature of machine learning should dictate that, over time, it becomes better at detecting anomalies and fighting fraud. AI-powered systems can learn from new patterns and potentially filter out fraudulent transactions at an early stage in the process.
When it comes to deepfakes specifically, the example above gives a particular reason for hope. Scientists have found a way to detect the vast majority of deepfakes using light reflections. Developments like this represent a considerable step forward in fraud prevention and a considerable roadblock for cybercriminals.
In theory, it’s much easier to deploy such detection technology than it is for fraudsters to find a way to circumvent it – replicating the behavior of light, for example, at speed, and at scale. The “cat and mouse” game seems likely to continue eternally, but big tech and big finance have the resources and the deep pockets to – in theory at least – stay one small step ahead.
جمی فونگ is the CCO of SEON and brings his in-depth experience of fraud-fighting to assist fraud teams everywhere.
- SEO سے چلنے والا مواد اور PR کی تقسیم۔ آج ہی بڑھا دیں۔
- پلیٹوآئ اسٹریم۔ ویب 3 ڈیٹا انٹیلی جنس۔ علم میں اضافہ۔ یہاں تک رسائی حاصل کریں۔
- ایڈریین ایشلے کے ساتھ مستقبل کا نقشہ بنانا۔ یہاں تک رسائی حاصل کریں۔
- PREIPO® کے ساتھ PRE-IPO کمپنیوں میں حصص خریدیں اور بیچیں۔ یہاں تک رسائی حاصل کریں۔
- ماخذ: https://www.kdnuggets.com/2023/05/fighting-ai-ai-fraud-monitoring-deepfake-applications.html?utm_source=rss&utm_medium=rss&utm_campaign=fighting-ai-with-ai-fraud-monitoring-for-deepfake-applications
- : ہے
- : ہے
- : نہیں
- :کہاں
- $UP
- 000
- 10
- 2018
- 2020
- 2021
- 2022
- 2023
- a
- کی صلاحیت
- ہمارے بارے میں
- اوپر
- قابل رسائی
- کام کرتا ہے
- شامل کیا
- شکست
- آگے
- AI
- اے آئی سسٹمز
- AI سے چلنے والا
- یلگورتم
- کی اجازت
- پہلے ہی
- بھی
- ایک ساتھ
- an
- تجزیہ
- اور
- اعلان
- اعلانات
- ایک اور
- جواب
- کوئی بھی
- ایپلی کیشنز
- کیا
- ارد گرد
- مصنوعی
- مصنوعی ذہانت
- AS
- مدد
- At
- آٹومیٹڈ
- دستیاب
- واپس
- متوازن
- بینک
- بینکوں
- براک اوباما
- راہ میں حائل رکاوٹیں
- کی بنیاد پر
- BE
- بن
- ہو جاتا ہے
- رہا
- اس سے پہلے
- شروع ہوا
- کیا جا رہا ہے
- بہتر
- کے درمیان
- سے پرے
- بگ
- بڑی ٹیک
- بٹ کوائن
- خون
- جسم
- دونوں
- لاتا ہے
- بھینس
- عمارت
- کاروبار
- کاروبار
- لیکن
- by
- کہا جاتا ہے
- کر سکتے ہیں
- صلاحیتوں
- کارڈ
- مقدمات
- پکڑو
- مشہور شخصیت
- یقینی طور پر
- چیلنج
- چیلنجوں
- موقع
- تبدیل
- چیٹ جی پی ٹی
- چیک کریں
- چیک
- رنگ
- آتا ہے
- کمیونٹی
- کمپنیاں
- مکمل
- کمپیوٹر
- کافی
- جاری
- بات چیت
- قیمت
- مہنگی
- سکتا ہے
- جوڑے
- کورس
- تخلیق
- مخلوق
- جرم
- مجرم
- سائبر کریمنل
- cybercriminals
- اعداد و شمار
- ڈیٹا سائنس
- سمجھا
- گہری
- گہری جعلی
- deepfakes
- ترسیل
- تعیناتی
- بیان کیا
- کھوج
- ترقی
- رفت
- ڈیجیٹل
- ڈونالڈ
- ڈونالڈ ٹرمپ
- کیا
- دو
- اس سے قبل
- ابتدائی
- ابتدائی مرحلے
- آسان
- آسانی سے
- اقتصادی
- اکنامک فورم
- موثر
- اثرات
- عنصر
- عناصر
- ابھر کر سامنے آئے
- لامتناہی
- کافی
- اندر
- جس کا عنوان
- اندراج
- دور
- خاص طور پر
- بھی
- واقعات
- مثال کے طور پر
- مثال کے طور پر
- خصوصی
- وجود
- تجربہ
- ماہر
- ظاہر
- آنکھیں
- چہرہ
- چہرے
- حقیقت یہ ہے
- جعلی
- دور
- لڑنا
- لڑ
- فلٹر
- کی مالی اعانت
- مالی
- مالی دھوکہ دہی
- مالیاتی ادارے
- مل
- تلاش
- فن ٹیک
- فرم
- پہلا
- بہاؤ
- توجہ مرکوز
- کے لئے
- فورم
- آگے
- ملا
- دھوکہ دہی
- فراڈ کا پتہ لگانے
- فراڈ کی روک تھام
- دھوکہ دہی
- دھوکہ دہی
- سے
- مزید
- حاصل کرنا
- کھیل ہی کھیل میں
- محفل
- GANs
- پیدا
- پیدا ہوتا ہے
- حقیقی
- حاصل
- فراہم کرتا ہے
- Go
- گرافکس
- سب سے بڑا
- تھا
- ہارڈ
- ہے
- he
- مدد
- یہاں
- ہائی
- نمایاں کریں
- پر روشنی ڈالی گئی
- انتہائی
- ان
- تاریخی
- مارو
- امید ہے کہ
- کس طرح
- تاہم
- HTML
- HTTPS
- بھاری
- بھاری
- انسانی
- انسان
- سینکڑوں
- ID
- کی نشاندہی
- شناخت
- تصویر
- بہت زیادہ
- کو بہتر بنانے کے
- in
- میں گہرائی
- اشارہ کرتا ہے
- انیشی ایٹو
- جدید
- جدید ٹیکنالوجی
- اداروں
- ضم
- انٹیل
- انٹیلی جنس
- میں
- سرمایہ کاری
- شامل
- IT
- میں
- خود
- جرنل
- فوٹو
- صرف
- KDnuggets
- جان
- علم
- جانا جاتا ہے
- وائی سی
- مرحوم
- تازہ ترین
- شروع
- جانیں
- سیکھنے
- کم سے کم
- لیکچر
- چھوڑ دیا
- جائز
- کم
- روشنی
- لائٹنینگ کا
- کی طرح
- امکان
- لنکڈ
- رہتے ہیں
- دیکھو
- دیکھنا
- مشین
- مشین لرننگ
- مین سٹریم میں
- اکثریت
- بنا
- بناتا ہے
- دستی
- بہت سے
- مواد
- مئی..
- اقدامات
- نظام
- رکن
- دس لاکھ
- لاکھوں
- منٹ
- عکس
- یاد آیا
- ایم ائی ٹی
- ماڈل
- نگرانی
- مہینہ
- زیادہ
- تحریک
- چالیں
- بہت
- فطرت، قدرت
- ضرورت ہے
- نیٹ ورک
- نئی
- رات
- غیر تکنیکی
- اب
- تعداد
- اوباما
- of
- پیش کرتے ہیں
- اکثر
- on
- ایک
- آن لائن
- صرف
- اوپنائی
- مواقع
- کی اصلاح کریں
- آپشنز کے بھی
- or
- حکم
- دیگر
- باہر
- پیداوار
- پر
- خود
- جوڑے
- حصہ
- شرکت
- خاص طور پر
- منظور
- گزشتہ
- پیٹرن
- PC
- لوگ
- شاید
- انسان
- تصویر
- مقام
- پلاٹا
- افلاطون ڈیٹا انٹیلی جنس
- پلیٹو ڈیٹا
- جیب
- پوائنٹ
- سیاسی
- فحش
- پوسٹ
- ممکنہ طور پر
- طاقت
- حال (-)
- روک تھام
- پرائمری
- عمل
- پروسیسنگ
- پاور پروسیسنگ
- تیار
- ٹیچر
- پروموشنل
- ثابت ہوا
- فراہم
- فراہم کرنے
- عوامی
- مقاصد
- معیار
- ریڈار
- رینج
- شرح
- بلکہ
- اصل وقت
- حقیقت
- حقیقت
- وجہ
- حال ہی میں
- حال ہی میں
- تسلیم
- کہا جاتا ہے
- جھلکتی ہے
- مظاہر
- کی عکاسی کرتا ہے
- متعلقہ
- وشوسنییتا
- اطلاع دی
- کی نمائندگی
- کی ضرورت ہے
- وسائل
- ذمہ دار
- نتائج کی نمائش
- واپسی
- انکشاف
- واپس
- کا جائزہ لینے کے
- رسک
- معمول سے
- رن
- ہفتے کے روز
- پیمانے
- دھوکہ
- گھوٹالے
- سکول
- سائنس
- سائنسدانوں
- سیکورٹی
- حفاظتی اقدامات
- دیکھنا
- طلب کرو
- لگتا ہے
- دیکھا
- SEON
- سروس
- وہ
- منتقل
- ہونا چاہئے
- دکھائیں
- دکھایا گیا
- کی طرف
- سائن ان کریں
- نشانیاں
- سادہ
- بعد
- ایک
- چھ
- چھوٹے
- So
- حل
- کچھ
- کچھ
- بہتر
- آواز
- خاص طور پر
- تیزی
- خرچ
- اسٹیج
- نے کہا
- رہنا
- مرحلہ
- ابھی تک
- کہانی
- حکمت عملی
- سڑک
- مطالعہ
- موضوع
- اس طرح
- پتہ چلتا ہے
- سطح
- اضافے
- کے نظام
- سسٹمز
- ہدف
- ٹیموں
- ٹیک
- ٹیکنیکل
- تکنیک
- ٹیکنالوجی
- ٹیکنالوجی
- ٹیسٹ
- سے
- کہ
- ۔
- دنیا
- ان
- ان
- خود
- تو
- نظریہ
- وہاں.
- لہذا
- یہ
- وہ
- بات
- اس
- ان
- ہزاروں
- کے ذریعے
- وقت
- کرنے کے لئے
- بھی
- کے آلے
- اوزار
- موضوع
- کل
- تربیت یافتہ
- معاملات
- منتقلی
- واقعی
- ٹرمپ
- دیتا ہے
- ٹویٹر
- دو
- کے تحت
- یونیورسٹی
- استعمال کی شرائط
- استعمال کیا جاتا ہے
- صارفین
- کا استعمال کرتے ہوئے
- استعمال
- وسیع
- دہانے
- توثیق
- اس بات کی تصدیق
- بہت
- کی طرف سے
- ویڈیو
- ویڈیوز
- وائرل
- وائس
- قابل اطلاق
- جاگو
- تھا
- راستہ..
- طریقوں
- we
- تھے
- وارٹن
- کیا
- جب
- جس
- ڈبلیو
- گے
- ساتھ
- بغیر
- کام
- کام کر
- دنیا
- عالمی اقتصادی فورم
- دنیا کی
- گا
- سال
- یو ٹیوب پر
- زیفیرنیٹ