生成式人工智能 (AI) 已经对我们的生活产生了无处不在的影响,许多专家分享了他们对该技术改变行业的商业潜力以及未来可能如何使用的看法。 我最近分享了我的
思考 关于该技术将如何改变支付行业,而生成人工智能在我们的行业中有许多积极的应用; 不幸的是,还有许多人希望利用该技术进行欺诈。 以下是当今欺诈者已经在使用生成式 AI 的几种方式,支付行业的同事应该注意这些方式:
更复杂的网络钓鱼威胁。 我们已经看到发起了更复杂的攻击。 事实上,正如最近发现的
ble, 欺诈者甚至创建了提供免费下载 ChatGPT 工具的虚假网站。 这种过度反应的方法是欺诈者的典型做法,他们通常会利用新趋势来吸引人们的注意力。 在这种情况下,欺诈者提供虚假的 ChatGPT 下载作为在受害者的设备或机器上安装恶意软件的掩护,这将使他们能够访问个人数据、密码甚至现金。
这个例子可能并没有使用生成人工智能本身,但该技术也通过提高欺诈者更准确地编写看似真实的虚假电子邮件、网站和其他形式的通信的能力,提高了此类诈骗的有效性。 欺诈者可以使用生成的 AI 模型生成真正的电子邮件,这些模型使用官方提供的信息进行训练,以更好地模仿方法、语言、语法,甚至是这些电子邮件中链接的管理方式,从而使他们的网络钓鱼尝试看起来更合法。 造假越有说服力,成功率越高。 如果欺诈者获得了某人电子邮件的访问权限,他们就可以钓鱼信息、部署恶意软件,或者通过在真实电子邮件上训练他们的工具来造成进一步的破坏,从而使任何未来的通信都更接近于真实的东西。
敏感数据收集。 欺诈者已经使用庞大的工具库来收集敏感信息,但现在他们正在使用生成式 AI 驱动的诈骗来提高他们获取访问权限的能力,然后接管社交媒体帐户。 接管账户使欺诈者能够在受信任的环境中瞄准受害者的联系人,他们可能有机会在合成的授权推送支付攻击中向受害者的亲密朋友或家人要钱。 他们还可能尝试使用社会工程技术来访问更多敏感信息,例如暗示可能用于网上银行登录的密码和秘密答案问题。 在每种情况下,生成式 AI 都在不断学习受害者的沟通方式,这使得未来的任何攻击都更加有效且更难被发现。
欺诈者还使用生成式 AI 来生成极具说服力的工作申请并将其发布到官方工作委员会。 简历包含高度个人信息,此类骗局通常用于针对弱势群体,尤其是那些被裁员或刚刚开始职业生涯的人,并且更有可能向招聘人员提供个人信息。 在成功“雇用”一名员工后,欺诈者甚至可以要求提供受害者的 ID 和银行详细信息,因为他们知道至少需要一个月才能发薪日——有足够的时间克隆身份并使用它。
合成身份生成。 合成身份欺诈已经是许多银行和金融机构面临的主要问题,但欺诈者正在使用生成人工智能和合成数据来帮助他们绕过验证检查。 欺诈者现在有能力生成令人印象深刻的假身份文件,这些文件足够真实,可以通过创建银行账户等涉及的许多标准检查。 一旦获得了虚假的银行账户,欺诈者就可以申请信贷,或者利用“先买后付”的优惠,甚至更糟。
生成式 AI 正在帮助使此类欺诈更容易、更快速且更具可扩展性。 欺诈者只需单击一个按钮即可发起多次欺诈攻击。 自动化生成虚假身份和人物角色的过程,并显着增加他们成功的机会。 每次攻击都会增加欺诈者的大量真实数据,从而提高他们的模型自我训练的能力,并提高任何后续攻击的准确性。 一些欺诈者甚至使用生成式 AI 工具生成合成身份数据以在暗网上出售,而不是自己使用。
对欺诈调查问题的详细答复。 对话式 AI 以与大多数人类似的方式回答问题的能力给欺诈调查人员带来了一个独特的问题,而生成式 AI 正在增强欺诈者开发行为和听起来像真人的模型的能力。 这些模型还可以学习并快速理解任何对话的上下文和历史,例如,提高欺诈者通过更严格的验证检查的能力。 假设通过利用被盗的身份,生成人工智能可以被用来提出欺诈性的保险索赔,然后被用来为案件辩护。
重大灾害开采。 欺诈者一直试图利用自然灾害,例如最近在土耳其和叙利亚发生的地震,但随着人工智能图像生成的利用,这些攻击变得更加复杂。 欺诈者正在使用生成式 AI 来创建真实世界情况的虚假图像,作为虚假慈善页面的背景。 最近地震快
引起了骗子的注意,他们开始在 TikTok 和其他渠道上设置虚假捐赠页面。 其中许多页面使用 AI 生成虚假图像并生成令人信服的消息,以从受害者那里骗取金钱。
生成式 AI 是欺诈者非常强大的工具,很明显,所有欺诈案件调查、信贷申请和保险索赔现在都需要更高级别的审查。 许多公司,包括 OpenAI,正在推出
工具s 检测 AI 生成的内容,这可能有助于检测生成 AI 在欺诈中的使用。
对生成人工智能的恶意使用进行快速教育并警告企业和个人有关威胁现在对于保护支付行业免受这种强大新技术的侵害至关重要。
- SEO 支持的内容和 PR 分发。 今天得到放大。
- 柏拉图区块链。 Web3 元宇宙智能。 知识放大。 访问这里。
- Sumber: https://www.finextra.com/blogposting/23862/darktrace-is-correct—six-ways-generative-ai-enabled-fraud-threatens-the-payments-industry?utm_medium=rssfinextra&utm_source=finextrablogs
- :是
- $UP
- a
- 对,能力--
- 关于
- ACCESS
- 账号管理
- 账户
- 准确
- 法案
- 添加
- 优点
- 驳
- AI
- AI供电
- 所有类型
- 已经
- 时刻
- 和
- 回答
- 出现
- 应用领域
- 使用
- 的途径
- 保健
- 争论
- 人造的
- 人工智能
- 人工智能(AI)
- AS
- At
- 攻击
- 攻击
- 尝试
- 关注我们
- 自动化
- 背景
- 银行
- 银行账户
- 银行业
- 银行
- 英国广播公司
- BE
- 成为
- before
- 开始
- 作为
- 更好
- 提高
- 企业
- 按键
- 购买
- by
- CAN
- 寻找工作
- 案件
- 现金
- 原因
- 可能性
- 更改
- 改变
- 通道
- ChatGPT
- 支票
- 要求
- 索赔
- 清除
- 点击
- 关闭
- 密切
- CO
- 同事
- 收藏
- 采集
- 商业的
- 沟通
- 经常
- 联系
- 内容
- 上下文
- 谈话
- 可以
- 外壳
- 创建信息图
- 创造
- 信用
- CVS
- 黑暗
- 黑暗的网络
- data
- 部署
- 详情
- 开发
- 设备
- 灾害
- 发现
- 文件
- 捐款
- 下载
- 显着
- 每
- 地震
- 更容易
- 教育
- 有效
- 效用
- 邮箱地址
- 电子邮件
- 员工
- enable
- 启用
- 使
- 工程师
- 加强
- 更多
- 环境
- 特别
- 必要
- 甚至
- 例子
- 专家
- 非常
- 假
- 家庭
- 少数
- 金融
- 金融机构
- Finextra
- 企业
- 针对
- 形式
- 骗局
- 骗子
- 欺诈
- 自由的
- 朋友
- 止
- 进一步
- 未来
- Gain增益
- 收益
- 生成
- 产生
- 代
- 生成的
- 生成式人工智能
- 给
- 语法
- 授予
- 有
- 帮助
- 帮助
- 相关信息
- 更高
- 高度
- 历史
- 创新中心
- HTTPS
- 巨大
- 人类
- i
- ID
- 身份
- 身分
- 图片
- 图像生成
- 图片
- 影响力故事
- 有声有色
- 改善
- 提高
- 改善
- in
- 包含
- 增加
- 个人
- 行业中的应用:
- 信息
- 安装
- 机构
- 仪器的
- 保险
- 房源搜索
- 调查
- 调查
- 调查
- 参与
- IT
- 本身
- 工作
- JPG
- 会心
- 语言
- 大
- 发射
- 推出
- 发射
- 学习用品
- 学习
- Level
- 库
- 喜欢
- 容易
- 链接
- 生活
- 寻找
- 机
- 制成
- 主要
- 使
- 制作
- 恶意软件
- 管理
- 许多
- 很多人
- 媒体
- 消息
- 可能
- 模型
- 钱
- 月
- 更多
- 最先进的
- 多
- 自然
- 全新
- of
- 提供
- 提供
- 优惠精选
- 官方
- 正式
- on
- 在线
- 网上银行
- OpenAI
- 意见
- ZAP优势
- 反对
- 其他名称
- 密码
- 付款
- 支付
- 支付行业
- 员工
- 人的
- 人
- 个人
- 个人资料
- 网络钓鱼
- 钓鱼
- 柏拉图
- 柏拉图数据智能
- 柏拉图数据
- 构成
- 积极
- 可能
- 帖子
- 潜力
- 供电
- 强大
- 市场问题
- 过程
- 生产
- 生成
- 保护
- 目的
- 推
- 有疑问吗?
- 更快
- 很快
- 率
- 真实
- 真实的世界
- 现实
- 最近
- 最近
- 要求
- 酷似
- 回应
- 盐
- 可扩展性
- 诈骗
- 脚本
- 秘密
- 扇形
- 看到
- 敏感
- 设置
- 共用的,
- 共享
- 应该
- 类似
- 情况
- SIX
- So
- 社会
- 社会工程学
- 社会化媒体
- 一些
- 极致
- 听起来
- 标准
- 开始
- 被盗
- 样式
- 随后
- 成功
- 顺利
- 这样
- 合成的
- 综合数据
- 叙利亚
- 采取
- 服用
- 目标
- 技术
- 专业技术
- 这
- 其
- 他们
- 他们自己
- 博曼
- 事
- 威胁
- 威胁
- 的TikTok
- 次
- 至
- 今晚
- 工具
- 工具
- 培训
- 熟练
- 产品培训
- 趋势
- 信任
- 土耳其
- 类型
- 普遍
- 一般
- 理解
- 独特
- 使用
- 企业验证
- 受害者
- 脆弱
- 警告
- 方法..
- 方法
- 卷筒纸
- 网站
- 这
- 而
- WHO
- 将
- 将
- 和风网