10 年 2023 月 XNUMX 日 (Nanowerk新闻)大脑是一个奇妙而神秘的东西:三磅重的软凝胶组织,我们通过它与世界互动,产生想法并构建意义和表征。长期以来,了解这种情况发生的地点和方式一直是神经科学的基本目标之一。近年来,研究人员转向人工智能来理解功能磁共振成像测量的大脑活动,将人工智能模型转化为数据,以越来越明确地了解人们在想什么以及这些想法在他们的大脑中是什么样子。加州大学圣巴巴拉分校的一个跨学科团队正在突破这些界限,他们采用了一种方法,将深度学习应用于功能磁共振成像数据,以对研究对象所看到的内容进行复杂的重建。 “有几个项目试图将 fMRI 信号转化为图像,主要是因为神经科学家想要了解大脑如何处理视觉信息,”2022 年 XNUMX 月最近举行的 NeurIPS 会议上发表的一篇论文的主要作者 Sikun Lin 说道。“Mind Reader: Reconstructing complex images from brain activities”)。 Lin、UCSB 计算机科学教授 Ambuj Singh 和认知神经科学家 Thomas Sprague 表示,这项研究生成的图像既逼真又准确地反映了原始的“地面真实”图像。他们指出,以前的重建并没有创建具有相同保真度的图像。他们方法的关键是,除了图像之外,还通过文本描述添加一层信息,林说此举是为了添加数据来训练他们的深度学习模型。他们在公开可用的数据集的基础上,使用 CLIP(对比语言图像预训练)对与观察到的图像配对的客观、高质量的文本描述进行编码,然后将这些观察到的图像的 fMRI 数据映射到 CLIP 空间。从那里,他们使用映射模型的输出作为条件来训练生成模型来重建图像。由此产生的重建结果非常接近受试者看到的原始图像——事实上,比之前从功能磁共振成像数据重建图像的任何尝试都更接近。随后的研究,包括一项值得注意的研究(“High-resolution image reconstruction with latent diffusion models from human brain activity”)来自日本,概述了有效地将有限数据处理成清晰图像的方法。
之前的作品和我们的流程之间的比较。 我们正在使用最新的 NSD 数据集,其中涉及更复杂的场景。 However, for comparison purposes, we choose four similar images from NSD, each containing a single object “plane”, and show our reconstructions from fMRI signals in fig. b. 通过我们的流程从 fMRI 中获得图像重建结果。 四个地面实况图像是绿框的。 (图片来源:Singh 等人)此外,这项研究揭示了对人类智能的一个重要方面的洞察:语义。
“本文的主要要点之一是视觉过程本质上是语义的,”林说。 根据该论文,“大脑本质上是多模式的”,也就是说,我们使用不同级别的多种信息模式来从视觉场景中获取意义,例如显着的内容或场景中物体之间的关系。 “仅使用视觉表示可能会使重建图像变得更加困难,”Lin 继续说道,“但使用像 CLIP 这样的语义表示,其中包含图像描述等文本,与大脑处理信息的方式更加一致。” “这其中的科学在于模型的结构是否可以告诉你有关大脑如何工作的一些信息,”辛格补充道。 “这就是我们希望尝试找到的。”例如,在另一项实验中,研究人员发现 fMRI 大脑信号编码了大量冗余信息,以至于即使屏蔽了 80% 以上的 fMRI 信号,所得的 10-20% 仍包含足够的数据来重建图像与原始图像属于同一类别,即使它们没有将任何图像信息输入到信号重建管道中(它们仅根据功能磁共振成像数据进行工作)。
“这项工作代表了图像重建方法的准确性和清晰度的真正范式转变,”斯普拉格说。 “之前的工作主要集中在极其简单的刺激上,因为我们的建模方法要简单得多。 现在,有了这些新的图像重建方法,我们就可以在认知计算神经科学中推进我们在认知计算神经科学中进行的实验,以使用自然、现实的刺激,而不会牺牲我们得出清晰结论的能力。”目前,将大脑数据重建为“真实”图像仍然是一项劳动密集型工作,超出了普通用途的范围,更不用说每个模型都是特定于大脑生成功能磁共振成像数据的人的。 但这并不能阻止研究人员思考能够解码一个人的想法的含义,直到每个人的思维都具有高度特定的含义层次。
辛格说:“我对这个项目感到兴奋的是,它是否有可能保留一个人的认知状态,并看看这些状态如何如此独特地定义它们。” 斯普拉格表示,这些方法将使神经科学家能够进行进一步的研究,测量大脑如何随着任务的变化而改变其对刺激的表征——包括对鲁棒、复杂场景的表征。 他说:“这是一项关键的进展,它将回答关于大脑在动态认知任务中如何表示信息的基本问题,包括那些需要注意力、记忆和决策的任务。”
他们现在正在探索的领域之一是找出大脑之间共享的内容和数量,这样就可以构建人工智能模型,而不必每次都从零开始。
辛格实验室的博士生研究员克里斯托斯·赞戈斯(Christos Zangos)说:“基本观点是,许多学科的人脑都有一些隐藏的潜在共性。”
- SEO 支持的内容和 PR 分发。 今天得到放大。
- 柏拉图区块链。 Web3 元宇宙智能。 知识放大。 访问这里。
- Sumber: https://www.nanowerk.com/news2/robotics/newsid=62778.php
- :是
- 10
- 11
- 2022
- 7
- 8
- 9
- a
- 对,能力--
- Able
- 关于
- 根据
- 准确
- 横过
- 活动
- 活动
- 添加
- 增加
- 推进
- 后
- AI
- AL
- 其中
- 量
- 和
- 另一个
- 回答
- 出现
- 的途径
- 方法
- 保健
- 地区
- 人造的
- 人工智能
- AS
- 方面
- At
- 关注我们
- 作者
- 可使用
- 基于
- BE
- 因为
- 作为
- 之间
- 边界
- 大脑
- 脑活动
- 大脑
- 建立
- 建筑物
- by
- CAN
- 产品类别
- Center
- 更改
- 更改
- 明晰
- 清除
- 关闭
- 接近
- 认知
- 相干
- 对照
- 复杂
- 复杂
- 一台
- 计算机科学
- 条件
- 进行
- 研讨会 首页
- 建设
- 持续
- 继续
- 可以
- 创建信息图
- 危急
- 目前
- data
- 数据集
- 日期
- 决策
- 深
- 深入学习
- 描述
- 研发支持
- 不同
- 难
- 扩散
- 不会
- 向下
- ,我们将参加
- 动态
- 每
- 有效
- 努力
- 更多
- 甚至
- 令人兴奋的
- 实验
- 探索
- 非常
- 保真度
- 无花果
- 找到最适合您的地方
- 寻找
- 重点
- 其次
- 针对
- 发现
- 骨架
- 止
- 根本
- 进一步
- Gain增益
- 生成
- 产生
- 生成的
- 生成模型
- 理想中
- 绿色
- 陆运
- 手
- 发生
- 有
- 有
- 老旧房屋
- 高品质
- 高分辨率
- 希望
- 创新中心
- 但是
- HTTPS
- 人
- 人类智慧
- i
- 主意
- 思路
- 图片
- 图片
- 启示
- 重要
- 重要方面
- in
- 包含
- 合并
- 增加
- 信息
- 洞察
- 例
- 房源搜索
- 相互作用
- IT
- 日本
- JPG
- 键
- 实验室
- 劳工
- 层
- 层
- 铅
- 学习
- Level
- 各级
- 喜欢
- 有限
- 长
- 看
- 看起来像
- 占地
- 制成
- 主要
- 使
- 操纵
- 许多
- 制图
- 意
- 测量
- 内存
- 方法
- 方法
- 中间
- 可能
- 介意
- 模型
- 造型
- 模型
- 模式
- 时刻
- 更多
- 移动
- 多
- 神秘
- 神经网络信息系统
- 神经
- 全新
- 显着
- 注意到
- 十一月
- 对象
- 目标
- 对象
- of
- on
- 一
- 普通
- 原版的
- 概述
- 产量
- 纸类
- 范例
- 员工
- 人
- 真实感
- 管道
- 柏拉图
- 柏拉图数据智能
- 柏拉图数据
- 可能
- 英镑
- 以前
- 过程
- 过程
- 教授
- 项目
- 项目
- 公然
- 目的
- 推动
- 有疑问吗?
- 达到
- 读者
- 现实
- 最近
- 反映
- 关系
- 代表
- 表示
- 代表
- 研究员
- 研究人员
- 导致
- 成果
- 揭密
- 健壮
- 牺牲
- 说
- 同
- 圣诞老人
- 圣巴巴拉
- 现场
- 场景
- 科学
- 看到
- 语义
- 感
- 集
- 几个
- Share
- 共用的,
- 转移
- 显示
- 信号
- 信号
- 类似
- 单
- 小
- So
- 软
- 一些
- 东西
- 太空
- 具体的
- 特异性
- 开始
- 州/领地
- 州
- Stop 停止
- 结构体
- 学生
- 研究
- 学习
- 主题
- 这样
- 任务
- 团队
- 这
- 世界
- 其
- 他们
- 博曼
- 事
- 思维
- 三
- 通过
- 次
- 至
- 对于
- 培训
- 翻译
- true
- 真相
- 转身
- 谈到
- 相关
- 理解
- 理解
- 独特地
- 使用
- 什么是
- 什么是
- 是否
- 这
- 将
- 中
- 也完全不需要
- 精彩
- 工作
- 加工
- 合作
- 世界
- 将
- 年
- 和风网
- 零