研究人员推出了 RABBiT,这是一种紧凑的音频到 fMRI 编码器,旨在对自然语音引发的脑活动进行准确的零样本和少样本预测。该模型在多个未见数据集的 324 名参与者上进行了评估,其表现超越了当前的最先进基础模型和群体平均预测。
- RABBiT 能够在听觉和语言选择性区域实现 fMRI 响应的准确零样本预测。
- 仅需 10 分钟参与者特定数据,参数高效微调的表现大幅优于针对每个参与者的线性模型。
- 性能依赖于学习到的区域特定注意力机制,以及将脑响应分解为共享和受试者特定成分。
- 模型的结构化表示支持可解释性,同时消除了对大量参与者特定数据进行拟合的需求。
通过实现对人类大脑中语言的可扩展群体水平分析,RABBiT 解决了构建能够跨多样化实验刺激和个人进行泛化的计算模型所面临的挑战。