Meta AI最新Nature系列工作，揭示语言模型与人脑有何不同：人类大脑中听语音的预测编码层次的证据

​

自然语言处理方面最近取得了相当大的进展：深度学习算法越来越能够精确地生成、概括、翻译和分类文本。然而，这些语言模型仍然无法匹配人类的语言能力。预测编码理论提出了一个猜想来解释这种差异：虽然语言模型被优化为预测相邻的单词，但人脑会持续地预测跨越多个时间尺度的多个表示层次。为了检验这个假设，我们分析了304名参与者听短篇故事时的功能性磁共振成像脑信号。首先，我们确认了现代语言模型的激活与大脑对语言的反应之间存在线性映射。其次，我们展示了增强这些算法的预测跨越多个时间尺度，可以提高这种脑部映射。最后，我们证明了这些预测是按层次组织的：前额-顶叶皮质预测比颞叶皮质更高层次、更长程和更上下文的表示。总的来说，这些结果加强了层级预测编码在语言处理中的作用，并说明神经科学和人工智能之间的协作可以揭示人类认知计算基础。

标题：Evidence of a predictive coding hierarchy in the human brain listening to speech

论文：https://doi.org/10.1038/s41562-022-01516-2

作者：Charlotte Caucheteux, Alexandre Gramfort，Jean-Rémi King

​Read More