加州大学伯克利分校的一项新研究表明，人工智能(AI)系统可以以一种与大脑解释语音的方式非常相似的方式处理信号，科学家表示，这一发现可能有助于解释人工智能系统如何运作的黑匣子。

【资料图】

使用放置在参与者头部的电极系统，伯克利语音和计算实验室的科学家测量了参与者听一个音节“bah”时的脑电波。然后，他们将大脑活动与训练学习英语的人工智能系统产生的信号进行了比较。

“这些形状非常相似，”加州大学伯克利分校语言学助理教授，最近发表在《科学报告》上的这项研究的主要作者Gasper Begus说。“这告诉你类似的东西被编码，处理是相似的。

两个信号的并排比较图显示了惊人的相似性。

“数据没有调整，”Begus补充道。“这是生的。”

人工智能系统最近突飞猛进。自从ChatGPT去年在世界各地流行以来，这些工具预计将颠覆社会各阶层，彻底改变数百万人的工作方式。但是，尽管取得了这些令人印象深刻的进步，科学家们对他们创建的工具在输入和输出之间究竟是如何运作的了解有限。

ChatGPT 中的问答一直是衡量 AI 系统智能和偏见的基准。但这些步骤之间发生的事情就像一个黑匣子。了解这些系统如何以及为什么提供它们所做的信息 - 他们如何学习 - 变得至关重要，因为它们在从医疗保健到教育的各个领域的日常生活中根深蒂固。

贝格斯和他的合著者，约翰霍普金斯大学的艾伦·周(Alan Zhou)和华盛顿大学的T·克里斯蒂娜·赵(T. Christina Zhao)是致力于打开这个盒子的科学家之一。

为此，贝格斯转向了他的语言学培训。

贝格斯说，当我们听口语时，声音会进入我们的耳朵并转化为电信号。然后这些信号通过脑干传播到我们大脑的外部。通过电极实验，研究人员追踪了响应3次单一声音重复的路径，发现语音的脑电波紧随语言的实际声音。

研究人员通过一个可以解释声音的无监督神经网络(一个人工智能系统)传输了相同的“bah”声音录音。使用伯克利语音和计算实验室开发的一种技术，他们测量了重合的波，并在它们发生时记录下来。

以前的研究需要额外的步骤来比较来自大脑和机器的波。Begus说，研究原始形式的波将有助于研究人员理解和改进这些系统如何学习并越来越多地反映人类认知。

“作为一名科学家，我对这些模型的可解释性非常感兴趣，”Begus说。“他们太强大了。每个人都在谈论他们。每个人都在使用它们。但是，试图理解它们的工作要少得多。

Begus认为，输入和输出之间发生的事情不必是一个黑匣子。了解这些信号与人类大脑活动的比较是构建日益强大系统的竞赛中的重要基准。知道引擎盖下发生了什么也是如此。

例如，有了这种理解可以帮助为日益强大的人工智能模型设置护栏。它还可以提高我们对错误和偏见如何融入学习过程的理解。

Begus说，他和他的同事正在与其他研究人员合作，使用大脑成像技术来测量这些信号的比较情况。他们还在研究其他语言，如普通话，如何在大脑中以不同的方式解码，以及这可能表明知识的含义。

许多模型都经过视觉线索训练，如颜色或书面文本——两者都在粒度级别上有数千种变化。然而，语言为更坚实的理解打开了大门，Begus说。

例如，英语只有几十个声音。

“如果你想理解这些模型，你必须从简单的事情开始。而且语音更容易理解，“Begus说。“我非常希望语音能够帮助我们理解这些模型是如何学习的。

在认知科学中，主要目标之一是建立尽可能接近人类的数学模型。新记录的脑电波和人工智能电波的相似性是研究人员实现这一目标的基准。

“我并不是说我们需要建造像人类一样的东西，”贝格斯说。“我不是说我们没有。但是，了解不同的架构与人类的相似或不同之处很重要。

关键词：