球棒击球的脆响伴随着观众的欢呼,即便错过了观看本垒打的瞬间,也能瞬间抓住棒球迷的注意力。人类或许是视觉动物,但我们同样通过聆听来感知周围的世界。

为了提升人工感知能力,MIT教授帕里斯·斯马拉格迪斯(Paris Smaragdis,1997届硕士、2001届博士)致力于打造能够听懂声音、甚至比人类听力更出色的机器。

一台拥有超人听力的机器,可以通过聆听轮胎摩擦声和金属碰撞声迅速定位交通事故发生的位置,也能在工业钻头穿透致密基岩挖掘地热井时,及时识别出钻头可能损坏的征兆。

“我喜欢说,我做的事情和计算机视觉领域的人一样,只不过我是为听觉而做。”斯马拉格迪斯说道。他目前在人文、艺术与社会科学学院的音乐与戏剧艺术项目,以及工程学院和MIT施瓦茨曼计算学院的电气工程与计算机科学系同时担任教职。

他的研究团队探索的领域包括:用于声源分离的机器学习、能够增强人类音频环境感知的智能设备,以及帮助人们理解、处理、分析和创作音乐的更优工具。

“由于有音乐背景,我一直对探索这些想法很感兴趣。要让机器理解声音,需要具备什么条件?能听懂声音的机器拥有巨大的应用领域。”2025年加入MIT的斯马拉格迪斯说道。

音乐的序曲

斯马拉格迪斯在希腊长大,很小的时候就开始学习古典吉他。他喜欢演奏传统曲目,但当父亲带回家一台小型合成器时,他的音乐之路迎来了一个转折点。

“那台小合成器有一个可以让你自己创造声音的功能,我完全被这种可能性迷住了。”他说道。

20世纪80年代,合成器在流行音乐中占据着越来越重要的地位,这更加深了他对这项技术的痴迷。

随着求学阶段的推进,斯马拉格迪斯想要学习用合成器创作的音乐。但当时欧洲较为传统的音乐学院并不提供这样的教育路径。

于是,他进入了波士顿伯克利音乐学院,在那里他可以探索如何利用计算机和合成器来塑造和处理声音。

“借助计算机和合成器,我可以创造出前所未有的全新声音。”他说道。

与此同时,斯马拉格迪斯深深沉浸在爵士融合音乐中。他在伯克利选择低音提琴作为主修方向,因为这能让他获得更多与爵士乐团合作演出的机会。

“我发现低音提琴在声音上比吉他更有趣。这是一个更未被探索的领域,而我一直都被未被探索的领域所吸引。”他说道。

这种对未知领域的兴趣也延续到了他的课程学习中。他与导师理查德·布兰杰(电子制作与设计教授)一起开发了新工具,帮助人们利用计算机进行音乐创作、制作和优化。

在伯克利学习期间,斯马拉格迪斯与MIT媒体实验室的巴里·沃科教授(已于2025年去世)展开合作项目,共同开发用于音乐创作的软件合成器。在此基础上,斯马拉格迪斯进入沃科的研究小组攻读研究生,完成了硕士和博士学位,随后在该实验室继续从事博士后研究。

“在媒体实验室里,我更多地接触到了计算机音乐中计算的部分。我的关注点也因此有所转变。现在我真正想做的,是制造能够理解声音的计算机。”他说道。

调频未被探索的领域

当时,媒体实验室的许多学生都在利用信号处理技术来帮助机器处理声音。斯马拉格迪斯选择了一条探索较少的路径——机器学习,以此将自己与其他人区分开来。

他发现,训练机器学习模型来理解声音,能带来传统信号处理技术无法实现的优势。

“随着时间推移,我越来越清楚地认识到,我们需要教会计算机如何去听,而不能只是告诉它们该怎么听。实际上,我们甚至都不清楚人类自己是如何听的。”他说道,“我们没有一套词汇能够解释‘聆听’究竟意味着什么,或者如何区分猫叫声和小提琴的声音。”

完成博士后研究后,斯马拉格迪斯开始在三菱电机研究实验室工作,在那里他研究能够扫描视频音轨并理解屏幕上正在发生什么的人工智能系统。

“假设你录制了一整场足球比赛,但只想看精彩集锦。在计算机视觉领域,要识别什么是‘精彩瞬间’是非常困难的。但如果只听声音,当观众欢呼雀跃时,你就能知道发生了有趣的事情。”他说道。

这套系统后来被应用到多种电子设备中,包括三菱当时正在开发的个人视频录制系统,以及交通监控系统和手机。

后来,斯马拉格迪斯加入Adobe,在那里他创建了音频研究团队,打造了便于艺术家、音乐人和制作人使用的工具,让他们无需太多专业知识也能处理声音。

“在做这些工作的过程中,我不断遇到更深层次的技术问题需要解决。于是我投身学术界,去满足这种探索的渴望。”他说道。

斯马拉格迪斯随后加入伊利诺伊大学厄巴纳-香槟分校任教,他和团队将最新的机器学习技术融入音频处理系统之中。

他们开发的其中一项技术利用神经网络从混合音频中分离出单独的声音。这个项目引起了2021年纪录片迷你剧《披头士乐队:重聚》(The Beatles: Get Back)制作团队的关注。

该制作团队邀请斯马拉格迪斯协助修复一些披头士乐队的档案录音。

“这与我在学术界做的音频处理工作方式截然不同。这次,我需要做出听起来效果好的成果,而不一定要在理论上说得通。我们没有一个可以直接优化的固定公式。”他说道。

每段录音都面临不同的挑战。例如,在一段录音中,约翰·列侬正在演奏音乐,而保罗·麦卡特尼却在一旁打闹,读着报纸上的头条新闻,还拿乔治·哈里森开玩笑。

“我们试图找到一种能够帮助我们应对所有情况的技术方案,而不是针对每个问题单独解决。”他说道。

他的贡献帮助该制作团队在2022年获得了艾美奖“非虚构或真人秀节目声音剪辑奖”。

协同之力

在伊利诺伊大学任教15年后,斯马拉格迪斯决定加入MIT,以应对该领域中不断涌现的复杂跨学科问题。

他的团队目前专注于两个主要方向。一方面,他们致力于开发能让计算机成为音乐人更有用工具的系统。

其中一个项目旨在让机器学会如何“聆听”音乐,从而能够为音乐人提供建设性的反馈意见。

“我们想要增强音乐人手中的工具箱,而不是用计算机来取代音乐人。”他说道。

另一方面,他的团队专注于开发科学家和艺术家都可以使用的基础工具,用于处理、分析和操控音频。

例如,他的团队最近一直在探索一些精密的信号处理算法,这些算法不依赖固定或明确定义的传统参照系,比如采样率、帧大小或上下文窗口等。

斯马拉格迪斯表示,这意味着存在一些尚未被探索的计算结构,尽管它们具备实现更高效处理的潜力。

“这需要重新思考许多基础性的问题,但一旦具备了这种能力,你就能开始构建更加灵活、更加强大的系统。”他补充道。

他们还探索如何将大语言模型等最新技术融入语音识别和音频增强领域。

“AI是一个极其强大的工具,但我认为我们还没有找到将其应用于声音和音乐的理想方式。”他说道。

他也很享受指导学生、帮助他们将研究项目的构想变为现实的过程。

由于很少有学生具备运用计算处理声音的经验,他格外注重实践教学,让学生们能够亲眼见证、亲耳聆听如何将方程式转化为真实可感的成果。

无论是借助计算机还是使用更传统的乐器,斯马拉格迪斯依然能从创作音乐中感受到兴奋与喜悦。在校园之外,只要有时间,他就会演奏爵士低音提琴,并和妻子、15岁的儿子一起,探索波士顿丰富多彩的音乐社区。

在音乐领域之外,他还从事水下曲棍球的比赛和教练工作——这是一项运动员佩戴潜水面罩、用球杆在泳池底部推动重型冰球、将其击入对方球门的运动。他曾担任伊利诺伊大学水下曲棍球队的教练,希望能尽快重启MIT水下曲棍球俱乐部,并在校园内举办相关锦标赛。

尽管水下曲棍球是一项相对小众的运动,但它与斯马拉格迪斯一生追求探索未知领域的热情不谋而合。

“我一直喜欢做一些与众不同的事情。如果你能创造出前所未有的全新声音,这又意味着你具备怎样的创造能力呢?我仍然觉得这些问题充满了魅力。”他说道。

MIT News