在将数据转化为易于理解的展示形式的艺术中,可视化通常是首选方式。但视觉并非我们理解数字信息的唯一感官途径。
可听化(Sonification)是可视化鲜为人知的"表亲":将数据转化为声音的实践方法。尽管我们可能没有明确意识到,但可听化在日常生活中随处可见。例如,汽车泊车辅助系统会将汽车与路径中物体之间的距离转化为蜂鸣频率,随着危险的临近,蜂鸣频率的增加会增强驾驶员的紧迫感。
在汽车警报的例子中,使用声音而非视觉显示的主要好处是,无论驾驶员面朝哪个方向,都能接收到紧急信息。这是可听化技术的一个绝佳应用场景:它可以让医生在专注于精细外科手术的同时,通过听觉心脏监测提示追踪病人的生命体征;或者为繁忙的空中交通管制室的操作员提供实时的外围感知能力。然而,也存在人耳能够捕捉到数据中的规律,而人眼却完全无法察觉的情况。
斯蒂芬·罗迪(Stephen Roddy)认为,随着复杂数据集的增多,声音将在数据解读中变得愈发重要。
科克大学学院的研究员兼讲师斯蒂芬·罗迪,职业生涯的大部分时间都在从事将数据转化为声音的工作,并开发新颖的可听化技术和应用场景。或许并不令人意外的是,他还是一位活跃的音乐人,常常将技术与艺术追求相互交织。罗迪认为,可听化技术即将迎来复兴,将成为在各个领域理解海量数据的重要手段。他对6G时代网络数据的可听化尤为乐观,并正在参与推动一个新兴领域的发展,该领域被研究者称为"声音互联网"。我们采访了罗迪,探讨了这一趋势为何可能到来。
可听化技术的过去与现在的价值
IEEE Spectrum:可听化技术在什么情况下最有用?
斯蒂芬·罗迪:当用户的视觉注意力必须转移到别处时,或者当传统的数据图表和可视化方法完全失效时,可听化技术就显得尤为重要。
不过,在处理高度复杂、多维度且带有噪声的数据时,可听化技术才真正展现出其优势——这类数据中的关键模式和关系是肉眼无法察觉的。人眼的工作方式类似于串行处理器——一次只关注一小块信息;而人耳则充当并行处理器。两百年的心理声学研究发现,人耳能够轻松识别细微的变化,同时处理多路数据流,并从深藏于背景噪声中的信号里分离出重要信息。
可听化技术有多新?
罗迪:它给人的感觉像是一个现代概念,也是一个现代术语。但实际上,可听化技术在技术发展史的大部分时期都已存在。一个早期的例子是中世纪欧洲的教堂钟声。不同的敲钟模式提供了计时信息、宗教仪式和社区活动的标志,以及即将到来的危险的警示。
到了19世纪中期,电报接收机(用于接收摩尔斯电码信息的打印设备)最初是将接收到的"点"和"划"以凹痕形式记录在移动的纸带上。阅读打印出的数据既缓慢又困难,因此熟练的操作员很快学会了识别电报机产生的独特节奏性咔哒声。到19世纪50年代,电报接收机被声音发生器取代。这些设备将节奏性的咔哒声放大为"嘀"和"嗒",使操作员处理数据的速度和效率远超阅读纸带上的点和划。
可听化技术一直是早期电信技术突破的重要支撑,直到20世纪20年代电话和电传打字机实现商业化。从那时起,可听化技术与更广泛的通信技术领域开始暂时分道扬镳。
为什么可听化技术现在正在复兴?
罗迪:近年来,数据量急剧膨胀,已经变得过于庞大,单靠视觉界面难以处理。到2026年,全球数据总量预计将达到惊人的221泽字节(10的21次方字节)。像空间科学这样的领域,管理的数据集规模在20到50艾字节(10的18次方字节)之间,而生物科学处理的数据量可达200艾字节,其中仅基因组学数据的增长速度就是空间数据的40倍之多。
随着这些庞大数据集的增长,它们变得高度复杂、异构,且充满了以非线性方式相互作用的变量。关键信号可能隐藏在截然不同的尺度中,从近乎瞬时的波动到跨越漫长时代的变化。传统图表无法将所有这些迥异的数据以合理的方式整合在一起,导致数据变得孤立分散。研究人员正将可听化技术视为突破这一数据洪流、提取有意义洞见的必要工具。
那么人工智能呢?处理和模式发现能否由机器完成?
罗迪:可以,AI能做很多事情。AI技术可以对数据集进行组织、筛选和分析。但可听化技术能够为人类决策者提供支持,通过让数据中的模式能够被作用于该数据的听者所感知。
近期研究表明,AI辅助的可听化技术尤为有益,AI可以对数据进行预处理和筛选,然后可听化技术以易于理解的方式将最终结果呈现给用户。例如,一个团队使用AI将脑电图(EEG)数据转化为声音,使其更易于解读。
现代可听化技术
将复杂数据映射为声音,最常用的技术有哪些?
罗迪:该领域两项重要的技术是音频化(Audification)和参数映射可听化(PMSon)。
音频化技术从低频信号开始,将其转换到人耳能轻松听到的范围(20赫兹到20千赫兹)。通常这只是加快了轨道的播放速度。这个过程本质上是对时间序列数据进行压缩,非常适合用于发现异常。
一个很好的例子是引力波。2015年,LIGO的科学家们将引力波数据转换到可听频谱,人们可以真切"听到"数十亿光年外两个黑洞碰撞的声音。听起来就像是从嘈杂背景噪声中升起的一声独特的"啁啾"声。此外,研究科学家兼作曲家罗伯特·亚历山大(Robert Alexander)曾将NASA的太阳风数据从数小时压缩加速到几秒钟,他在碳离子数据中听到了一种奇特的和声哼鸣,而这是统计可视化模型未能察觉的。结果发现,这是太阳磁场的一种特殊行为。
参数映射可听化则更为复杂。它将数据集的特定变量或维度映射到不同的听觉参数上,例如音高、音量或乐器种类。这种方法更适合处理离散的、非时间序列的数据,尤其是那些包含多样化或不匹配数据类型的情况。
关于参数映射可听化,一个好例子是"脑部听诊器"项目,该项目将脑电图(EEG)的18个通道转换为声音。其映射方式设计为:正常脑电波会变成一种安静的背景嗡鸣声,而无声的癫痫发作则会转化为强烈的尖叫声。未经训练的医学生在听到这些声音后,能够以95%的准确率检测出癫痫发作。而通过普通的视觉扫描,他们只能识别出50%的病例。
另一个有趣的例子来自遗传学领域。研究员马克·坦普尔(Mark Temple)利用参数映射可听化技术,将DNA中四种重复出现的碱基映射为旋律、和声、打击乐等音乐元素,使听者能够轻松听出基因突变和生物学特征模式,而这些模式在原本的文字呈现中,只是一堵庞大而难以辨读的"文字墙"。
您自己的研究中如何运用可听化技术?
罗迪:在最近的一个项目中,我使用参数映射可听化技术,帮助梳理网络仪表盘上纷繁复杂的视觉信息。这是我为爱尔兰全国低功耗广域网(LPWAN)测试平台设计的方案,该平台同时追踪全国范围内10个不同数据流的网络健康状况。设计理念是:当网络状态良好时,合成清晰、悦耳、类似人声的声音;当出现技术问题时,转变为刺耳、不和谐的声音。这里结合了一些音乐、数据分析和认知科学的知识,让人们只需坐在那里聆听,就能察觉是否出现了问题。
在另一个项目中,我对都柏林的一些智慧城市数据进行了可听化处理。目标是帮助市民和管理者做出决策。我使用了一种名为变分自编码器(Variational Autoencoder)的机器学习模型,将都柏林杂乱的交通、道路和天气数据转化为优美的音乐片段。
未来几年,尤其是6G到来之后,您认为可听化技术将扮演什么角色?
罗迪:随着我们步入2030年代中期的6G时代,我预计通信领域将向"声音互联网"(Internet of Sounds,IoS)方向转变。网络很快将能够以极低的延迟传输海量数据,从而使一些新事物变得可能。例如,你可能会看到由100人组成的交响乐团进行实时同步演出,而演奏者实际上分布在世界各地。或者,跨越数千公里的大规模无线声学传感器网络,以及带有空间音频的真人大小3D全息影像。
这些网络将变得如此复杂,以至于可听化技术基本上将成为理解正在发生的一切的必要工具。有趣的是,可听化技术与通信技术在20世纪20年代电报出现后曾各自分离,但如今这两个领域正重新走到一起。不过这一次,我们将不再仅仅利用声音在网络中传递信息,而是将声音作为诊断、导航和理解我们所构建的庞大而"活跃"的数据网络的核心工具。
Q&A
Q1:可听化技术是什么?
A:可听化是将数据转化为声音的实践方法,是可视化技术的"表亲"。它能让人耳感知到数据中的模式和规律,尤其适用于处理高度复杂、多维度且带噪声的数据。
Q2:为什么可听化技术现在重新受到重视?
A:因为数据量正急剧膨胀,到2026年全球数据总量预计将达到221泽字节,传统图表无法处理这些庞大复杂的数据。研究人员正将可听化技术作为突破数据洪流、提取有效信息的必要工具。
Q3:6G时代可听化技术会有什么新应用?
A:6G时代将催生"声音互联网",网络能以极低延迟传输海量数据,实现全球实时同步的乐团演出、跨越数千公里的声学传感器网络等。可听化技术将成为诊断和理解这些复杂网络的核心工具。
