全球范围内的AI公司都在竞相打造更大更强的模型,但这背后的问题是它们都需要海量的算力支持。与此相反,一些研究者和初创公司正致力于打造能在边缘设备(比如手机或电脑)上运行的小型模型。
Underdog正是这样一家初创公司,它发布了一款基于新语音模型Woof打造的游戏,该模型体积仅有32MB。
这款游戏呈现了一个复古科技风格的房间,里面有打字机和CRT显示器。房间里还有一盏台灯,点击开关时会发出声音。游戏开场提示用户要提防镇上那些“咄咄逼人”的云服务提供商——这显然是在暗讽基于云端的模型。
玩家可以与打字机和调音器进行互动。
你可以用键盘在打字机上输入任何文字,游戏会把内容读出来。你还可以旋转调音器生成不同类型的音乐。
这一切都是通过Underdog的语音生成模型在浏览器内实现的,该公司表示,这款模型可以在大多数设备上运行,且无需联网。该模型拥有3100万个参数,并向所有人开放下载。
虽然如此小型的模型不太可能取代更大的模型,但它或许已经足以驱动本地助手应用,或者用来制作个性化播客。
就在几周前,Underdog刚刚推出了Bark,这是一款体积为167MB的语音转文字模型,同样专为边缘设备设计,用于转录和听写任务。
Underdog创始人Sigil Wen向TechCrunch表示,他之所以开始开发这款应用,是因为他不想使用Granola之类的记录工具,而是想自己打造一套系统,让AI模型能在用户的设备上运行,使用户真正掌控自己的数据。
“我认为再过几个月,我们就能在现有设备上运行当今大多数能力强大的模型。我们只是想训练出最好的开源模型——美国制造、开放、能力强大,并且能让人们拥有私密的AI体验,”他提到自己的理念宣言时这样说道。
除了上述两款语音模型外,Underdog还发布了一款270亿参数、可在笔记本电脑上运行的模型,以及一款正在等待名单中的应用程序,该公司将其定位为Muse和Instinct的本地托管替代方案。
