来电响起时，塔里尼·帕德玛纳布尼（Tarini Padmanabhuni）的祖父以为自己在和弟弟通话。电话那头的声音说，他的弟弟被绑架了，唯一能救回他的办法就是支付赎金。祖父照做了，后来才得知弟弟其实一直安然无恙，对整件事毫不知情。原来，那个声音是深度伪造的——由AI生成、模仿他弟弟声音的产物。
“留在我心里的不是那笔钱，”帕德玛纳布尼谈起这件事时说，“而是他当时根本没有办法分辨真假。”
那是大约两年前的事。如今，她说，她在旧金山创办的公司DetectifAI，目标就是让其他人不再被同样的方式蒙骗。
这是一个庞大且不断增长的问题，也是一个规模相应的市场。据美国联邦调查局（FBI）统计，去年美国人因AI驱动的诈骗损失了近9亿美元，较2024年增长24%。60岁以上人群的损失是50到59岁人群的两倍。
深度伪造语音检测领域并不缺竞争者，包括Reality Defender、Pindrop、Resemble AI、微软Azure AI内容安全，以及同样归属微软的Nuance。但帕德玛纳布尼认为，如今的检测产品大多运行在云端的远程服务器上，手机厂商无法将其直接内置到设备中，这使得被骗对象几乎没有防御手段。
与一些公司将大型云端模型压缩以适配手机不同，DetectifAI表示，他们从一开始就设计紧凑型AI模型，使其能够直接运行在智能手机的操作系统内部。其目标是在通话、语音消息及其他音频场景中，即时判断一段声音是否为AI生成，而整个过程音频数据无需离开设备。
DetectifAI首先面向手机制造商销售产品，通过授权其软件工具，使检测功能能够作为手机操作系统的内置功能上线。她将此比作AT&T在初代iPhone发布时扮演的角色——当时运营商的独家协议让其区别于竞争对手：她认为，第一家搭载DetectifAI的手机制造商将获得领先优势，而深度伪造检测未来也将成为像摄像头分辨率一样的标准配置。
该产品的核心是DetectifAI的软件开发工具包（SDK），这是一套代码包，其他公司可以将其集成到自身产品中，并可通过现有渠道获得授权。帕德玛纳布尼表示，公司的第二条收入来源将是向企业和反欺诈公司授权该技术。
与此同时，据帕德玛纳布尼透露，这家初创公司已经有了早期收入，目前每月为印度的金融机构处理超过10万通电话。这些电话由负责催收欠款和跟进贷款文件的AI语音智能体拨打，每通电话都会进行深度伪造检测和说话人验证（确认来电者身份属实）。由于保密协议，她拒绝透露客户名称。
帕德玛纳布尼表示，她从12岁起就开始涉足机器学习领域，后来在印度曼尼帕尔理工学院（Manipal Institute of Technology）学习信息物理系统（将软件与物理机械相连接的技术），并在那里成为她所称的印度首个无人驾驶赛车部门的最年轻团队负责人，该项目参加的是国际大学生工程竞赛Formula Student。
被问及公司迄今为止最有成就感的时刻，她提到了一次小规模的WhatsApp测试版试验：用户转发可疑的语音消息，系统会反馈该消息是否为真实录音的判断结果。一位测试者的亲属曾遭遇诈骗，他打来电话表示会毫不犹豫地为此付费。“我祖父当时没有这样的工具，”她说。
DetectifAI目前已从投资者乔什·康斯坦丁（Josh Constine，曾任TechCrunch编辑）和咨询服务公司KM Growth的负责人马诺哈尔·卡马特（Manohar Kamath）处筹集了一笔小规模种子轮资金。该公司也是入选TechCrunch编辑团队评审、参加其知名创业竞赛Startup Battlefield的初创企业之一，该赛事将于10月13日至15日在旧金山市中心举行的TechCrunch Disrupt大会上进行。
Q&A
Q1：DetectifAI是什么？它能做什么？
A：DetectifAI是一家总部位于旧金山的初创公司，专注于开发能够直接内置在智能手机操作系统中的深度伪造语音检测技术，可在通话、语音消息等场景中实时判断声音是否为AI生成，且整个检测过程无需将音频上传至云端。
Q2：为什么现有的深度伪造检测产品不够用？
A：目前市面上的检测产品大多运行在云端服务器，手机厂商难以将其直接集成到设备中，导致普通用户在遭遇AI诈骗电话时缺乏即时防御手段。DetectifAI则从设计之初就打造能在手机本地运行的紧凑型AI模型。
Q3：DetectifAI目前的业务进展如何？
A：据创始人透露，该公司已有早期收入，目前每月为印度的金融机构处理超过10万通电话，这些电话涉及AI语音智能体的催收和贷款跟进业务，每通电话都配有深度伪造检测和说话人身份验证功能。