总部位于纽约的AI检测初创公司Pangram正致力于打击蔓延至整个互联网的AI垃圾内容,近日完成900万美元融资。此次融资押注的核心逻辑是:区分人类创作内容与AI生成文本的工具需求将持续增长。

本轮融资由Menlo Ventures领投,Haystack、ScOp、Script Capital和Cadenza参投。与此同时,Pangram还发布了新一代AI文本检测模型Pangram 4,以及AI图像检测模型Pangram Image。

据Pangram介绍,新版文本检测模型识别AI辅助写作及人机混合内容的准确率超过99%,还能更有效地检测AI"人性化"改写程序。AI图像检测器目前仅以研究预览版形式开放,计划在未来数周内正式推出。

斯坦福大学AI与机器学习专业毕业生Max Spero和Bradley Emi约两年前创立了Pangram,彼时ChatGPT的发布正式打开了互联网被机器人、AI生成SEO垃圾内容以及Spero所称的"大语言模型驱动的俄罗斯虚假信息活动和阿联酋在Twitter上的影响力运作"所充斥的大门。

"我认为,了解你所看到的内容是否由AI生成,具有极高的价值,"Spero对TechCrunch表示,"尤其是你正在阅读的文字,因为这会影响人们对待内容的方式——我是否需要警惕幻觉问题、保持怀疑态度?还是说这是一位真正的记者经过深入研究后写出来的东西?"

Pangram的AI检测系统本质上是一个大型机器学习模型,基于数千万份已知的人类文档进行训练。该公司随后为每份文档创建了一个"合成镜像"——保留原文档的主题、长度和语气,但由前沿大语言模型重新生成。

"我们的模型正在学习AI在写作风格和措辞选择上呈现出的一贯规律,并能够据此以高置信度判断一段内容是否由AI生成,"Spero说,并补充称该检测器并不依赖复制粘贴元数据或隐藏水印。

对Pangram而言,AI检测不仅仅关乎一段文本是否完全由AI撰写,还在于区分AI参与程度的深浅——例如某人自己写完后再请AI进行润色。Spero认为AI辅助本身可以被接受,前提是写作者主动披露其AI使用情况。

Pangram的出现恰逢AI使用日益普遍之际。有些情况令人啼笑皆非,比如一位加拿大政客在议会演讲中当众朗读出AI提示词;另一些情况则后果严峻,如部分律师在案件中引用了ChatGPT编造的虚假判例,面临处罚和罚款。

这股反弹浪潮不仅让个人蒙受尴尬或制裁,更开始体现在机构规则层面。开放获取预印本平台arXiv今年出台了新的执行政策,规定若提交材料中存在作者未审查大语言模型输出内容的证据(如幻觉式引用,或"您是否需要我做任何修改?"等元评论),可触发长达一年的提交封禁。

押注AI检测市场的并非只有Pangram。Winston AI、Originality.ai、Copyleaks、GPTZero等竞争对手也在追逐同一需求,各自构建专属的检测工具。

Pangram的技术虽非无懈可击,但有望助力抵制涌入互联网、法庭及学术论文的AI生成内容。

用户可通过网页端每月20美元的订阅方案使用Pangram,也可下载Chrome扩展程序,该扩展能在X、LinkedIn、Substack、Reddit和Medium上实时自动标注帖子。扩展程序还提供信息流健康评分,以百分比形式显示当前页面中人类与AI内容的占比。

Pangram同样提供API接入服务。值得一提的是,Substack近期已将Pangram技术集成至其平台,以便读者了解自己关注的作者是否借助AI撰写通讯内容。Spero表示,其他API客户还包括Quora、各级学校和高校、出版商与版权经纪人,以及招聘人员等。

Pangram的检测效果究竟如何?

Spero表示,Pangram模型将人类文档误判为AI的概率约为万分之一。为此,记者对其进行了实际测试。文本检测模型表现相当亮眼,但并非无懈可击。它能轻松标记出ChatGPT和Claude完全生成的新闻文章,在记者尝试将AI文本修改得更像人类写作时,也几乎未被蒙骗。不过,Pangram确实将部分经记者完全改写的句子标记为AI生成。此外,当记者提示ChatGPT和Claude在生成内容时刻意规避AI检测器时,Pangram同样未被欺骗。

记者还将自己撰写的一篇文章分别交给ChatGPT和Claude进行润色。Pangram给出了13%的AI辅助得分,这与实际情况基本吻合,但模型能够在某些句子中察觉到细微的措辞变化,在另一些句子上却有所遗漏,还将部分人类书写的句子误标为AI辅助内容——值得注意的是,当记者将该文章完整版本原封不动地输入Pangram时,评分结果是100%人类创作。

或许新闻文章本身就有些平铺直叙,听起来容易像AI。于是记者换了一种测试方式:将自己风格更为鲜明的个人Substack通讯内容粘贴前半段,然后让ChatGPT和Claude模仿写作风格续写后半段。总体而言,Pangram能够轻松区分人类撰写与AI生成的文本内容。

对Pangram新版图像检测模型的有限测试同样令人印象深刻。

Pangram的AI图像检测系统能够跨越不同AI模型识别AI生成图像,这一点有别于OpenAI或谷歌DeepMind基于水印的检测机制——后者主要只能识别自身生成的内容。该系统基于像素级分布运作,学习真实照片与AI生成图像之间细微的统计差异。Spero表示,该模型甚至能够检测出出现在真实场景照片中的AI图像。

在测试中,该模型能够轻松识别出AI生成图像,无论是超写实风格还是卡通风格。记者还证实该模型确实能检测出嵌入在真实照片中的AI图像——Pangram提供的热力图清晰地在图像上方显示出高亮区域——不过在一个案例中,它将一张拍摄AI生成图像的照片错误判定为人类内容。

Spero表示,他不希望自己的技术成为针对AI写作用户的"猎巫行动"导火索,但认为确实需要某种机制来抵制垃圾内容的泛滥。

"我预见的未来是,AI内容将持续激增,"Spero说,"GPU的增速远超人口出生率。如果我们不主动对人类内容加以甄别保护,AI内容只会越来越多,最终淹没所有属于人类的声音。"

Q&A

Q1:Pangram的AI文本检测模型是如何工作的?

A:Pangram的AI检测系统是一个大型机器学习模型,基于数千万份人类文档进行训练。该公司为每份文档创建了一个"合成镜像"——保留原文档的主题、长度和语气,但由大语言模型重新生成。通过对比,模型学习AI在写作风格和措辞选择上的规律性差异,从而以高置信度判断内容是否由AI生成,且不依赖复制粘贴元数据或隐藏水印。

Q2:Pangram 4的检测准确率有多高?

A:据Pangram官方表示,新版文本检测模型Pangram 4识别AI辅助写作及人机混合内容的准确率超过99%,误将人类文档判定为AI的概率约为万分之一。在实际测试中,该模型能轻松检测ChatGPT和Claude生成的内容,即使经过人工轻微编辑也难以规避,但并非完全无误,仍存在少量误判情况。

Q3:普通用户如何使用Pangram?

A:用户可通过两种方式使用Pangram:一是在网页端订阅,月费20美元;二是下载Chrome浏览器扩展程序,可在X、LinkedIn、Substack、Reddit和Medium等平台上实时自动标注内容,并提供信息流健康评分,显示当前页面人类与AI内容的占比。此外,Pangram还提供API接入服务,Substack、Quora等平台已完成集成。

Techcrunch