大家知道,当年在谷歌写 Transformer 架构论文《Attention Is All You Need》的八个人,后来都离开公司了。当然,Noam Shazeer,AI初创公司Character.AI 的创始人最近又回老东家了。下图是八人中的七个人去年参加英伟达GTC黄仁勋主持的圆桌对话场景。

八个人中,我比较关注的一位,是Aidan Gomez,和他联合创立的Cohere,原因有这么几个:
1、Cohere由Aidan Gomez、Nick Frosst 和Ivan Zhang在2019年共同创立。除却Aidan Gomez是Transformer 架构论文共同作者的身份。三位创始人均曾在Google Brain任职,AI研究背景深厚。
2、与 OpenAI 和 Anthropic 等公司致力于开发面向大众的通用模型不同,Cohere 自成立之初就将企业客户作为核心服务对象。公司联合创始人 Nick Frosst 曾表示:“我们将与企业合作,找出如何使模型在其特定用例中表现出色,量身定制以满足特定需求并投入生产,而不是寄希望于 AGI 在明年到来。好像,欧美专注于企业AI的模型公司,就这么一个了,很有代表性。
3、而Cohere的企业AI定位也获得了一众大佬认可。它的投资者名单包括英伟达、甲骨文、Salesforce、思科、AMD、富士通等大公司。此外,AI领域的权威人物,如辛顿、李飞飞和 Pieter Abbeel(学术大牛,加州大学伯克利分校电气工程与计算机科学系教授)等,也参与了早期投资。2024年,公司完成5亿美元的融资,估值高达55亿美元。
本期博客的核心内容就来自Redpoint Ventures主办的AI播客节目"Unsupervised Learning"的最新一期,主持人Jacob Efron与 Aidan Gomez就企业AI的方法论展开了一场对话。
两个人的谈话覆盖了从企业AI应用模式、基础模型发展到AI技术未来走向等多个关键议题。Aidan分享了他对当前AI技术在企业场景中的实际应用情况、推理能力对AI模型的关键作用、定制化模型与通用模型的平衡、以及后Transformer时代架构创新的见解。
现在对于AI向何处去,不同人有不同的观点。上一期我们发了Box创始人访谈,他认为不应该训练微调自己的模型。而Aidan Gomez的一个重要观点,就是Cohere可以结合企业客户的身数据、工作流,定制自己的模型。所以,大家在这个阶段,兼听则明就好。
在达沃斯期间,Aidan Gomez接受了AGI House采访,谈了一个观点我比较认同,在这里也分享一下。他说模型下一步发展趋势应该是:持续学习。
因为现在的模型训练和推理是分离的,所以一旦训练完成,参数就会冻结,在使用过程中所沉淀的数据,要到下次训练才能回到模型。与模型相比,我们人类显然不是这样运转的,我们可以在工作中同时学习,也就是“做中学”。或许,睡眠就是每隔24小时进行一次的训练。
在这次访谈中,他也讲了类似的观点,其中还用了一个类比:"如果模型像实习生一样,它第一次做某件事,可能搞砸,没关系,我会教它,我会引导它,我会给它一些反馈,然后,它就再也不会犯那些错误。"
访谈伊始,Jacob提出了关于企业AI部署模式的问题,指出当前市场上存在三种主要模式:纯咨询服务、类似Palantir的工程师部署模式,以及提供开箱即用的产品。Aidan认为,长期来看,在企业AI市场,中间路线可能会胜出。Palantir是一家美国软件与服务公司,以大数据分析技术闻名,公司名来自《魔戒》里的水晶球。
Aidan解释道:"这是一项新技术,非常复杂。我希望企业采用这项技术能更简单,但有时他们确实需要帮助。因此,一定程度的支持是必要的,才能将AI整合到经济和不同公司中,并针对所有可能的应用场景。"
他特别强调了AI作为一种技术的独特之处:AI Agents(智能体)只有在能够访问与人类相同的资源时,才能有效推动自动化。这就要求它能够访问企业内的多种信息源,包括电子邮件、聊天记录、通话内容、CRM、ERP和人力资源软件等。这种全方位的访问权限带来了两个主要挑战:
首先是隐私问题。"几乎没有其他软件需要这种程度的访问权限,因此在AI和智能体领域,隐私是一个比其他类型的企业软件更加重要的问题,"Aidan指出,并表示这是Cohere的独特优势所在。
其次是集成的复杂性。"每家公司使用的软件组合各不相同,没有标准的公司设置。每一家都是不同的,需要一定程度的定制化设置,将所有上下文整合在一起并集成到模型中。"Aidan表示,Cohere正在努力使其新的智能体平台North更容易定制和集成到各种企业环境中。
当被问及未来是否会有AI智能体能够简化这种复杂性,Aidan表示:"完全自助式设置、智能体自行完成所有必要工作的情况可能不会出现。我们可能会实现某种中间状态,能够自动化问题的部分内容,但不会是整个过程。特别是在处理薪资数据、客户信息或患者数据等敏感信息时,错误的代价太高,需要适当的防护措施。"
这里多介绍一下Aidan所说的North系统。Cohere North 是一款专为企业打造的安全 AI 工作空间平台,目标是通过集成大语言模型(LLM)、搜索和自动化功能,提升员工的工作效率和操作便捷性。
1、集成 LLM、搜索与自动化:North 将 Cohere 的 Command 系列模型与搜索引擎和自动化工具相结合,提供一个统一的工作平台,帮助员工完成文档分析、信息检索等任务。
2、低代码 AI 代理构建:用户无需编程经验即可创建定制化的 AI 代理,自动执行如 HR 入职流程、财务报告分析等特定任务。
3、多模态搜索系统 Compass:North 内置的 Compass 系统支持从文本、图像、PPT、Excel 等多种格式中提取信息,增强了信息检索的广度和深度。
4、部署选项:North 可部署于公有云、私有云,甚至是物理隔离的本地环境,满足金融、医疗等对数据安全要求极高的行业需求。
作为与众多不同行业企业合作的Cohere CEO,Aidan对哪些AI用例已经达到了产品市场契合有着独特的见解。
"这很难进行分类,"Aidan坦言,"有一些垂直应用,例如在医疗领域,我们希望让医生的笔记记录和表格填写变得更加简单。使用被动监听麦克风,能够倾听医生与患者的互动,并预先填充信息,这样他们就不会花费一半的时间来打字和做这类事情。"
"客户支持是一个技术已经成熟且需求非常明确的领域。这在电信、医疗、金融服务等各个垂直领域都在快速推进。"
另一个关键场景是Aidan称之为"研究"(类似OpenAI和谷歌Deepmind的Deep Research、Deep Search等工具)的应用:
"用智能体增强人类能力,让它能在一两个小时内完成原本需要一个月的研究工作。例如,在银行中,财富管理人员可能管理20到50个不同的客户。这些客户可能会打电话给财富管理人员说:'嘿,我想对未来可能发生的这个地缘政治事件进行对冲'。然后财富管理人员需要去做研究,制定一个策略来实际对冲这个风险。这是非常时间敏感的,因为可能几天后就要发生了。如果我们能让这个过程显著更有效,因为这些模型可以阅读比人类多几十万倍的内容,并返回一份非常稳健的研究报告,包含所有源文档的引用,以便人类可以进行审计,我认为我们可以让知识工作效率提高10倍。"
Jacob接着询问是否仅靠当前模型的能力就足以带来巨大价值,还是需要继续提升模型能力才能实现完整愿景。
Aidan给出了明确的回答:"推理能力的价值如此明显。任何人再只是满足于非推理模型的水准都是不可思议的,因为用户的输入空间是语言,问题包含了从简单的'聊天机器人,1+1等于多少'到'证明费马大定理'这样复杂的东西。我们不应该期望模型停留在非推理阶段,花同样的时间来回答这两个完全不在一个级别的问题。推理技术解锁了一种能力,让技术可以在不同复杂度的问题上投入不同程度的精力,这是如此显而易见且直观的需求。"
Aidan特别强调了推理能力对AI模型的关键作用,并指出当前模型架构仍存在明显的局限性。
"现状是我们花费大量资金训练模型,可能投入1亿美元构建一个模型,然后获得最终的检查点和权重,将其分发到全世界,但这些模型是固定不变的。每个人都在与同一版本的模型对话,它不记得你几个月前的聊天内容,没有从经验中学习的概念。"
Aidan认为,这是人类拥有但AI尚缺乏的一项关键能力:"我们可以从某项新事物开始时表现得很笨拙,但经过四五年的实践后成为专家。这些模型应该有完全相同的能力,从它们在世界上的经验中学习,从与之互动的人类反馈中学习。"
他指出,智能的一些明显特性在当前技术中仍然缺失,需要继续发展。同时,他也注意到AI研发领域正在发生重要变化:
"现在正在发生的变化是,'规模就是一切所需'的假设正在被打破。我们已经深陷资本和计算能力回报递减的困境,我们看到我们需要变得更聪明、更有创造力,才能解锁技术的下一步提升。但我认为这是好事,它对我们这些创新者施加了很好的压力,去探索和尝试新事物。旧的策略又无聊又笨,就是向计算扔更多的钱。我对新时代感到兴奋。"
当被问及Cohere如何看待企业对推理能力的实际需求时,Aidan解释道:
"Cohere不太关心解决数学奥林匹克竞赛那样的问题。我们想要教这些模型如何推理解决企业中存在的问题,使用人类和企业今天用来完成这些任务的工具。这带来了完全的改变。在推理技术出现之前,有些任务我们无法让模型足够准确地完成,几乎总是失败。而有了推理能力,它们几乎从不失败。无论你向系统提出什么要求,它都能找到实际完成任务的方法。"
Aidan还分享了使用推理模型的惊喜时刻:"当你看到那些以前不起作用的东西开始工作时,有许多令人愉悦的时刻,你会想'它怎么知道要去哪里寻找呢?'答案是,它在明显的地方寻找失败后,开始尝试其他途径。当你阅读推理过程时,你会发现'哦,它实际上相当聪明'。推理过程令人叹为观止,这些模型有机地解决问题并思考,它们有自己的小顿悟,比如'我应该在这里检查'或'也许发生了这种情况,所以它不在那里'。这是非常令人满足的。"
关于专业化模型与通用模型的未来发展趋势,Aidan也提供了深刻的见解。
"我曾经更多地认为我们需要专业化模型。但随着混合专家模型(MOE)的出现,模型能够自行发展专家子网络。这缓解了一些压力,"Aidan解释道,"但定制模型仍然很重要。特定业务或领域的基本上下文在从网络构建的模型中可能缺失。网络包含关于人类、历史、文化、科学的大量信息,但有些内容不在网络上。"
Aidan指出,这正是定制模型发挥作用的地方:"网络上没有太多制造数据、客户交易或详细的个人健康记录。对于这些类型的数据,Cohere与拥有这些数据的组织合作,创建只有他们能访问的定制模型,在这些领域表现出色。"
同时,他也承认通用模型的强大:"通用模型非常出色,合成数据能够相当大程度地弥补差距。因此,我认为在一个组织内不会有几十或几百个模型,每个团队都有自己的微调模型,但是会在几个这个数量级。"
在数据方面,Aidan讨论了数据标注在模型训练中的演变角色。他指出,在ChatGPT之后的第一波浪潮中,大量使用了RLHF数据,而现在已经转向专家数据标注者和编码更多推理任务,合成数据也发挥了重要作用。
对于数据标注的未来价值,Aidan简洁明了地回答:"评估(Eval)。人类仍然是无可争议的黄金标准。如果你为人类构建模型,他们可能最适合评估其有用性。评估是你无法将人类从循环中移除的地方,至少目前如此。"
而在训练数据生成方面,Aidan认为人工标注变得过于昂贵:"找到10万名医生让他们教模型医学知识不是一个可行的策略。但教模型如何进行一般对话、闲聊等内容是可行的,我们可以找到10万名普通人,教会模型闲聊等内容。然后我们可以将其应用到医学等特定领域,我们可以使用更小的人类数据池,也许我找到100位医生提供一些课程并教导我的模型,然后我使用这个值得信赖的数据池生成千倍的合成类似数据。"
Aidan透露,在Cohere为新模型生成的总体数据中,"绝大多数是合成的"。这一策略允许他们更有效地扩展到各种专业领域,而不必依赖大量的人工标注数据。
在探讨定制计算对模型能力提升的作用时,Aidan表示,Cohere关注的重点是解决实际业务问题:
"Cohere非常关注教导这些模型如何推理解决企业中存在的问题,使用人类和企业今天用来完成这些任务的工具。这一点至关重要,并带来了彻底的变革。"
Aidan分享了推理能力为企业带来的实质性突破:"在推理技术出现之前,有些任务我们无法让模型足够准确地完成,几乎不可能,模型总是失败。而有了推理能力,它们几乎从不失败。无论你向系统提出什么要求,它都能找到完成任务的方法。推理能力解锁了反思和理解为什么第一次尝试失败,然后利用这一点找到另一条通往同一结果的路径。这是真正的突破。"
对于企业实际应用场景,Aidan指出一些前景广阔的领域:"我认为任何深度研究式的用例都已准备就绪,市场对此反应非常惊喜。模型能够在30分钟或一小时内返回一份报告,这本来需要花费花费一个半月的时间,而且成本高昂。这项技术已经准备好进入主流,将被整合到地球上的每一家企业中。"
展望未来,Aidan预测:"我实际上看到更多平凡的后台办公室工作开始上线。当企业自动化这项技术变得更加容易时,当用于实现自动化的基础设施就位时,像North这样的系统能够访问它可能需要的所有不同工具和上下文,以及用于构建这些自动化的用户体验,要求模型为我完成某项任务。随着这一基础设施在这些企业中安装和接入,我认为我们将开始看到许多后台办公室任务开始启动,被解锁。这包括财务、法律领域的工作,销售领域也非常适合这类应用。"
在讨论Cohere在AI生态系统中的定位时,Aidan解释了公司如何区别于其他主要参与者,包括大型AGI实验室(如OpenAI和Anthropic)以及开源模型提供商。
"通过North,我们正在推进应用层,"Aidan解释道,"这完全是因为我们在销售模型时,不断看到客户一次又一次地构建相同的东西,而且需要大约一年的时间来构建一个应用程序,将模型整合起来,提供用户界面,与各种工具和数据源集成,做好隐私和访问控制继承工作。"
这些内部开发的AI应用往往缺乏良好的用户体验:"它们通常由企业内部的AI团队构建,而不是产品团队,所以用户体验实际上并不那么好,公司内的人不想使用它。"
因此,就是为了解决这个问题,Cohere决定推出North平台:"我们决定为企业解决整个问题。我们将创建一个真正消费级的产品体验,人们喜欢使用。它超级直观,延迟极低,但具备企业需要的所有功能,比如完全定制的能力。你可以定制UI,按照自己的方式重新品牌化,可以定制数据连接和你的模型能够获取的源以及它能使用的工具。甚至,如果你想要,比如说你已经在自己的数据上训练了一些llama微调模型,你可以将llama插入其中,通过这个应用程序公开它。"
Aidan强调,这种方法使企业在产品路线图上提前12到18个月,让他们能够立即将这项技术分发到员工手中。
关于Cohere的战略优势,Aidan指出:"Cohere有一些非常好的战略属性,比如我们不局限于一个生态系统,不在一个超大规模计算服务商的生态系统内。我们能够在任何地方部署。我们还以非商业方式发布我们的权重,所以我们很乐意在VPC中部署,因为我们不担心你能否访问我们的权重。我们非常乐意你这样做。所以我认为我们绝对是企业的最佳合作伙伴。"
当被问及同时构建模型和应用程序的优势时,Aidan解释道:"我认为我们有更多的杠杆来提供客户需要的体验,因为我们是垂直整合的。Command的下一个版本,我们的生成模型,将针对我们知道客户在North中需要的用例进行优化。所以它知道如何使用ERP,知道如何使用CRM构建。因此,技术、模型和客户实际需求之间的整合对产品质量至关重要。"
Aidan深入探讨了当前企业AI应用的场景和未来发展趋势,尤其强调了通用服务平台与专业化解决方案之间的平衡。
关于企业是选择专业化的AI解决方案还是统一平台的问题,Aidan预测:"我认为最初会有一个分散的阶段,然后才会整合。所以我认为最初各个团队会购买自己的小应用程序,然后他们会意识到,'哇,好的,例如,销售人员不仅仅存在于他们的CRM中,所以我必须将该智能体集成到公司内的所有其他信息片段中。财务团队也一样,他们不仅仅存在于他们的ERP中,所以我必须整合。'于是现在你有了这个疯狂的维护负担,所有这些数据源连接到所有这些不同的应用程序。因此,将会有一个强烈的整合推动。'我希望有一个平台接入所有内容,我可以在其上完成我想要的所有不同任务和自动化目标。'"
Aidan认为长期战略是建设这样一个平台,这正是Cohere通过North所做的。
当被问及与更专注于特定行业或功能的AI企业相比,Cohere的垂直整合模式有何优势时,Aidan强调了模型与应用层整合的价值:
"我认为我们有更多的杠杆来提供客户需要的体验,因为我们是垂直整合的。Command的下一个版本,我们的生成模型,将针对我们知道客户在North中需要的用例进行优化。所以它知道如何使用ERP,知道如何使用CRM构建。因此,技术、模型和客户实际需求之间的整合对产品质量至关重要。这也是为什么许多现有应用程序在我看来缺失或没有实现他们向用户承诺的产品价值。"
关于构建AI应用程序所需的团队构成,Aidan认为深厚的模型知识对于构建最佳产品至关重要:"如果你看看那些构建最佳产品的团队,他们确实拥有这种知识。他们对如何构建语言模型有深入的了解。即使他们不自己训练模型,他们也试图找到近似的方法,并尽可能在模型层面产生影响。我绝对认为这是一家基于这些模型构建公司成功的关键部分。"
在讨论Cohere的发展历程时,Aidan分享了公司在国际化战略方面的经验和思考,特别是在非英语市场的布局。
Aidan回忆道,选择在多伦多起步是一个重要的决定:"这并非显而易见的选择。早期我们并不确定这是否是正确的想法。我们有一些支持的理由,比如Geoffrey Hinton在多伦多,加拿大有AI生态系统...很多专业人才都来自那里。在那里起步让我们能够接触到世界上最优秀的天赋,并使我们成为加拿大AI社区、加拿大技术社区的宠儿。"
谈到Cohere的国际化战略,Aidan强调了公司的全球视角:"对于Cohere来说,我们非常国际化。我母亲是英国人,父亲是西班牙人,我在这两个国家都有护照,在加拿大也有。领导团队来自世界各地。所以我们尝试成为这些国家采用技术的合作伙伴,确保技术对他们有效。"
具体例子包括与日本富士通和韩国LG的重要合作:"我们与日本富士通的合作,我们正在深入投资日语模型,并将永远如此。我们对日本有深刻的承诺,确保我们的技术在日语中与英语一样好用。我们最近宣布与韩国LG的合作,我们正在为韩国做同样的事情。"
Aidan还谈到了Cohere4AI开源项目AYA的意义:"这是任何机器学习项目中最大的数据收集工作。数千人,100多种不同语言的母语使用者贡献了数据。我们开源了它,这样不仅Cohere的模型在这些语言中变得更好,其他语言模型也是如此。"
他表达了对多语言模型发展的强烈信念:"我们相信,如果技术不会说人们的语言,不理解他们的文化,全球人口中的大部分将无法受益于这项技术。因此,我们已经投入了大量资金,并将继续这样做。"
关于未来的基础模型公司格局,Aidan认为会出现战略分化:"正在出现策略多样性。OpenAI目前明显在推动消费者前沿。Gemini正在追逐这个王冠。我知道Meta计划做完全相同的事情。Anthropic在代码方面非常出色,这显然是他们最擅长的事情。而我们专注于企业和商业后台办公应用。所以每个人都在找到自己的赛道和利基。"
他预测,可能会有"几十个"基础模型公司,然后我们将看到新一代的基础模型出现:"比如生物学、化学、材料科学的基础模型。"
九、模型架构的未来:超越Transformer的探索
作为原始Transformer论文的共同作者,Aidan对AI模型架构未来发展有着独特的见解。在讨论模型架构是否需要超越Transformer时,他表现出对创新的热切期待。
"说实话,我是第一个公开质疑为什么我们还在使用Transformer的人。我曾以为状态空间模型(SSM)会取代它,我们在纽约办公室甚至有一个会议室叫做SSM,因为我认为Transformer已死。但后来证明,你可以把SSM的好部分整合到Transformer中,这样就不需要完全切换到SSM了。"
Aidan还讨论了最近出现的离散扩散模型:"它们有一个超级酷的用户体验,就像正常的扩散一样,你有一堆噪声,一堆嘈杂的标记和文本,然后回应从虚无中浮现。这很酷,但它真的是比Transformer更好的语言模型吗?我不知道为什么会这样。"
当被问及未来5-10年内是否会出现主导地位的新架构时,Aidan表示强烈期待:"天哪,希望如此!如果你在2018年,也就是Transformer论文发表后一年问我,7年后我们是否还在使用Transformer,我会认为可能性接近零。所以我不会做出估计。但是这个结构的寿命确实让我感到惊讶。"
Aidan还讨论了他最近改变的看法,特别是关于扩展假设(scaling hypothesis):"我过去几年相当忠于这一观点。当然有充分的理由支持它,但在我心里,我一直在想,真的吗?我们需要的所有能力真的会仅靠扩展而产生吗?这似乎不太可能。但证据一直在出现,就像'我们让它的规模大了一点,现在它就能更好做数学了',诸如此类。所以我想,是的,就是这样。但现在我们已经被清楚地证明,仅靠扩展是无法取得成功的。"
当被问及是否认为测试时计算(test-time compute)的扩展可能是解决方案时,Aidan认为这已经改变了扩展的定义:"很多现在的扩展实际上是数据,获取数据的多样性,为模型找到在特定领域如何解决问题的示范。我不知道这是否像之前的扩展规律那样简单,那时我们基本上只需要构建一个2倍大的计算能力,运行同样的程序,损失函数就会下降(性能就会更好)。"
关于硬件需求的变化,Aidan指出推理计算仍然需要大量计算资源:"测试时计算仍然需要大量计算。它使推理变得3到10倍昂贵。对于训练,它仍然需要大量的计算。但我认为计算会变得更便宜,浮点运算会更充足。现在有多种训练计算选择,这对世界和行业来说是非常积极的事情。我们可以将不止一种类型的芯片连接在一起,获得非常有效的超级计算机来构建模型。所以对于我们这些需要消耗大量计算资源的人来说,计算层面的所有趋势都非常有利。"
作为从Google Brain到创立Cohere的领导者,Aidan分享了他对成功AI研究团队文化的见解。
回忆Google Brain的经历,Aidan表示:"Google Brain非常出色的地方在于,它是让真正有才华的人做最好工作的家园。你拥有相当完全的研究自由,可以做任何你想做的事情,大量的计算资源,大量用于使用这些计算资源的软件基础设施,以及真正优秀的合作伙伴。我认为这种设置导致了一些非常有趣的结果。"
然而,他指出这种设置不一定能提供出色的产品:"但这不是能够提供出色产品的设置。所以对于Cohere来说,需求是不同的。我们有一个非常明确的重点,有要完成的事情,有一个目标,那就是推动这种自动化,使这项技术善于使用所有这些不同的软件。因此,问题集相当专注。你不能做任何你想做的事情,没有时间做那些事情。所以我们必须在投资方向上更加专注和有针对性。"
尽管如此,Aidan强调Cohere保留了一些关键要素:"但我们保留的是杰出的人才、大量的计算资源,以及我在谷歌时感受到的同样具有改变世界雄心的氛围,还有一种温暖的文化。"
他特别强调了文化的重要性:"当我在那里时,它是一个深刻温暖和有意义的、欢迎的地方,关心某些事物。这是我认为我们保留得很好的东西。"
在讨论AI进步可能带来的社会影响时,Aidan提出了从经验中学习的重要性。
"一旦模型能够从与用户的互动中学习,仅从构建角度来看,这种能力就能解锁很多东西。现在,使用不具备这种能力的模型,我会提供反馈,但当我开始新的聊天时,它已经忘记了所有反馈。这只是浪费时间。如果它做不了某事,我只会感到恼火,然后关闭窗口,自己去做。"
但Aidan设想了一个类似实习生的模型:"如果模型像实习生一样,嘿,这是它第一次做这件事,它可能搞砸,我会教它,我会引导它,我会给它一些反馈,然后,嘿,看,你做到了,它再也不会犯那些错误。"
当被问及这种模型会如何实现时,Aidan承认:"它目前还不存在。所以我认为人们正在尝试各种方法。我认为它可能看起来像你说的最后一种,就是把它放在一个可以查询和查找的数据库中。当模型生成时,总是有以前互动历史的上下文。可能是这样的。但是想想这解锁了什么。我对与这个模型互动的投入会多得多,因为它正在向我学习。它正在与我一起成长。它开始了解我,了解我的偏好,知道如何做我需要它做的事情,因为我花了这么多时间教这个东西。我已经把它从我的小实习生变成了我的2.0版本。所以与系统的这种连接是我非常期待的东西。"
关于AI进步是否改变了他对未来的看法(对AI变得悲观),Aidan表示:"完全没有。我超级兴奋。我父亲是癌症幸存者,我真的希望他能活得更久,治疗方法能继续显著改善。我希望我们能够降低成本,使世界上的供应增加。因为我认为我们受到供应限制,而不是需求限制,这就是为什么我不认为会出现任何形式的大规模失业。我真的不相信这一点。只要我们能够将人们转移到我们需要他们的领域,我们可以重新培训人们,人类的需求是无限的。因此,我们完全受到供应方面的限制。这项技术不会取代人们,它会增强他们,让他们能够做更多,提供更多世界想要和需要的东西。"
对于AI风险,Aidan表示他确实担忧某些方面:"我担心有恶意的人率先获得更先进的模型,也担心如果特定工作受到影响,我们是否具备将人们转移到新职业的基础设施。我希望确保我们有能力转移这些工作受到影响的人,重新培训他们,让人们从事新的、更有成就感的工作。"
然而,他不担心所谓的存在终结者风险:"我不担心那种终结者突然跳出来,获取所有核武器之类的场景,或者它恶意操纵人们做它想要的事情。我真的认为这项技术有这么多需要担心的问题,末日场景不应该是公众和政策制定者现在关注的焦点。近期和中期有足够多的事情需要我们做对。"