/
深度剖析偏好机制背后的隐藏逻辑：多领域概念解释框架如何帮助我们理解GPT-4与人类判断的根本差异？——来自Technion和IBM的前沿研究
这项研究揭示了大型语言模型（LLMs）偏好决策的内在机制。以色列理工学院和IBM研究院的团队开发了一种自动化方法，不需人工预设即可发现和解释影响AI判断的关键概念。研究横跨八个领域（从一般问答到安全评估），分析了12种偏好机制，发现人类评判者重视权威性和清晰度，而AI评判更关注事实准确性。他们提出的层次多领域回归模型不仅能准确预测偏好，还能清晰解释判断过程，为构建更透明、更符合人类价值观的AI系统提供了新途径。
PATIENTSIM：一位栩栩如生的虚拟患者，让医患沟通更真实——KAIST等多家研究机构联合推出基于个性化角色扮演的医患互动模拟器
PATIENTSIM是韩国科学技术院等机构最新研发的医患交流模拟系统，它突破了传统模拟器的限制，通过四个维度（性格、语言水平、记忆能力和认知混乱程度）构建了37种独特的患者角色。基于MIMIC数据集中的真实临床资料，系统利用Llama 3.3大型语言模型生成真实且多样的患者反应，经临床医生评估获得3.89/4分的高分。作为开源可定制平台，PATIENTSIM为医学教育和AI医生评估提供了安全、可靠且符合隐私规定的解决方案。
图视角解密大模型知识结构：俄勒冈大学研究揭示大语言模型如何组织和存储知识
这项研究首次从图论视角探索大语言模型的知识结构模式，揭示了模型知识的三峰分布特性、节点度数与知识水平的正相关关系，以及知识同质性现象——拓扑位置相近的实体往往具有相似的知识水平。基于这些发现，研究团队开发了图神经网络模型来预测实体知识水平，并证明了这种方法在选择高价值三元组进行模型微调时的有效性，特别是在专业领域知识方面取得了显著提升。
互联网女皇玛丽·米克尔刚发布了一份340页的《人工智能趋势报告》，这里总结了10个核心观点
大模型时代，玛丽·米克尔（Mary Meeker）的名字可能大家不一定熟悉，但是在互联网时代，这位被可被誉为“互联网女皇”的。她是美国风险投资家和前华尔街证券分析师，专注于互联网及新兴技术领域。玛丽·米克尔（Mary Meeker）发了一份340页的《人工智能趋势报告》，粗粗看了一下，并没有非常轰动的观点，但是数据比较全面
是否应该为 Google 的 Veo 3 支付 Gemini Ultra 费用来制作 AI 视频？我的体验告诉你答案
本文评测了 Google 最新 AI 视频生成工具 Veo 3，从音频生成、功能局限、等待时长及费用限制等方面展示其优劣，适合 AI 爱好者体验，但专业创作者可能会感到不便。
大模型能否欺骗CLIP？通过文本更新测试预训练多模态表示的对抗组合能力
首尔国立大学研究团队提出了"多模态对抗组合性"(MAC)基准测试，评估预训练多模态表示(如CLIP)在理解文本与图像、视频、音频关系时的组合性弱点。研究使用大语言模型生成欺骗性文本，通过样本成功率和多样性双重指标进行评估。团队创新性地提出了多样性促进自训练方法，即使使用较小的Llama-3.1-8B模型，也能显著提高攻击成功率和多样性。实验在COCO、MSRVTT和AudioCaps数据集上验证，该方法优于现有技术，并展示了良好的跨模型迁移性，为构建更可靠的多模态系统提供了重要见解。
ChartLens：让图表理解更加透明 —— 从马里兰大学和Adobe研究院联合推出的细粒度视觉归因技术谈起
ChartLens是马里兰大学与Adobe研究院合作开发的创新技术，专门解决多模态大型语言模型在图表理解中的"幻觉"问题。这项研究提出了"后验细粒度视觉归因"方法，能够将AI对图表的分析结果与图表中的具体视觉元素（如特定柱形或数据点）精确关联起来，使AI的回答变得可验证。研究团队还创建了ChartVA-Eval基准测试集，并证明他们的方法比现有技术提高了26-66%的归因准确率，为金融分析、政策制定和科学研究等领域提供了更可靠的图表理解工具。
CrEval：首个跨领域文本创造力评估方案——人大、北师大、快手联合推出创造力评估数据集与评估模型
这篇论文介绍了一个名为"CrEval"的创新框架，用于跨领域评估文本创造力。研究团队构建了"CreataSet"数据集，包含超过10万条人类水平和100多万条合成创意文本，涵盖87个领域。基于此训练的CrEval评估器在与人类判断的一致性上显著优于现有方法，包括GPT-4o。研究发现，结合人类创建的数据和合成数据对训练有效评估器至关重要，且CrEval不仅能评估创造力，还能提升AI模型生成更有创意内容的能力，为创造力评估和提升开辟了新方向。
推理增强的大模型更容易产生幻觉吗？清华和新加坡国立大学团队深度解析
这项研究由清华大学和新加坡国立大学团队完成，系统探讨了大推理模型在事实查询任务中的幻觉问题。研究发现，仅通过单一训练阶段（仅SFT或仅RL）开发的推理模型更容易产生幻觉，而完整SFT+RL流程训练的模型幻觉较少。研究者识别出两种导致幻觉的关键认知行为："错误重复"和"思考-答案不匹配"，并从模型不确定性校准角度揭示了幻觉产生的内在机制，为开发更可靠的推理模型提供了重要指导。
动态适配的无分类器引导：用低置信度掩码提升AI生成质量
这项由香港理工大学和复旦大学联合领导的研究提出了"自适应无分类器引导"(A-CFG)技术，用于改进AI文本生成。传统CFG使用静态无条件输入，而A-CFG能识别模型在生成过程中最不确定的部分，动态地重新掩码这些低置信度标记，创建针对性的无条件输入。实验表明，A-CFG在多种基准测试中显著优于标准CFG，如在GPQA上提升3.9点，在数独任务上提升8.0点，证明了在迭代生成中动态响应模型不确定性的价值。
不信任也不冤枉：如何判断视觉-语言模型预测是否可靠
ETH Zürich等机构研究人员提出TrustVLM框架，解决视觉-语言模型预测可信度问题。该方法利用模型中存在的"模态差距"，创新性地结合图像到文本和图像到图像的相似度，实现无需重新训练即可大幅提升误分类检测性能。在17个数据集的严格测试中，TrustVLM相比现有方法在关键指标上提升显著，同时改善了零样本分类准确率。此成果为AI系统在自动驾驶、医疗等安全关键领域的可靠部署提供了重要保障。
个性化安全：从一刀切到个性定制，华盛顿大学研究团队提出针对大语言模型的个性化安全评估与改进方法
这项研究提出了个性化安全概念，解决大语言模型对不同用户采用统一安全标准的问题。研究团队创建了PENGUIN基准测试集评估模型在处理高风险场景时的个性化安全能力，并开发了RAISE框架高效获取关键用户信息。实验表明，提供用户背景可使安全分数提高43.2%，而RAISE框架通过平均仅2.7次交互即可提高安全分数31.6%。这一创新方法将AI安全从"一刀切"转向"个性定制"，为高风险领域的AI应用提供了新思路。
转弯级助攻：明尼苏达大学团队用回合级信誉分配增强大语言模型智能体的多回合推理能力
明尼苏达大学研究团队提出了一种创新方法，通过回合级信誉分配显著提升大语言模型(LLM)智能体的多回合推理能力。传统方法只对整个过程进行评价，而他们的MT-GRPO算法能够精确评估每个决策步骤的价值，就像为每一步提供具体反馈。在维基百科搜索工具使用场景中，该方法实现了100%的工具执行成功率和50%的答案精确匹配率，远超传统方法。这一突破不仅提高了AI在多步骤任务中的表现，也为开发更复杂的AI系统提供了重要思路。
大语言模型能从真实世界文本中推断因果关系吗？——一项来自伍斯特理工学院与亚马逊通用人工智能团队的探索
这项研究探究大语言模型从真实文本中推断因果关系的能力，创建了首个真实世界基准数据集ReCAST。研究发现，即使最先进模型在此任务上表现也不佳，最高F1分数仅为0.477。模型尤其难以处理隐含因果关系、区分关键因素与背景信息，以及整合长文本中分散的信息。这揭示了当前语言模型在真实世界因果推理方面的重大局限，为未来研究指明了方向。
理解 GPU 服务器及其在数据中心中的角色
文章讨论了 GPU 服务器如何利用并行处理支持 AI 运算，比较了其与传统 CPU 服务器在扩展性、功耗与散热等方面的区别，并指出数据中心须相应升级供电与冷却设施。
IBM 收购数据分析初创公司 Seek AI，在纽约市开设 AI 加速器
IBM 周一宣布收购 AI 数据分析平台 Seek AI，并在纽约启动 Watsonx AI Labs 加速器，以利用自然语言处理技术支持企业数据查询，扩展 AI 解决方案和人才培养。
微软 Bing 推出免费 Sora 驱动的 AI 视频生成器
Bing 视频生成器利用 OpenAI 的 Sora 模型，通过文字提示生成视频。登录微软账户的用户可免费生成10个视频，之后需消耗微软奖励积分。目前仅支持竖屏9:16比例，未来将增加横屏选项。
视角正确吗？用多维精细感知任务解析多模态大语言模型的方向理解能力
波士顿大学研究团队开发的DORI基准测试从四个维度评估多模态大语言模型的物体方向理解能力：正面对齐、旋转变换、相对方向和规范方向感知。研究评估了15个最先进模型，发现即使最佳模型在粗粒度任务上的准确率也仅为54.2%，在细粒度方向判断上更低至33.0%，与人类表现相差近30%。结果表明当前模型在精确角度估计、多视角追踪和理解复合旋转方面存在系统性缺陷，反映了它们内部3D空间表示的根本局限，为未来模型设计提供了明确方向。
Prot2Token：通过下一个标记预测统一蛋白质建模的全新框架
Prot2Token是密苏里大学研究团队开发的一种突破性蛋白质建模框架，它通过将各种蛋白质预测任务转化为统一的下一个标记预测问题，解决了传统方法需要为不同任务开发专门模型的限制。这个框架以自回归解码器为核心，配合预训练蛋白质编码器和任务标记引导，实现了从蛋白质序列到结构、功能和相互作用的多样化预测。实验证明其性能媲美甚至超越专门方法，并在结构预测上比AlphaFold2快1000倍。Prot2Token通过多任务学习促进了不同预测任务间的协同效应，为蛋白质研究提供了高效、通用的计算范式。
京公网安备 11010802021500号
