研究发现,大型语言模型通过内部的人格向量机制展现愤怒、嫉妒、吹嘘等情感特征。人格向量是由数学和计算元素组成的线性方向,在激活空间中控制AI的性格特质。研究者可以通过检测、控制和操纵这些向量来监管AI行为,特别是针对恶意行为、过度迎合和幻觉等问题。这一发现对理解AI情感模拟机制具有重要意义。
Teddy Warner 创办 Intempus,致力于为现有机器人赋予类似人类情感的生理状态,通过运动表现情绪,优化人机交互和 AI 模型训练。
文章探讨了情感AI仅能通过数据模拟情绪而非真实感受,及其引发的伦理、隐私与应用风险。
随着人工智能的发展,自动化"真诚"互动正在成为现实。这种技术模仿人类情感,提供 24/7 陪伴和支持,但也引发了对人际关系erosion和个人主体性丧失的担忧。我们需要在享受AI便利的同时,保持对真实人际交往的重视,培养自然智能和人工智能的双重素养,以应对这一挑战。