截止日期日益紧迫,文档堆积如山,代码审查所需时间似乎也随之变长。如今市场需求比以往任何时候都更为强劲,"比以往更快完成工作"的期望让浏览器标签页里唾手可得的AI辅助工具变得难以抗拒。

问题在于,"浏览器标签页里唾手可得"通常意味着ChatGPT,而ChatGPT意味着OpenAI的服务器,OpenAI的服务器则意味着你专有的运动控制算法,或客户的机密信息,已不再完全属于你自己掌控。

2023年,三星工程师因将机密半导体代码和内部会议记录直接粘贴到ChatGPT中而意外泄露,由此成为新闻焦点。三星随后在内部禁用了该工具。多数机器人企业尚未经历过类似的危机时刻,而有些企业甚至没有从这家科技巨头的失误中吸取教训。

真正流出的是什么

日常工作负荷的密集程度是最大的问题所在。调试代码、起草客户集成规范、汇总数月的竞品研究、整理内部测试结果的文档——所有这些工作都有理由让人想求助于AI助手,而所有这些工作所涉及的信息,一旦落入错误之手都会造成实质性损害。

此外,AI正在改变客户对"快速交付"的期望标准。

OpenAI的服务条款规定,除非用户通过企业设置主动选择退出,否则提示词内容可用于改进其模型,而许多使用免费版或标准版账户的员工根本无法访问这一设置。"政策存在"与"团队知晓该政策并已正确配置"之间的差距,正是大多数信息暴露风险产生的根源。

责任疑云

未经明确授权便通过消费级AI产品传输客户数据,可能构成违约,或违反企业在项目启动前签署的保密协议条款。

还有一个行业特定的角度。为医疗保健或关键基础设施建造机器人的公司,无论数据泄露是否出于故意,都须遵守相关数据监管规定。"工程师使用了免费聊天机器人"这种说辞,往往站不住脚。

这种风险暴露通常是隐性的,直到事情败露才会显现。当工程师将一份电路图粘贴进聊天机器人时,不会有任何警报响起。企业察觉此事,往往是在客户发现问题之后,或是在竞争对手的产品显得异常相似之时。

(出人意料地)显而易见的解决方案

转向以隐私优先架构构建的ChatGPT替代方案,能够显著改变风险状况。由于这类平台不会将用户数据用于训练目的,工程师依然能获得他们所期望的生产力提升,却不必承受相应的负面影响。

落实这一方案的理由往往比阐述安全问题的理由更简单。相比向工程师解释为什么他们的工作流程需要改变,"我们因法务团队提出警示而转换平台"这种内部沟通显然更容易进行。

Q&A

Q1:机器人企业使用ChatGPT有哪些风险?

A:工程师若将专有算法、客户机密信息或内部测试数据直接粘贴进ChatGPT,这些信息可能被用于训练模型,导致机密泄露,进而违反合同或保密协议条款。

Q2:为什么三星工程师使用ChatGPT引发了问题?

A:2023年三星工程师不慎将机密半导体代码和内部会议记录粘贴到ChatGPT中,造成信息泄露,三星随后在内部禁用了该工具。

Q3:企业该如何降低AI使用带来的信息泄露风险?

A:转向以隐私优先架构构建的ChatGPT替代方案是较为有效的解决办法,这类平台不会将用户数据用于训练,能让员工在获得AI生产力优势的同时避免信息泄露风险。

Robotics and Automation News