OpenAI测试隐私保护处理技术
不查阅客户提示词和回复即可侦测攻击
Anthropic保存客户数据30天
上市前夕争夺企业级人工智能市场主导权
OpenAI与Anthropic在企业级人工智能市场提出了不同的数据管理策略。双方的目标同样是侦测人工智能代理执行的长期网络攻击，但在客户数据的保存方式上采取了截然相反的做法。
据业界8月22日消息，OpenAI正面向部分客户验证一项名为“隐私保护处理”的技术。该技术不会查阅或存储用户的提示词及回复，而是自动侦测网络攻击和模型滥用迹象。OpenAI计划于9月扩大该技术的适用范围，并公开技术白皮书。
其背景在于，随着人工智能发展为能够执行复杂任务的代理，必须关联多段对话才能发现的网络风险正不断增加。例如，单独来看可能只是员工的正常提问，但如果在多段对话中询问软件漏洞、远程访问及规避安全检测的方法等，则可能是长期黑客攻击企图的一部分。OpenAI产品政策负责人Alea Howes表示：“对于前沿模型而言，风险往往并非在只查看单一提示词和回复时显现，而是在按照时间顺序观察多次互动时才会暴露。”
这项技术在不留存客户数据的同时，弥补了既有零数据保留机制难以识别跨多段对话风险的局限。数据仍存放于客户控制的基础设施中，自动化系统对多次互动进行分析，且不保存实际提示词与回复，仅传递风险类型、严重程度等有限信号。其特点是既遵守数据不留存原则，也能够侦测长期攻击及人工智能代理的异常运行。
Anthropic：“须保存30天才能侦测网络攻击”
![[走进人工智能世界]“不查看客户数据”vs“保存30天”……OpenAI与Anthropic选择分歧](http://www.asiae.co.kr/news/img_view.htm?img=2026082115332888659_1787294008.jpg)
另一方面，Anthropic于6月规定，必须将其顶级模型Claude Fable 5和Mythos 5的使用记录保存30天。其理由是，仅凭单个问题难以识别网络攻击，必须分析一段时期内的记录。Anthropic在本月发布的风险报告中说明，公司发现了利用被盗账户或应用程序接口密钥，针对企业系统和数据等发起的攻击；其中部分攻击正是因综合分析了随时间累积的多项请求才得以侦测，这也成为其数据保存政策的依据。
不过，使用Anthropic模型的客户企业对将源代码、客户信息等内部机密资料交由外部服务商保存表示担忧。据悉，微软因认为Anthropic的政策存在问题，已限制部分员工使用Fable 5，并对相关法律影响进行了评估。
Anthropic于20日当地时间表示，计划在维持30天保存原则的同时修改政策，允许将数据存放在客户企业自有云端。该方案将在保留安全监控所需记录的同时，将数据存储地点及控制权交由客户掌握。
外媒解读称，两家公司正值上市前夕，正在争夺企业级人工智能市场的主导权。《华尔街日报》评价称，OpenAI的新技术旨在吸引对Anthropic数据保存政策不满的企业客户。企业级人工智能市场中，除模型性能与价格外，数据和安全等因素也正成为客户新的选择标准。
不过，也有观点指出，不能仅以保存与删除来判断数据保护。另有分析认为，未来竞争将超越是否保存数据，扩展至确保处理过程安全性及事后可追溯性的方向。云安全联盟强调：“从数据收集、传输到推理、存储及销毁的整个生命周期，都应实施加密和访问权限控制。”
版权所有 © 阿视亚经济。未经许可不得转载，禁止用于AI训练及使用。
