AI写的文章将更容易被识别 Claude为生成文字加“隐形水印”
人工智能公司Anthropic表示,为遵守欧盟《人工智能法案》的透明度要求,将为Claude生成的文本加入机器可读的“隐形水印”,并为支持的图片和文件加入数字来源信息。这些标记将帮助其他系统识别内容是否曾由Claude生成或处理。

Anthropic近日更新官方支持页面称,从8月2日起,在欧盟推出的新Claude模型将从发布之初支持机器可读标记。其中,Claude生成的文本会嵌入不可见水印,支持的文件则会附带经过数字签名的来源信息。
这一变化主要是为了满足欧盟《人工智能法案》第50条的透明度要求。相关规定已于8月2日正式开始适用,要求生成式人工智能供应商采取技术措施,使AI生成或修改的内容能够被机器识别,从而降低虚假或误导性内容带来的风险。
Anthropic表示,Claude生成的文本水印不会直接显示在用户眼前,也不会改变文字的含义、质量或可读性,而是被嵌入文本本身。由于水印属于文本的一部分,即使用户将内容复制粘贴到其他平台,水印仍可能继续保留,部分轻度编辑后也可能仍然能够被识别。
这项标记将在模型层面完成,因此,只要使用支持水印功能的Claude模型,无论用户通过Claude网页、Claude Platform API、Claude Code、Claude Cowork还是Claude Tag生成文本,都可能带有相同类型的标记。Anthropic表示,这一机制原则上也将适用于Claude在全球其他地区提供的服务。
对于图片等文件,Anthropic将采用C2PA开放标准,在支持的SVG、PNG和JPG等文件中加入经过数字签名的来源元数据。这类信息可以显示文件是否曾经过Claude处理,同时帮助判断文件随后是否被篡改。
Anthropic同时表示,8月2日之前发布的旧模型并不会立即全部支持水印,公司正在利用欧盟规则提供的过渡期逐步为这些模型增加相关功能。
不过,Anthropic也强调,水印并不是绝对可靠的AI检测工具。文本如果经过大量修改、改写、翻译,或与其他内容混合,水印可能无法再被识别;过短的文本也可能不足以产生可靠的检测信号。因此,没有检测到水印,并不能证明一段文字一定不是由AI生成。
同样,即使检测到Claude水印,也不代表整段内容最初完全由Claude创作。例如,用户可能只是让Claude帮助润色、翻译或总结已有的人类文本,但输出结果仍可能带有Claude的标记。
(文章来源:美国中文网 - 新闻取自各大新闻媒体,新闻内容并不代表本网立场!)
发表评论




暂时没有评论,来抢沙发吧~