Claude隐形水印落地选词概率层 生成式AI内容溯源迎来新范式

Anthropic近期为Claude大模型上线了全新的隐形水印技术,打破了传统在文本格式、字体层面嵌入标记的常规思路,转而将溯源标记直接写入模型的选词概率逻辑当中。当模型在多义词、同义表达之间做随机选择时,会按照预设的加密序列输出特定词汇,即便用户对文本进行轻度编辑、大段重写,也很难破坏底层的水印规律,只有进行大规模的破坏性改写才能彻底抹除溯源痕迹。欧盟《人工智能法案》第50条在8月2日正式落地,明确要求生成式大模型必须搭载机器可读的内容溯源标记,Google、OpenAI以及国内的《人工智能生成合成内容识别方法》相关规范,也同步将水印溯源的覆盖范围从图片、音频延伸到了文本领域。这套新水印方案可以精准证明Claude参与了内容生成,即便无法区分是全篇AI生成还是仅做了辅助翻译、润色,也会让客户开始质疑“既然AI能写,为什么还要付费”。行业专家刘润指出,AI已经把基础答案库的价值彻底打穿,未来交付物的核心竞争力,必须叠加大模型无法产出的部分:比如数据可信度判断、路径取舍、资源代价测算这类依赖人的经验做出的决策判断,单纯堆叠文字的劳动会快速贬值,能帮用户做出更优选择的“人的判断力”,才是未来行业真正保值的核心能力。

© 版权声明

相关文章

暂无评论

暂无评论...