身为一位专业写手，我全心支持让人工智能生成的文本可被检测并标记为人工智能内容。市面上充斥着大量的人工智能生成文本，若能有标签标示，便无需浪费时间去阅读这些内容。然而，Anthropic 最近宣布将遵循欧盟的倡议，对其人工智能 Claude 生成的文本进行水印标记，却是以一种相当独特的方式进行。
目前，Apple 也在为解决人工智能生成影像的问题而准备对应措施，通过一个名为 Apple Reference Image 的功能来进行处理。根据情况，该公司可能也需要对 Siri 的人工智能工具采取类似措施，因为这些工具可用于校对或撰写内容。虽然目前尚无完美的解决方案，就如我上周提到的，使用隐形字符来作为水印的做法并不理想。欧盟倡议中最引人注目的要求是，人工智能公司必须对文本输出和影像进行数字水印。
这可以通过使用隐形字符来完成，例如我刚才用来替代“隐形”和“字符”之间空格的字符。这样的水印能够在复制和粘贴时存活，但通过光学字符识别技术则很容易被破解。
Anthropic 对人工智能文本的独特水印策略
我提到的 Anthropic 的独特做法，建议该公司可能会采取不同的策略。一些人提出，Anthropic 可能会在 Claude 的输出中使用特定的语言模式，以便即使经过光学字符识别后也能进行检测。关于这一点我有许多想法，但这超出了本文的范围。如今，看起来该公司确实在这方面有所行动，因此我有必要发表我的看法！问题不在于 Claude 会在完全由人工智能生成的文本中嵌入这些语言模式；我对此并无异议。
问题在于，有些人会撰写自己的文本，然后利用人工智能聊天机器人进行校对。看来 Claude 会在这种情况下嵌入隐藏水印，即使它仅仅是被要求识别并修正人类所写作品中的语法错误。
这当然是 Siri 人工智能所提供的功能之一。用户可以突出显示自己撰写的文本，按下 Siri 按钮并选择校对选项。诚然，我自己有限的测试显示该功能过于积极。它不仅仅是检测和修正语法错误，还会提出自己的措辞。我希望这一点能够调整得更为柔和，以确保作品绝对属于作者，并且改正的程度不会超过人类编辑的轻微修饰。顺便提及，这也是我测试但最终放弃 Grammarly 的原因：它提出的改变超出了强调语法错误和打字错误的范围，还提供了我根本不会选择使用的措辞。
Apple 在人工智能校对中的挑战与考量
但假设轻微修饰是 Apple 的意图，让人工智能故意扭曲作者所选择的语言以便能够被标记为人工智能内容，显然是不正确的。如果所做的改变仅仅是编辑，将其标记为人工智能内容同样是不当的。至多可以标记为“由人工智能校对”。如我所说，我并不假装拥有所有答案。人工智能聊天机器人日益增长的使用对写作和编辑提出了棘手的问题。人类撰写并经过人工智能编辑的作品，何时应该正确标识为作者与人工智能系统的混合作品？
我所知道的是，故意改变人类作者所选择的措辞，尤其是在该作者仅要求人工智能系统进行校对的情况下，并不是正确的做法。虽然 Apple 肯定需要在适当的时候对此问题作出回应，但我非常希望它能选择一条比 Anthropic 所采取的更明智的路径。