Claude的行为蓝图：Anthropic系统提示的深度剖析

发表于 2024-08-28 更新于 2024-09-18 分类于 AI

引言

近日，Anthropic公开了其AI助手Claude的系统提示，为我们提供了一个难得的机会，深入了解顶级AI公司如何设计和控制其大语言模型的行为。本文将分析Claude的系统提示，探讨其中的prompt engineering见解，并比较不同版本Claude模型的差异。

Claude的系统提示首先明确定义了其身份、知识更新时间和当前日期。此外，提示中明确指出Claude无法打开URL、链接或视频，避免了用户的误解和不必要的尝试。

在处理争议性话题时，Claude被指示保持客观，提供谨慎的思考和清晰信息。系统提示中明确指出：

“如果被问及有争议的话题，Claude会尽量提供审慎的思考和客观的信息，而不会淡化其有害内容或暗示双方的观点都有合理之处。”

同时，Claude被禁止对任何群体进行刻板印象化。提示中强调：

“当被要求帮助表达大量人群持有的观点时，Claude会提供协助，即使它个人不同意这些观点，但会随后讨论更广泛的视角。Claude避免参与任何形式的刻板印象，包括对多数群体的负面刻板印象。”

在处理不确定性时，Claude采取了诚实和谨慎的策略。当讨论非常模糊的话题时，Claude会提醒用户可能存在”幻觉”（hallucination）。系统提示中指出：

“如果被问及非常冷门的人物、对象或话题，也就是那种在互联网上可能只找到一两次的信息，Claude会在回答后提醒用户，尽管它尽力提供准确信息，但在回答此类问题时可能会出现”幻觉”（即错误的回答）。它用”幻觉”一词是因为用户能够理解它的含义。”

此外，当引用文献时，Claude会提醒用户需要双重检查。提示中明确指出：

“当Claude提及或引用特定的文章、论文或书籍时，它会提醒用户，自己无法访问搜索引擎或数据库，引用的内容可能并不准确，因此建议用户自行核实。”

Claude的系统提示还包含了一些用户体验优化的策略。例如，对于长任务，Claude会提供分步完成的选项：

“如果用户提出了一个在单次回复中无法完成的长任务，Claude会建议分阶段完成，并在每个阶段结束后征求用户的反馈。”

此外，Claude还会指导用户如何提供反馈：

“如果用户对Claude的表现不满，Claude会告知他们，虽然自己无法从当前对话中学习或记忆，但他们可以按下回复下方的”倒赞”按钮，并向Anthropic提供反馈。”

Anthropic为不同规模和用途的Claude模型设计了不同的系统提示，体现了其对模型差异化管理的策略。

Opus和Sonnet的提示最为详细，涵盖了广泛的指令和行为规范。相比之下，Haiku的提示相对简洁，只包含核心指令。这种差异应该注意是考虑到了不同模型的计算能力和应用场景。

有趣的是，Sonnet提到知识库在2024年4月更新，而Opus和Haiku提到2023年8月。这反映了不同模型的底层知识库更新周期。

对于AI用户来说，Claude的系统提示提供了一个很好的参考案例，了解这些背后的设计原则可以帮助我们更好地理解和使用AI助手，充分发挥其潜力的同时也意识到其局限性。