科技媒体 Techcrunch 昨日（8 月 26 日）报道，Anthropic 公司公开了 Claude AI 模型的“系统提示词”（system prompts）。

系统提示词（System prompt）

为了让 AI 模型更好地理解人类指令，提示词（Prompt）工程实际上包含 2 层核心内容，用户提示词（User prompt）和系统提示词（System prompt）：

用户提示词：用户输入的提示词，然后 AI 模型基于用户提示词生成答案。

系统提示词：这是由系统生成的提示，通常用于设定对话的背景、提供指导或规定规则。

注：通常情况下，系统提示词会让模型了解自己的基本素质，以及应该做什么、不应该做什么。

业内常规做法

从 OpenAI 到 Anthropic，每一家生成式人工智能厂商都会使用系统提示来防止（或至少试图防止）模型出现不良行为，并引导模型回复的总体语气和情绪。

例如，系统提示词可能会告诉模型，它应该礼貌但绝不能道歉，或者坦诚地承认它不可能知道所有事情。

但厂商可能是出于竞争等方面原因，以及避免不良用户在了解这些信息后绕过安全防护，通常保密这些系统提示词。

Anthropic 选择公开系统提示词

不过，Anthropic 一直在努力将自己描绘成一家更道德、更透明的人工智能供应商，它已在 Claude iOS 和 Android应用程序以及网络上公布了其最新模型（Claude 3.5 Opus、Sonnet 和 Haiku）的系统提示。

Anthropic 开发者关系负责人亚历克斯 艾伯特（Alex Albert）在 X 上发表的一篇文章中说，Anthropic 计划在更新和微调系统提示的过程中，定期公布此类信息。