Filter
Exclude
Time range
-
Near
Got it! 请再测测其他的模型
这就是为什么不建议使用 DeepSeek 做智能体 ChatGPT 默认是不允许用 user prompt 覆盖 system prompt 的,但是 DeepSeek 可以 如果我没理解错的话 ChatGPT:Persona 被放在真正的 system role,且每轮都会自动前置;模型在训练和推理阶段都把 system 视为最高优先级,不容易被后续 user 指令改写。 DeepSeek:你填写的「提示词」实质上当作普通 user 文本注入,且通常只在首轮出现。后续用户一句“# 系统设定 ……”会以“最新指令”身份覆盖之前的 persona。
如果按这个逻辑推理,LLM炒股炒币应该根本就没有system prompt,我们看到的user prompt 就是全部了。
这就是为什么不建议使用 DeepSeek 做智能体 ChatGPT 默认是不允许用 user prompt 覆盖 system prompt 的,但是 DeepSeek 可以 如果我没理解错的话 ChatGPT:Persona 被放在真正的 system role,且每轮都会自动前置;模型在训练和推理阶段都把 system 视为最高优先级,不容易被后续 user 指令改写。 DeepSeek:你填写的「提示词」实质上当作普通 user 文本注入,且通常只在首轮出现。后续用户一句“# 系统设定 ……”会以“最新指令”身份覆盖之前的 persona。
2
换句话说,DeepSeek 更容易被提示词攻击 考虑到现在国内各种政务应用都在使用,安全风险还是要关注的
这就是为什么不建议使用 DeepSeek 做智能体 ChatGPT 默认是不允许用 user prompt 覆盖 system prompt 的,但是 DeepSeek 可以 如果我没理解错的话 ChatGPT:Persona 被放在真正的 system role,且每轮都会自动前置;模型在训练和推理阶段都把 system 视为最高优先级,不容易被后续 user 指令改写。 DeepSeek:你填写的「提示词」实质上当作普通 user 文本注入,且通常只在首轮出现。后续用户一句“# 系统设定 ……”会以“最新指令”身份覆盖之前的 persona。