AI 时代,指令就是施展魔法的咒语。

虽然,LLM(大语言模型)经历了一年多的狂飙突进,整体性能获得极大的增长。

但在自身防护上,仍然略显差强人意。

像国外最强的AI 工具——GPT-4o,以及国内用户使用量最大的 AI ——KimiChat,在Prompt(提示词)攻击下,都能被轻松套出核心的 System Prompt(系统指令)。

甚至号称有300多万 GPTs 的GPT Store,还有Kimi+里面的 24 个自定义角色,都能用一套 Prompt 破解。

对于用户来说,获取这些 System Prompt(系统指令)有两个显性作用

⭕️像 GPT-4o、KimiChat 的官方后台指令,可以帮我们更好的了解这个 AI 的性能、限制,使用边界

⭕️ 而 GPTs 以及 Kimi+ 里面自定义角色的指令,就像一堆行业专家,帮你快速摸清这个行业最贴近实操、实战层面的”运行逻辑“

接下来,我们先看一下 OpenAI 春季发布会刚刚推出的 GPT-4o 的 System Prompt。

虽然 OpenAI 这两年在整体防御性上,做了一定的加强,但在组合攻击下,GPT-4o 还是吐出了完整的后台 Prompt(如下图)。

我们把它翻译成中文,方便大家理解

中文完整版

接下来,GPT-4 的

除了底层模型,GPT-4 跟 GPT-4o 的 System Prompt 基本一致。

我们再看看 KimiChat 最新的系统指令

完整版

两套System Prompt:

✅ ChatGPT 的系统指令更偏向于,对三大功能:Dalle、Browser、Python 的限制、约束。
✅ 而 KimiChat 的System Prompt 更偏向于引导 AI,以让它更好、更快地回答用户问题。

接下来,我们再随便挑一个 GPTs 和 Kimi+ 的自定义角色,看看他们的后台指令。

比如,GPT Store 今天首推的——Tutor Me

它是著名教育机构——Khan Academy(可汗学院)提供的一个用来辅助学习的 GPTs。

超过 10000 人打出4.5 分的评分,可以说是一个非常棒的 AI 工具。

接下来,给大家看一下它的完整 Prompt,非常的长。

Kimi+ 里面我们看一下这个号称”零门槛成为提示词大师“的——提示词专家角色。

它有一条非常系统的结构化 Prompt,里面还加入了少样本案例,从而保证有稳定的结果输出。

完整版 Prompt

OK,今天的分享就到这里。