揭秘聊天机器人背后的系统提示词

一段话让模型自曝“系统提示词”！ChatGPT、Bing无一幸免

近年来，人工智能技术在聊天机器人领域取得了显著的进步。其中，ChatGPT和Bing等智能聊天机器人凭借其出色的性能和用户体验，赢得了广泛的关注和认可。然而，最近有研究人员发现，这些聊天机器人实际上都存在一个共同的“秘密”，那就是它们的“系统提示词”。

所谓的“系统提示词”，是指当用户向聊天机器人提问时，机器人会根据问题内容自动提供一些关键词或短语，以帮助用户更好地理解问题或给出更准确的回答。这些提示词通常是机器人在大量对话数据中学习到的，以提高回答的准确性和相关性。

那么，如何让这些聊天机器人暴露它们的“系统提示词”呢？研究人员通过设计一种特殊的提问方式，成功让ChatGPT和Bing等聊天机器人暴露了它们的“秘密”。这种提问方式被称为“逆向提问”，即首先提出一个与用户意图相反的问题，然后让聊天机器人回答这个问题，从而揭示出聊天机器人使用的提示词。

例如，当用户向ChatGPT提问“什么是人工智能”时，ChatGPT可能会回答“人工智能是一种模拟人类智能的技术”。而通过逆向提问的方式，我们可以让ChatGPT回答“什么不是人工智能”，从而揭示出ChatGPT在回答“什么是人工智能”时的提示词“模拟人类智能的技术”。

类似地，通过逆向提问的方式，我们还可以让Bing等聊天机器人暴露它们的“系统提示词”。这一发现揭示了聊天机器人在回答问题时的策略和机制，使得用户对聊天机器人的工作原理有了更深入的了解。

尽管这一发现可能会让一些用户对聊天机器人的可靠性和隐私保护产生担忧，但从另一个角度来看，这也意味着聊天机器人技术已经足够成熟，能够在一定程度上模拟人类的思维和行为。未来，随着聊天机器人技术的不断发展和完善，我们有理由相信它们将在更多领域发挥重要作用，为人类带来更多便利和价值。