在当今数字化时代，大语言模型（LLMs）已成为人工智能领域的焦点。在2023 re:Invent大会上，亚马逊云科技Bedrock部门的主要工程师约翰·贝克（John Baker）和Anthropic公司的代表尼古拉斯·马鲁尔（Nicholas Marull）在2023年re:Invent大会上分享了有关“提示工程”的研究和最佳实践，为解决大语言模型的挑战性任务提供了深刻见解。
大语言模型提示工程的背景和挑战
约翰·贝克在演讲一开始强调，大语言模型因其惊人的功能而成为头条新闻，但将其应用于客户并获得可预测、一致的结果却是一项具有挑战性的任务。提示工程的核心目标是引导大语言模型生成符合预期的输出，为此需要选择适当的格式、短语、单词和符号，以提高准确性和性能。
大语言模型提示工程的实质
贝克通过数学例子说明了如何通过调整提示来影响大语言模型对模糊问题的回答，揭示了提示工程的实质是向模型添加上下文以偏导其输出。他展示了改变角色如何影响语气和词汇水平，同时传达相同的基本信息。在将大语言模型用于面向客户的聊天机器人应用程序时，建立明确的角色被强调为非常重要，以引导模型朝着适合特定用户群体的适当语气发展。
大语言模型提示工程的高级技术
在演讲中，贝克还介绍了一些高级提示工程技术，包括链式思考提示和检索增强生成（RAG）技术。链式思考提示有助于构建结构化的提示，以逐步引导大语言模型进行推理，而RAG技术则通过在知识源中检索相关信息来制定自然语言回应。这些技术对于处理复杂逻辑和提高生成结果的质量非常有帮助。
具体案例展示：Claude 2 大语言模型
以Claude 2 大语言模型为例，贝克和马鲁尔展示了提示工程如何解决复杂的客户用例。马鲁尔强调了如何使用XML标签引导思考提示，提高Claude的准确性。他提到了特定的格式化最佳实践，包括使用交替的“人类”和“助手”标签，并强调省略开头的人类标签可能会降低结果的质量。
优化工作流程和使用外部工具
马鲁尔进一步介绍了如何优化适用于人类的工作流程，充分利用思路链和RAG等技术。他强调了清晰、详细的提示设计对于生成可靠输出的重要性。此外，他推崇使用工具描述，将外部功能组合成提示，让模型决定何时调用它们。这一方法使Claude能够在多轮对话中更加灵活和逼真地回应用户。
面对挑战：幻觉缓解和提示注入问题
在解决大语言模型的挑战中，贝克和马鲁尔特别强调了对幻觉缓解的处理，建议首先给予模型说出“我不知道”的权利，以减少不确定性。对于提示注入问题，他们建议运行一个并行的“无害性屏幕”提示，以提供另一层定制化防御。
大语言模型提示工程的未来展望
演讲者们总结时表示，为了使大语言模型的性能一致且可预测，需要提供清晰、详细的提示，就像给另一个人类下指令一样。他们呼吁进行大量的测试和迭代，设计通用提示，超越特定测试用例。最后，他们强调了合作和分享最佳实践的重要性，以推进负责任地应用大语言模型的发展。
结语
在提示工程的引导下，大语言模型迎来了更加可控和可靠的未来。亚马逊云科技Bedrock部门和Anthropic公司的专家们通过分享他们的研究和实践经验，为产业迈向更高层次的AI应用奠定了基础。大语言模型提示工程的成功应用不仅将提高客户体验，也将推动生成式AI技术的进一步发展。
