在本文中,我们将一同磋商提示工程的观点、基本要素,以及提示工程面临的寻衅与未来趋势。
提示工程的基本观点提示工程是为 AI 措辞模型设计有效输入的过程,以得到所需的输出。提示工程包括理解模型的能力和局限性,以及用户的目标和期望。提示工程对付探索和开释AI措辞模型的全部潜力至关主要,让 AI 措辞模型可以顺利实行文本天生、择要、问题解答、代码天生等多种任务。当然,这些模型须要须要根据明确而详细的指令才能产生准确、干系和有用的结果。
一样平常来说,提示工程由两个紧张目标:
提示工程的紧张目标是设计基于文本的输入,可以更有效地辅导 AI 模型。提示工程师为模型供应各种输入,然后评估输出结果。如果输出未达到预期的精度水平,提示工程师与开拓职员则会进行合为难刁难模型进行微调。例如,可能哀求模型不得利用任何攻击性语气或避免表达任何政治不雅观点,并且还必须戒备例如提示注入(Prompt injection)之类的安全威胁。
在第二种情形下,根据企业所在的行业编写不同的文本输入,以供应优化结果,同时知足领域哀求。例如,在医疗保健行业, AI 模型不透露任何个人或机密信息至关主要。另一个例子是开拓有效的提示,以充分利用模型,同时利用最少数量的 token 来最大限度地降落利用 AI 模型的本钱。
提示工程 101有效的提示工程须要深入理解大型措辞模型(LLM)的功能和限定,以构建精良的输入提示的能力。同时,提示工程常日涉及仔细选择提示中包含的单词、短语以及输入的整体构造,以实现得到准确回答的目的。纵然对提示进行眇小的修正也会对结果产生重大影响,因此提示工程的系统方法至关主要。
提示工程:关键术语LLM 是一种 AI 模型,经由大量文本数据的演习,可以对自然措辞输入创建类似人类的回答。LLM 以其撰写高质量、连贯的写作能力而著称,这些写作常日与人类的写作没有什么太大差异。这种尖端性能是通过在大型文本语料库(常日有数十亿个单词)上演习 LLM 来实现的,使其能够节制人类措辞的繁芜性。
以下是与提示工程和 LLM 干系的几个关键术语,从 LLM 中利用的紧张算法开始:
Word embedding(词嵌入)是 LLM 中利用的一种基本方法,由于它用于以数字办法表示单词的含义,随后可由 AI 模型进行剖析。Attention mechanisms(把稳力机制) 是一种 LLM 算法,能够结合高下文,让 AI 在创建输出时专注于输入文本的某些元素,例如与情绪干系的短语。Transformer 是 LLM 研究中常见的一种神经网络设计,通过自把稳力技能处理输入数据。Fine-tuning(微调)是通过在较小的干系数据集上进行演习来使 LLM 适应给定事情或主题的过程。Prompt engineering(提示工程)是对 LLM 输入提示的专家设计,以供应高质量、连贯的输出。Interpretability(可阐明性)是指理解和解释 AI 系统的输出和决策的能力,由于其繁芜性,这常日是 LLM 的一个寻衅和持续的研究领域。提示要素解释:提示的紧张目的是为措辞模型供应清晰的解释。高下文:高下文供应额外的信息来帮助措辞模型产生更干系的输出。该信息可以来自外部来源或由用户供应。输入数据:输入数据是用户的查询或要求。输出指示符:指定答案的格式。提示工程:示例让我们看一下来自 Awesome ChatGPT Prompts [1] 的一个大略的提示工程示例。
示例
现在你是一个 Python 阐明器。我会给你 Python 代码,你来实行它,不供应任何阐明。除了代码的输出之外,不要回答任何内容。第一个代码是:“print('hello world!')”
OpenAI Playground [2] 还有很多提示模板,可以查看以学习更准确的提示。
提示工程:角色正如您在这些实例中所看到的,每个问题都包含“角色”,这是辅导谈天机器人的一个主要方面,正如我们在 ChatGPT API 版本中看到的那样。必须建立许多角色:
System: “系统”掌握 assistant 的行为。例如提示“你是 ChatGPT,一个由 OpenAI 演习的大型措辞模型”。尽可能用简短的措辞回答。信息截止日期:{knowledge_cutoff} 当前日期:{current_date} ”User: 用户供应精确的指示。这些信息紧张由运用程序终极用户利用,开拓职员也可以针对某些利用场景对其进行硬编码。Assistant: 助手保存过去的 ChatGPT 答案,也可以是由开拓职员供应的所需行为示例。以下是 ChatGPT API 要求的示例:
response = openai.ChatCompletion.create(model="gpt-3.5-turbo", messages=[{"role": "system", "content": "You are a helpful assistant."}, {"role": "user", "content": "Who won the world series in 2020?"}, {"role": "assistant", "content": "The Los Angeles Dodgers won the World Series in 2020."}, {"role": "user", "content": "Where was it played?"}])
提示工程:参数
除了仔细构建提示的书面部分外,在利用 LLM 时还须要考虑几个提示工程参数。例如,让我们看看 OpenAI Playground 中可用于 GPT-3 Completions 的 API 参数:
Model 模型:用于文本完成的模型,即 text-davinci-003Temperature 采样温度:较高的值会让输出更具随机性,而较低的值输出结果则更集中,更具确定性。Maximum length 最大长度:要天生的最大 token 数量因型号而异,但 ChatGPT 许可在提示和完成之间共享 4000 个 token(约 3000 个单词)(1 个 token = 约 4 个字符)。Stop sequence 停滞序列:API 停滞返答复复的最多四个序列。Top P:指给定决策或预测的最可能选择的概率分布,参数设置为 0.5,表示候选 token 被考虑用于特定输出的积累概率为0.5Frequency penalty 频率惩罚:用于防止模型重复相同的单词或过于频繁地解析。范围常日在-1.0到1.0之间。当设置一个正的频率惩罚值时,ChatGPT会只管即便避免利用常见的单词和短语,而更方向于天生较少见的单词。反之,如果设置一个负的频率惩罚值,ChatGPT将更方向于利用常见的单词和短语。Presence penalty 存在惩罚: 它为某些单词或短语赋值,并根据该值是正还是负,使模型或多或少地天生该单词或短语。此功能可用于微调输出,以包括或打消某些单词或短语。最佳结果 Best of:这在做事器上用于天生大量完成结果,并且仅显示最佳结果。仅当设置为 1 时,流式完成才可用。总而言之,提示工程的每个用例都有自己的一组最佳参数来得到所需的结果,因此理解并考试测验不同的参数设置以优化性能非常主要。
提示工程:用例现在我们已经先容了根本知识,下面是一些最范例的提示工程任务:
文本择要:可用于从文章或文档中提取要点。回答问题:这在与外部文档或数据库交互时非常有用。文本分类:有助于情绪剖析、实体提取等运用。角色扮演:涉及天生仿照特定用例和角色类型(导师、治疗师、剖析师等)转换的文本代码天生:个中最著名的是 GitHub Copilot。推理:适宜创作展示逻辑或办理问题的能力(例如决策)的写作。提示工程的寻衅与未来只管天生式 AI 与提示工程越来越受欢迎,但有部分人担心过度依赖提示可能会导致人工智能系统涌现偏差。科技行业有名人士萨姆·奥尔特曼 (Sam Altman) 表示,提示工程只是让机器更自然地理解人类措辞一目标的一个阶段,并表示五年后不会还在做提示工程。
而提示工程也存在着以下两个寻衅:
高下文依赖性 - 精确捕获高下文:提示工程的一项寻衅和限定在于高下文依赖性以及精确捕获高下文的须要。AI 系统能够根据给定的高下文理解和处理信息。然而,在输入中清晰准确地捕获高下文可能很困难,尤其是在繁芜或模糊的查询中。
歧义 - 难以为繁芜查询制订精确的指令:对付繁芜或歧义的查询,在单一措辞命令中捕获所有必要的信息和条件可能具有寻衅性。可能有不同的阐明,可能会导致不同的结果。因此,及时工程须要制订策略来减少歧义并尽可能清楚地定义详细哀求。
只管一些专家表示提示工程可能会给人工智能系统带来偏见,并质疑其长期干系性,但提示工程仍是人工智能系统理解人类措辞并有效交互的根本。如果没有精心设计的提示,人工智能模型就无法识别模式或做出可靠的预测。因此,及时的工程设计对付确保人工智能系统在所有行业产生故意义的结果至关主要。此外,提示工程始终在不断改进,利用新技能和工具来创建更有效的提示。
虽然存在一些寻衅,但提示工程领域的持续发展和研究为人机交互带来了光明的未来。通过节制提示工程,我们可以充分利用对话式人工智能系统的潜力,创造有效、无缝的用户体验。
参考链接:
https://github.com/f/awesome-chatgpt-prompts?ref=mlq.ai
https://platform.openai.com/playground/?ref=mlq.ai
https://www.cloudbooklet.com/prompt-engineering-key-concepts-use-cases/#prompt-engineering-use-cases
https://ai.plainenglish.io/prompt-engineering-the-future-of-ai-job-market-or-just-a-trend-fb8ac8631b0f
https://onlim.com/en/prompt-engineering-the-art-of-precise-language-control/