大模型应用开发

本书的初衷不是告诉读者如何套用各种预设的提示模板，而是帮助读者深入理解和。定大语言模型输出的关键因子，进而将提示工程的理论知识应用到产品设计。原生应用开发的从业者和研究人员，以及人工智能相关专业的教师。任务提示、内容创作提示、生成可控性提示、提示工程概述、结构化提示设计、提示安全设计、形式语言风格提。示、推理提示、智能体提示等。应用提示设计技巧，以找到决。用户提示是完整提示的一部分。章 形式语言风格提示。基于内容审查的可控设计。基于大语言模型的内容审查。章 结构化提示设计。章 生成可控性提示。

深入探讨AI原生应用的挑战与机遇，揭示大语言模型与实际应用间的鸿沟，强调提示工程在弥合这一差距中的关键作用。

注入攻击在网络安全领域由来已久，而随着大语言模型的应用，提示注入攻击成为新的威胁。这种攻击通过伪装恶意输入欺骗大语言模型，导致非预期输出，危害包括泄露敏感数据、传播错误信息等。常见的提示注入攻击手段有任务挟持、提示泄露和越狱攻击。任务挟持通过嵌入有害文本篡改任务指令；提示泄露诱使模型泄露任务提示，损害知识产权；越狱攻击则绕开安全审查机制，如通过角色伪装、设定虚拟场景等方式诱导模型输出敏感或非法内容。大语言模型安全问题还涉及数据泄露、越权操作等，《AI 原生应用开发：提示工程原理与实战》一书针对这些威胁

本文围绕提示工程中的少样本提示展开，介绍其是借助大语言模型上下文学习能力，利用少量示例样本处理任务的方法，无需重新训练或微调模型，经济高效。通过纠正错别字和输出动物相关符号两个案例，展示少样本提示的应用过程及效果。在纠错案例中，初始大语言模型无法正确完成任务，提供一个示例后则能输出正确结果；动物符号案例里，增加示例数量可提升模型输出效果，达到预期。文章强调少样本提示能有效提高大语言模型输出效果，还推荐阅读《AI原生应用开发：提示工程原理与实战》，助力系统学习提示工程知识。

《AI 原生应用开发：提示工程原理与实战》是一本专注于提示工程在 AI 原生应用开发中应用的技术指南。本书不水文、不废话，知识成体系，作者实战经验丰富。适合苦逼开发者、产品经理和教授及学生等人群。不适合 “AI 速成装 X 党”“理论空想家”“吹牛协会会员”。目前有全价和早鸟价两种购买方式，电子书也已在京东阅读、微信阅读上架，豆瓣上有书评。

摘要：文章聚焦利用大语言模型进行文本质量评估。先介绍其核心原理，接着阐述 4 种评估方法：一致性评估，判断生成答案与标准答案的一致性，但依赖人工标注；关键点覆盖评估，查看答案是否覆盖给定关键点；答案对比评估，对比不同版本答案判断优劣；多维度打分评估，从准确性等多维度全面评估。指出该方式虽提升效率、降低成本，但在准确性和质量上能否超越人类存疑，受主观性与模型偏好影响。最后推荐《AI 原生应用开发：提示工程原理与实践》，助力深入了解该领域。

文本主要介绍了推理--行动提示（ReAct），这是一种利用大语言模型模拟人类智能的推理和行动过程的思维链提示。人类在处理复杂任务时会将言语推理和实际行动融合，ReAct也是如此，让大语言模型交替生成推理追踪和行动，并与外部工具交互获取反馈。文本还详细介绍了ReAct的两个阶段、提示格式、工具描述及回答过程，并通过两个具体例子进行演示。最后提到《AI原生应用开发：提示工程原理与实践》一书中有关于运用大语言模型进行推理的多种技术的精彩内容。

注入攻击在网络安全领域由来已久，而随着大语言模型的应用，提示注入攻击成为新的威胁。这种攻击通过伪装恶意输入欺骗大语言模型，导致非预期输出，危害包括泄露敏感数据、传播错误信息等。常见的提示注入攻击手段有任务挟持、提示泄露和越狱攻击。任务挟持通过嵌入有害文本篡改任务指令；提示泄露诱使模型泄露任务提示，损害知识产权；越狱攻击则绕开安全审查机制，如通过角色伪装、设定虚拟场景等方式诱导模型输出敏感或非法内容。大语言模型安全问题还涉及数据泄露、越权操作等，《AI 原生应用开发：提示工程原理与实战》一书针对这些威胁

文本主要介绍了推理--行动提示（ReAct），这是一种利用大语言模型模拟人类智能的推理和行动过程的思维链提示。人类在处理复杂任务时会将言语推理和实际行动融合，ReAct也是如此，让大语言模型交替生成推理追踪和行动，并与外部工具交互获取反馈。文本还详细介绍了ReAct的两个阶段、提示格式、工具描述及回答过程，并通过两个具体例子进行演示。最后提到《AI原生应用开发：提示工程原理与实践》一书中有关于运用大语言模型进行推理的多种技术的精彩内容。

大语言模型在复杂问题任务规划上的推理能力展现出了惊人的表现。它能够根据问题的具体内容和难易程度，智能地生成合理的任务分解方案。借助这些方案，我们可以系统地规划出解决问题的具体步骤，从而调用适当的工具逐个解决子问题。并且在解决问题的过程中，它还能够根据实际情况灵活调整既定方案，最后汇总所有子问题的答案，得出最终结论。这种问题分解与规划能力，正是目标导向型问题解决策略的核心精髓所在。任务规划的方法有很多，不同的方法适用于不同的问题和场景。在此，我们着重介绍两种主流规划方法：自顶向下规划和探索性规划。

大语言模型在自然语言处理中取得显著成果，但存在不可控性，主要体现在幻觉问题、指令遵循问题和内容安全问题三个方面，这些问题可能导致误导性输出、不符合要求的输出以及有害信息传播。

本文介绍了利用大语言模型进行情感分析的内容，包括情感分析的定义、应用及多个子任务。情感分析可以挖掘文本中的主观信息，如情感倾向和强度，以及观点等。文章详细阐述了情感极性判断、情感强度判断、目标级情感分析和观点结构化等子任务，并通过示例展示了如何进行这些分析。此外，文章还提到大语言模型可以处理其他NLP任务，并介绍了相关书籍以进一步了解这些技术。

大模型幻觉产生原因分析

在AI原生开发中，保证大语言模型稳定输出指定格式是关键。可通过输出格式引导和字段类型引导实现，如指定CSV、KV等格式和字段名称、数据类型。新书《AI原生应用开发》提供了更多输出优化策略。

文本主要介绍了内容创作中的风格以及利用大语言模型进行风格迁移的方法，并通过具体案例进行了说明。包括风格在内容创作中的重要性，大语言模型在风格方面的特点及引导方法，以及运用不同风格迁移法对两篇文章进行改写的示例。

文章围绕大模型内容创作质量展开探讨，指出大语言模型生成文本存在创意、文风、深度方面的问题，剖析了训练语料和标注人员素养两个影响因素。同时，概括出影响文本质量的六大核心要素.

KITE提示框架包含四个核心组成部分：注入知识（knowledge）、明确指令（instruction）、设定目标（target）和界定边界边界（edge）。这四个部分的首字母恰好组成了一个易于记忆的单词——KITE。

本书结合AI原生应用落地的大量实践，系统讲解提示工程的核心原理、相关案例分析和实战技巧，涵盖以下内容：提示工程概述、结构化提示设计、NLP任务提示、内容创作提示、生成可控性提示、提示安全设计、形式语言风格提示、推理提示、智能体提示等。