liangpangpangyo的博客

本文介绍了如何将信息抓取能力封装为函数，并通过大模型的function calling功能实现在线搜索平台。首先，通过auto_functions函数自动生成Chat模型所需的函数描述，确保函数名称、功能说明和参数规范符合要求。接着，使用run_conversation函数实现对话模型，能够根据用户输入自动调用外部函数并返回结果。该流程通过两次大模型调用，第一次确定需要调用的函数，第二次整合函数执行结果并生成最终响应。通过这种方式，大模型能够灵活调用外部函数，实现复杂的搜索功能。

本文介绍了基于大模型的在线搜索平台中信息抓取的实现过程。首先，通过分析知乎的常见网页类型，排除了与搜索问题无关的页面，如话题、收藏、用户等，仅保留与问题（question）和答案（answer）相关的页面，以提高爬虫的准确率。接着，详细展示了如何通过Python代码抓取知乎问题页面、答案页面和专栏页面的内容，并使用XPath解析HTML获取标题和正文。此外，还介绍了如何计算内容的token数量，并将抓取到的数据以JSON格式保存到本地文件中。最后，将整个爬取功能封装为一个函数，便于后续调用和扩展。

在Agent时代，将Agent确立为大模型未来发展的核心方向时，Function Calling技术尤为关键。这项技术通过工具赋能大模型，使其能够突破固有能力的限制。具体而言，大模型可借此实现实时信息查询、检索网络信息或调用企业内部API等功能。

为了解决大模型不够“聪明”的问题，业界出现了很多方法来让大模型更加满足我们特定需求，很多技术也都是围绕这方面展开的，比如Prompt、RAG、fine-tuning私有模型，这些技术都是从不同的角度去增加大模型的能力（满足企业或个人需求的能力）。随着大模型自身越来越强大，他本身的能力可以满足我们很多需求。个人见解，相对于预训练、微调等技术，Prompt调优和RAG增强搜索是其中最易操作且最易出现事半功倍效果的技术。

前面章节我们介绍了如何使用Function calling功能使大模型调用外部工具（api），如果有很多工具需要大模型去调用，我们需要一个个去生成吗？事实上是不需要的，可以发现tools中的各个function格式是一样的，所以可以封装一个函数来帮我们生成tool里面function内容，减少工作量。定义function，一定要写好注释，如param、return，大模型会根据这个信息去识别tool获取天气的函数，该函数实现了如何获取天气信息。

本文所演示的案例只是帮助大家更加深刻的了解Function calling能力，切记不可在生产环境进行操作验证！！切记不可在生产环境进行操作验证！！切记不可在生产环境进行操作验证！！模型在生成正确的 SQL 方面并不完全可靠，除了大模型本身的能力以外，如果投产使用还需要很多完善的点，比如提供数据字典、SQL校验、多数据库连接等。但是text2sql是一个比较好的基于大模型落地的应用场景，实现上相对简单，大家有需求可以自行研究研究，后续我也会带来一个比较完善的text2sql的案例。

用官方的解释，就一句话，“Enable models to fetch data and take actions.”，可以使大模型获取数据并采取行动。简单来说，外部系统的API或功能就像一个工具箱，提供了多种工具供大模型选择。大模型能够自主判断并选择最合适的工具来获取所需的数据，随后根据这些工具的结果进行下一步的操作和决策。这种灵活性不仅提升了大模型的智能水平，也使其在处理复杂任务时更加高效。

前面文章介绍了关于大模型和Prompt工程的内容，从本篇文章开始，我们开始编码实战。API使用的是OpenAI的API，模型为gpt-3.5-turbo与gpt-4o-mini。

这些都是业界总结出来的一些方法论，大家主要是学习其理念和方法。当我们要使用大模型去完成比较复杂任务的时候，可能提示词要复杂的多，我们要做的就是尝试各种办法让大模型返回我们想要的结果。提示词优化的过程就是不断迭代的过程。

指定内容：我们独有的经历和见解，在保留指定范围或内容的基础上，让大模型补充其他内容。

提示词工程也叫指令工程

最后，引用数格科技AI网站上的一句话：“面对AI焦虑，你没必要跟汽车赛跑，而是应该考个驾照！

大模型是大规模语言模型（Large Language Model）的简称。语言模型是一种人工智能模型，他被训练成理解和生成人类语言。“大”在“大语言模型”中的意思是指模型的参数量非常大。比如ChatGPT，文心一言等

谈起人工智能（AI），我们并不陌生。从AlphaGo战胜围棋世界冠军，到如今广泛应用于图像识别和智能驾驶，再到2023年ChatGPT的全球爆红，AI技术在过去几十年中经历了显著的发展和变革。随着大模型时代的到来，AI的前景变得更加广阔。我们可以期待更智能、更具创造力的AI涌现，它们将在各个领域发挥重要作用，甚至可能改变人类的生活方式。大模型时代既是挑战也是机遇。虽然AI可以替代人类完成许多工作，但作为一项新技术，掌握它将大大增强我们的竞争力。