SmartSi

喜马拉雅在数据分析领域面临诸多挑战。对于业务来说，使用数据的门槛高，需求响应的时效性差，看板、产品不灵活，难以满足使用需求。运营人员通过自助取数产品查看数据，再用表格里的透视图进行分析，整个流程非常低效。对于数仓、BI、数据开发人员来说，资源有限，开发成本高，排期压力大，并且数据消费效率低，数据仓库中很多加工好的高质量数据没有通过产品输出，使得数据价值没有得到最大化地释放。因此，我们希望利用大模型，建立一套既能够释放开发压力，又方便业务人员使用，从而使数据价值得到充分发挥的 BI 应用。

本文将深入剖析商业智能（BI）与生成式模型结合带来的业务价值和技术实践经验。重点从三个视角和大家进行了交流分享。第一，从技术趋势和业务需求视角，论证了生成式智能 BI 必然技术趋势和带来的巨大业务价值；第二，从系统设计视角，介绍了百度数据中台 ChatBI 设计思路和关键点。第三，从新技术实践实践视角，介绍了 Chat BI 在百度落地过程中遇到的问题和解决思路。

当前，大语言模型的应用正在全球范围内引发新一轮的技术革命与商业浪潮。腾讯音乐作为中国领先在线音乐娱乐平台，利用庞大用户群与多元场景的优势，持续探索大模型赛道的多元应用。本文将详细介绍腾讯音乐如何基于 Apache Doris 构建查询高效、实时统一分析的 OLAP 引擎，使 OLAP 作为底层基建加强模型连接转化效率、结果输出准确率，最终将大模型 + OLAP 引擎结合为用户提供个性化、实时化、灵活化的智能数据服务平台。

随着AI技术的发展，AI应用和相关的生态也在不断地蓬勃发展，孵化这些AI应用的平台也在这几年也逐渐成熟。大模型应用开发平台像是淘金者必不可少的铲子一样，成为很多云平台厂商和互联网公司必不可少的平台与工具。提起大模型流程编排或者大模型应用开发平台，让人最多想起来的最多的是一直火热的LangChain，随着LangChain生态的不断繁荣，也诞生了Flowise这种开源三方可视化编排工具。除了工具外，还有产品化程度非常高的Dify等。今天让我们一起逐个看看这些开源产品的应用和优势吧。

本文介绍了业务系统接入大模型的三种方式：PROMPT、RAG和Fine-tuning。我们通过具体的实践案例，展示了这三种方式在不同场景下的效果和优势，以及如何根据业务需求和数据情况选择合适的方式。最后建议业务接入大模型的最佳实践，渐进式的接入，即 PROMPT，RAG，Fine-tuning，这个也是借鉴 OpenAI 开发者大会提出的接入方式。大模型是未来业务创新的重要驱动力，可以帮助业务提升效率、质量和用户体验。

想象一下，一个对编程完全陌生的初学者，正面临着如何与模型进行交互的诸多问题，哪怕是简单的GET或POST请求，都可能成为其开发路上的第一道门槛。而LangChain的存在恰恰能跨越这道门槛，使得LLM应用开发变得触手可及。首先，LangChain的简洁性让它脱颖而出。开发者只需要写几行代码，就能运行一个大型LLM程序，甚至快速构建一个响应式的机器人。这种简洁性意味着，无论是对于有经验的开发者还是初入此领域的新手，LangChain都能为他们进入LLM应用开发的世界铺平道路。

LangChain 是一个帮助在应用程序中使用大型语言模型（LLM）的编程框架。与生成式 AI 中的所有东西一样，这个项目的发展也非常迅速。2022 年 10 月，它先是作为一款 Python 工具，然后在今年 2 月增加了对 TypeScript 的支持。到今年 4 月，它支持多种 JavaScript 环境，包括 Node.js、浏览器、Cloudflare Workers、Vercel/Next.js、Deno 和 Supabase Edge Functions。