Admans的专栏

利用AI OPS 等工具比较不同LLM在相似提示词下的运行效果，我们可以设计一个实验，该实验通过评估各种模型在特定任务或上下文中的表现，协助选择最合适的模型。在AI应用中，提示词工程并不仅限于提示词写作技巧，而是贯穿于整体的AI需求开发流程中，助力业务与技术团队紧密协作，实现高效的开发与优化。因此，通过深入了解各个模型的参数、特征和实际表现，不要一味追求“大而全”，而应根据具体需求选择最适合的模型，做到资源和性能的最佳平衡。通过合理的模型选择和策略优化，不仅可以提升性能，还能在预算内实现更高的经济效益。

通常，我不是那种轻易相信任何事物的人。比如，尽管我经历了十年前信息安全界的加密货币热潮，我却从未参与撰写任何关于区块链的研究论文。我也从未拥有过任何比特币，因为在我看来，它们除了用于赌博和欺诈之外，没有任何实际价值。我一直持怀疑态度，每当有人向我宣称“某项新技术将改变世界”，我的反应总是冷漠。因此，当第一次有人告诉我人工智能将极大地提升我的工作效率并改变我的日常工作方式时，我同样持保留态度，我的回应是：“见到实际效果我才会信。此外，我是一名安全研究员。

综上所述，在大模型训练中，GPU 通常比 CPU 更重要。GPU 的强大并行计算能力、浮点运算性能、内存带宽以及深度学习框架支持，使得它能够在大模型训练中发挥关键作用。然而，CPU 也不可或缺，它在控制和协调、数据处理和管理等方面发挥着重要作用。在实际应用中，通常会结合使用 GPU 和 CPU，以充分发挥两者的优势，提高大模型训练的效率。然而，这并不意味着 CPU 在大模型训练中就毫无作用。

这四款国产 AI 编程助手在收费情况上可能都采用部分免费、部分收费的模式，具体的收费标准和免费功能范围会因产品定位和市场策略而有所不同。开发者可以根据自己的需求和预算选择适合的编程助手。

AI模型可以通过对物理世界数据的Token化，理解真实世界的方方面面，比如人类行走、奔跑、驾驶车辆、使用工具，绘画、作曲、写作、表达、教学、编程的技巧，甚至是开公司创业。过去三十年，互联网浪潮的本质是连接，互联网连接了人、信息、商业和工厂，通过连接提高了世界的协作效率，创造了巨大的价值，改变了人们的生活方式。很长一段时间，AI的焦点主要集中在模拟人类的感知能力，比如自然语言理解、语音识别、视觉识别。它可以是工厂里的机械臂、工地里的起重机、仓库里的搬运工、救火现场的消防员、包括家庭里的宠物狗、保姆、助理。

教育4.0”是由全球教育专家、从业者、政策制定者和商界领袖组成的联盟制定的，它是一个全面的框架，概述了中小学教育为促进更好的教育成果所需的关键变革。对于教师和学习者来说，都存在挑战和风险，必须解决和克服这些挑战和风险，以实现教育技术的承诺。在教育中采用新兴技术，特别是人工智能，具有巨大的潜力，可以彻底改变教学方法、个性化学习体验和简化管理流程。将人工智能整合到教育课程中，为人工智能教学提供机会，为学生提供未来所需的基本技能、洞察力和知识。完善的评估和决策过程，承诺更准确的评估和洞察学生的进步。

Al Agent 会借助 LLM 的推理能力，将问题予以拆解，拆分成一个个的小问题，同时明确这些小问题之间的先后关联，而后依照顺序，调用 LLM、RAG 或者外部工具，来解决每一个小问题，直至解决初始的问题。国产动画片《干秋诗颂》，它是央视首部利用AI技术创作的古诗词动画片，以小学课本中的上百直古诗词为创作素材，采用水墨国风的视觉风格，通过AI技术从美术设计到动效生成、后期制作，将诗词的意境和情怀生动呈现。AI智能体：智能体是一种具有一定智能的系统，能够感知其环境，做出决策，并在环境中执行行动。

我现在全神贯注于确保在未来五年，再五年，这些伙伴关系始终如一，如你所知，Ben——实际上，这是双方都能成功的关键时刻，如何确保长期稳定，长期稳定来自于双方持续的胜利，这至少是我处理问题的方式。嗯，这确实是一项艰巨的任务。这是一个简单的逻辑，即“嘿，看，这是关于计算的”，因此——因此对我来说，我对微软的看法是，我们最终并不像一个高度集权的企业集团那样运作，我们必须有一个真正的理念，即我们的组织架构具有内在的一致性——客户关心我们带来的集成价值，但他们也非常关心我们的每一项独立产品或服务的竞争力。

o人工智能的定义●英文全称: artificial intelligence (人工的、人造的智能)，简称AI。●定义:人工智能，是研究、开发用于模拟、延伸和扩展人的智能行为的理论、方法、技术及应用系统的一门综合性科学。●目的:使计算机系统具备执行“通常需要人类智能才能完成的任务”的能力。

本文全面概述了当前垂直领域模型与评测基准，涵盖了12个领域，57个领域微调模型，并配备了丰富的评测数据集，以供各界参考与借鉴。参考：https://github.com/luban-agi/Awesome-Domain-LLM。

NLP算法可以自动从长篇文章中提取关键信息，生成简洁的摘要，帮助人们快速了解文章的主要内容。

AI产业整体进展多模态、长文本、大模型小型化成为热点研究方向在过去几年里，大众已见识到GPT、BERT等大语言模型在自然语言理解和生成方面的卓越能力。相比单一模态的大模型，多模态大模型能够提供更自然的人机交互方式，具备更全面和准确的认知能力，并在不同情境下表现出更高的鲁棒性，从而赋能更丰富和全面的AI应用。因此，多模态技术已成为诸多大模型厂商的研发重点。此外，长文本处理能力的提升，使大模型在理解和生成复杂文档方面表现更佳，能够更好地支持多主题和多步骤的推理任务；

在人类文明的长河中，教育作为知识与智慧传承的基石，几千年来始终保持着人与人之间言传身教的形式。若把教育看作一个产业，不难发现其本质上是一个强烈依赖人力资本的人力密集型产业。也因此，人力因素成为限制教育规模化与个性化双向发展的核心因素，而AI技术正是能够突破这一局限的重要变量，其强大的数据处理与学习能力，不仅能够在精细化辅导、个性化学习路径规划等方面为学生提供前所未有的支持，还能够在教师日常工作中发挥重要作用，从多个维度促进教育质量与效率的提升。

2022年年底OpenAI发布ChatGPT，将LLM（Large Language Model）带向了一个新的高度，而2023年OpenAI继续放出大招：更强大的GPT-4问世，瞬间引爆了整个互联网圈。在这个大模型时代，作为一名NLPer，持续吸收着层出不穷的新技术，确实有些吃不消。俗话说，好记性不如烂笔头，在此记录下LLM相关技术及进展。顺便说一句，你可以说它不全面，但不能说它不通俗易懂。：Prefix-Tuning也是一种Prompt-Tuning，是最早提出soft-prompt的论文之一。

2020-2023年中国笔电出货量呈下降趋势，PC厂商亟需从产品形态、软硬技术、需求场景等角度寻求新的增长机会。而随着大模型、生成式AI技术的到来，其强大的数据处理、学习泛化与内容生成能力，高质效加速了各行各业人工智能技术的赋能进程，为AI可赋能的场景领域、扮演角色提供更多创新性与可能性。目前大模型陆续从技术基座打造走向产品生态应用，其能力也将陆续由云端下放到边缘与端侧， AI PC作为端侧大模型的理想功能载体备受市场关注，有望为PC市场发展带来颠覆性机会。

另外，随着AI技术的发展，工作环境正在迅速变化，学生需要具备在这种环境中工作的技能和知识。2024年7月，根据Duke TODAY网站最新消息，桑福德公共政策学院的学生刊物《第九街日报》（9th Street Journal）的创作者正在使用聊天机器人生成故事，将政府机构的本地新闻稿转化为新的“第10街日报”上的故事和帖子。《框架》明确指出，生成式人工智能工具的运用必须“尊重并保护隐私与数据权益，遵守澳大利亚法律规定，减少不必要的数据收集，限定数据保留期限，避免数据进一步传播，并严禁买卖学生信息”。

Voicenotes是一款AI语音笔记应用，只允许用户用语音输入的方式记录想法，基于GPT-4和Claude 3 oups等先进的语言模型，Voicenotes可以智能分析你的语音笔记，提供多种智能服务:。关于AI笔记的未来，Notion创始人Ivan Zhao给出了自己的答案：Notion的本质是一个超级AI RAG系统，可以理解用户放进去的信息并智能反馈。它的数据库和清单化管理，适合那些需要高效管理笔记、‌任务和知识库的人，比如管理案例和客户信息的程序员、律师、‌医生等，以及需要管理项目的创业人士等。

OmniParse 旨在构建一个全面的数据摄取与解析平台，该平台能够处理包括文档、图像、音频、视频及 Web 内容在内的各类数据，并输出高度结构化、易于操作且专为 GenAI（大型语言模型）优化的数据。当前，该项目的核心理念展现出良好的实用性，尽管在实际应用中仍面临一些待完善的方面。例如，它在处理英语数据方面表现出色，但面对中文等语言时可能会遇到挑战；同时，对于 PDF 文件中的公式转换为 LaTeX 格式，也存在一定的难度。当然相信随着开源社区持续的更新，这些问题都会逐步解决。来源：玄姐讲 AGI。

数据中台丨研究报告 数据中台可统一企业数据资产，支撑企业业务分析与转型优化，是企业数字化建设的重要构成数据中台是企业数字化建设的重要构成，其通过整合企业基础设施和数据能力，实现数据资产化和服务复用，降低运营成本，支撑业务创新。数据中台通过采集、存储、加工大量数据，统一企业数据标准，建立全域级、可复用的数据中心，增强数据共享和复用，满足多方面需求。尽管部分观点认为数据中台的概念被过度炒作，但数据中台确实可为企业解决数据资产管理的问题，支撑业务分析洞察，促进业务转型优化，带来业务价值。作为企业内部统一数据能力的

大模型技术席卷全球，为日常工作和生活带来便利，但也面临时效性、准确性等问题。如何提升大模型的性能？解决其挑战？构建高级应用？成为重要待解决问题。

核心摘要：多模态、长文本、大模型小型化成为热点研究方向在过去几年里，大众已见识到GPT、BERT等大语言模型在自然语言理解和生成方面的卓越能力。相比单一模态的大模型，多模态大模型能够提供更自然的人机交互方式，具备更全面和准确的认知能力，并在不同情境下表现出更高的鲁棒性，从而赋能更丰富和全面的AI应用。因此，多模态技术已成为诸多大模型厂商的研发重点。此外，长文本处理能力的提升，使大模型在理解和生成复杂文档方面表现更佳，能够更好地支持多主题和多步骤的推理任务；通过知识蒸馏、模型剪枝和混合精度训练等技术，大模型得

Ollama是一个开源的大型语言模型服务工具，它允许用户在本地机器上构建和运行语言模型，提供了一个简单易用的API来创建、运行和管理模型，同时还提供了丰富的预构建模型库，这些模型可以轻松地应用在多种应用场景中。Ollama支持多种操作系统，包括macOS、Windows、Linux，并提供Docker镜像，方便用户在不同环境中部署使用。Ollama的特点包括轻量级和可扩展性，它允许用户通过命令行界面（CLI）或REST API与语言模型进行交互。

其中qwen2-7b（70亿参数）取得62分，打败了上一代版本的qwen1.5-32b（320亿参数），qwen2-1.5b（15亿参数）打败了Llama-2-13B-Instruct（130亿参数），展现了更小尺寸的模型的极致性能。国内模型也经历了波澜壮阔的14个月的迭代周期，其中Top1的模型经历了8次易主，不断提升国内模型的最强战力。国内大模型理科表现优异的模型，如Qwen2-72B、AndesGPT和山海大模型4.0稍落后于GPT-4-Turbo-0409，均取得76分的高分。

凭借强大的性能，Gemini一夜爆红，堪称全球最强的AI大模型之一。全球十大AI大模型排行榜中榜，CNPP小编是依据参数规模、数据量级、数据质量、算力情况、训练次数，以及语言理解能力、内容安全性、生成质量（准确性/时效性/专业性/场景化/创造性等）、资源消耗、稳定性、拟人性等指标，并参考Chatbot Arena榜单，以及互联网相关资料综合总结而来。最热门十大AI大模型之一，隶属于阿里云，能够跟人类进行多轮的交互，具有多轮对话、文案创作、逻辑推理、多模态理解、多语言支持等功能。讯飞星火 隶属于科大讯飞。

大模型各方面的性能对我们开发AI产品的应用场景至关重要，对大模型各方面的性能进行测评可以帮助我们选择合适的选择合适的大模型和API提供商。它需要模型来展示广泛的知识基础和解决问题的能力，下面是AI大模型根据MMLU的最新排名。它为开发者和研究者提供了一个平台，在这里可以发布、测试和比较各种类型的聊天机器人，下面是根据Chatbot Arena的榜单排名。上下文窗口指的是输入和输出标记的最大组合数量。在这里我们可以看到输出速度最快的是Llama 3（8B），输出最慢的是DeepSeek-Coder-V2。

ChatGPT 的巨大成功激发了越来越多的开发者兴趣，他们希望利用 OpenAI 提供的 API 或者私有化模型，来开发基于大型语言模型的应用程序。尽管大型语言模型的调用相对简单，但要创建完整的应用程序，仍然需要大量的定制开发工作，包括API集成、互动逻辑、数据存储等等。为了解决这个问题，从 2022 年开始，许多机构和个人相继推出了多个开源项目，旨在帮助开发者们快速构建基于大型语言模型的端到端应用程序或工作流程。其中一个备受关注的项目就是 LangChain 框架。

人工智能可以为研究者在研究过程中提供文献阅读和总结的支持，尤其在处理大量文献时，AI系统能够迅速筛选和分析海量的学术论文，识别出与研究主题最相关的资料。通过自然语言处理技术，AI能够理解文献内容，自动提取关键信息，然后生成精炼的摘要，帮助研究者快速把握文献的精髓。AI的这些能力，极大地减轻了研究者在文献搜集和初步分析阶段的工作负担，使他们能够将更多的精力投入到深入研究和创新思考中。

目前我们为全国师生提供的主要是“产品服务”，包括文章、教案、PPT、课程视频、虚拟实验等，当师生在使用的时候，这些已经产品化的优质资源无法动态生成来满足师生需求，而师生的教与学活动更需要个性化的“动感服务”。基于检索增强生成技术的大模型和人在回路的混合式智能系统在数字化教育资源建设中的应用，将改变数字化教育资源的建设理念和运行机制，把数字化教育资源建设变成双向服务：既是数字化教育资源为师生服务，同时师生也为数字化教育资源的建设提供智慧服务，师生从单向的资源消费者转变成资源的建设者、智慧的贡献者。

随着近几年AIGC的发展，不仅是大模型自身在不断优化，相关支持应用也在不断涌现。本文的主角便是这些技术中较为引人注目的RAG(Retrieval-Augmented Generation)——检索增强生成技术。LLM虽然已经在通识领域展现出了惊人的能力，但要落实到真正具体的问题解决，特别是针对专业领域，企业领域的一些具体的，私人的数据生成解决方案，仅仅依靠LLM还是远远不够的。二、LLM主要存在的问题//易产生幻觉。

周鸿祎说，创新不等于发明新东西，用新方法把“老业务”重做一遍也是创新，目前最成功的AI创新是那些用大模型重塑产品和业务流程的公司，比如微软。因此，周鸿祎建议企业将“含AI量”作为业务考核指标，比业务部门在AI上的资源投入、人才浓度、产品转化效率，员工对AI开源项目、AI产品的熟悉程度等。这些指标将倒逼企业完成数字化、智能化转型。“2023年风马牛年终秀”上，三六零（601360.SH，下称“360”）集团创始人周鸿祎分享了对2024年大模型发展趋势的十大预测，呼吁企业树立AI信仰，All in AI。

情感智能是AI领域的新前沿。随着AI原生OS的发展，操作系统可能会发展成API直接调用的模式，减少对传统图形用户界面的依赖，端+云的混合模型可能更加符合未来长期的发展趋势。在这个精神追求引领物质需求的时代，AI的进步与社会文化的演变紧密相连，专注音乐和视频生成的AI平台应运而生，为热爱创作的“斜杠青年”们提供了更低门槛的工具，创建了自我表达和创意释放的新社区。游戏环境为Agent的训练提供了丰富的场景和数据，这不仅推动了游戏AI的发展，也为AI Agent在其他领域的应用提供了宝贵的经验。

这段视频展现了大模型在作业批改、个性化教学指导等方面的性能，‏‏对‏‏学生‏‏拍照‏‏提交的‏‏数学‏‏作业‏‏，‏‏人工智能‏‏快速完成批改，并通过语音交互‏‏即时反馈出学生的潜在错误，随后‏‏又‏‏通过‏‏多轮对话引导，帮助‏‏学生自主发现并纠正解题思路中的偏差，最终‏‏掌握正确的解题思路与知识背后的原理‏‏。根据报道，‏‏猿辅导大模型已形成多种参数规模和形态的模型矩阵，具备学情分析、作文辅导、阅读对话、计算解题等十几种核心教育能力‏‏，并实现产品化落地。这也被看作是全球首个信息学编程教学AI模型。

我觉得MoE给我们的收获，不光是MoE本身，对我们来说最大的价值是说当有个方向它能提升几倍，但是它没有开源，也没有公开的东西，我要把一个几倍的东西靠自主能力做出来，这个过程中的收获是比较大的。当我们把这个事做完之后，现在有一些更新的技术，比如怎么样做支持无限长图上下文的transformer，怎么样来做合成数据，怎么样用更低精度的方式来训练模型，这种东西我们都敢做了。现在我们的文生语音就是行业最好的，但这个东西我觉得没那么关键，文本模型才是最关键的，相当于文本模型能提升10个点，其他模块自然也能提升。

有多种方式可以自定义Tool，最简单的方式是通过@tool装饰器，将一个函数转为Tool。注意函数必须得有docString，其为Tool的描述。@tool"""返回今天的日期。"""llm=llm,print(agent_math("计算45 * 54"))print(agent_math("今天是哪天？"))1）通过Loader加载远程文档2）通过Splitter基于Token进行文档拆分3）加载summarize链，链类型为refine，迭代进行总结", "，"],

白皮书指出，生成式AI与教学活动的结合，即是围绕教学目标展开，通过对课程内容、教学方法和教学环境三大要素的技术赋能和升级改造，提升教学活动中主体之间的互动效率，创造更有价值的教学成果。，显著提升了课程视频制作的效率和经济性，使得高质量课程能快速地大规模生产并投放市场，且及时更新和解读政策信息，确保学生和家长第一时间获取。围绕生成式AI赋能教育创新的三大方向，商汤科技积极实践，并携手多家教育机构，推动生成式AI在实际教学活动中的应用和价值创造。，为未来教育模式的发展和创新开辟了全新的视角和无限可能性。

那么，如何“面试”AI 2.0数字人，合格的“数字人”有何标准？《白皮书》不仅总结了生成式AI和大模型对数字人的推动作用，还提出业界首个“AI 2.0数字人平台评估体系”，为AI 2.0时代数字人行业发展提供参考。在AI 2.0时代，数字人平台构建不仅要注重大模型对数字人生成的支撑作用，还需要兼顾多样化场景下的用户需求，通过融合生成式AI应用和大模型技术，提升数字人在复杂环境中的表现力和实用性。《白皮书》最后指出，数字人将不只是AI工具，更将成为数字社会的基本组成，未来每个人都将拥有自己的“数字分身”。

MagicSchool.ai、Eduaide.ai和Playlab.ai等产品通过快速转化课件、教科书、视频等资源，提供了互动视频、闪卡、概念解释和小游戏等教学工具。对于有特殊需求的学生，Goblin.tools、Woebot Health和Koko等产品提供基于对话式的心理健康咨询和辅导，确保每一位学生都能获得必要的支持和关怀。校外机构通过SchoolAI、Kyron等产品，提供AI辅导和拟人辅导服务，帮助学生在家庭环境中也能获得高质量的学习支持，实现学习的无缝衔接。

通过将数字人交互能力开源，开发者可自行接入多方大模型、语音识别（ASR）、语音合成（TTS）能力，实现数字人实时交互，并在Android和iOS多终端一键部署，让每个开发者可轻松创建智能化、个性化的数字人Agent，并应用到各行各业。更进一步，硅基智能全面开放了其数字人 SDK 的源代码，覆盖从底层的推理引擎到上层商业应用逻辑，无保留揭秘技术细节。为了让更多的个人开发者和企业有机会涉足数字人领域，不被高技术门槛挡在门外，硅基智能决定大方公开其核心技术的源代码，真正意义上推动了数字人技术的普惠与共创。

比如以智能文档分析（IDP）系统举例，因为文档类型及业务规则的多样性往往需要多个模型共同完成一项业务需求，比如对一份合同的审核既需要对合同基本信息的抽取（如甲方、乙方、签订日期），也需要对合同中建设内容的相似性进行判断，还需要对合同中的表格数据进行分析。如果模型覆盖度过低，即使它的性能表现很好，在某些业务场景下模型也不可用。“数据质量”问题除了数据模式层面，还要关心应用场景下的数据质量问题，应用场景相关的数据质量问题，与研究问题的范畴和业务上下文有关，通常不容易发现，有一定规律但不存在通用的方法。

即检索增强生成（Retrieval Augmented Generation），RAG把一个信息检索插件和大模型结合在一起，根据用户的提示词，智能体首先通过信息检索插件检索相关的文档，再将文档连同用户原始输入作为提示词输入到大模型，从而产生更优的结果。训练大模型的过程，类似于一个不断学习和积累经验的过程。但普通人和大模型直接交互是不现实的，类GPT聊天机器人是大模型面向普通用户提供的一种接口，能够帮忙人们完成很多任务，但大模型能做的远不止于此，而聊天是一种泛化的场景，很多时候解决问题的效率不是很高。