普通网友-优快云博客

原创大模型原来可以应用到这些领域！有几个你一定不知道！

是一门研究人类语言与计算机之间交互的领域，旨在使计算机能够理解、解析、生成和处理自然语言。NLP结合了计算机科学、人工智能、语言学和认知科学等多个学科的知识，旨在构建能够理解和处理人类语言的智能系统。：这是NLP的核心任务之一，旨在使计算机能够理解人类语言的含义。语言理解的任务包括词法分析、句法分析、语义分析和语篇分析等。词法分析涉及将句子分解为单词或词组，句法分析涉及确定单词之间的语法关系，语义分析涉及理解句子的意义，而语篇分析涉及理解句子在上下文中的含义。：信息抽取旨在从文本中提取出结构化的信息。

2024-08-07 17:57:18 2757

原创 AI 大模型训练中，通常会采用哪些方法？(输入篇)

某种程度来说大模型训练的核心算法就是300到400行代码，如果真正理解了并不难。下面我将带大家分析常规大模型训练有几个阶段以及在训练中一般会用到哪些方法。由上图可以看出，大模型训练主要有四个阶段：预训练、有监督微调、奖励建模、强化学习。开始的第一个阶段是预训练阶段。这个阶段在这个图中有点特殊，因为这个图没有按比例缩放。实际上预训练消耗的时间占据了整个训练pipeline的99%。因此，这个阶段就是我们在超级计算机中使用数千个GPU以及数月的训练来处理互联网规模数据集的地方。

2024-08-07 17:55:44 1106

原创 LazyLLM：长上下文场景下提高LLM推理效率

文章提出了LazyLLM技术，这是一种针对长上下文场景下提高大型语言模型(LLM)推理效率的方法，它通过动态选择性计算关键token来加速预填充阶段，同时保持推理性能，无需额外的模型微调。并且，LazyLLM可以无缝集成到现有的基于Transformer的LLM中，提高推理速度。

2024-08-06 11:19:49 1443

原创如何系统的入门大模型？

本篇文章默认面向对大模型领域感兴趣的程序员。基于提示词对大模型的使用，会问问题就行。在大模型生态之上做业务层产品。AI主播、、AI小助手。。。之前是会调API就行。现在有了，连调用API都可以不用了，动动嘴就可以实现应用生成。：给大模型配个“资料袋”大模型外挂向量数据库/。给大模型“大脑”装上记忆体、手和脚，让它可以作为进行决策和工作。基于基座大模型的。大模型训练，高端赛道的角逐。因此普通程序员研究大模型，不妨选择从外到内的思路，从套壳应用，再了解部署、微调和训练。

2024-08-06 09:52:38 771

原创 AI产品经理，应掌握哪些技术？

1:100，就是科学家的专利到产品落地的距离，在人工智能时代下的产品，恐怕会比1:100有更悬殊的比例，主要因为当前人工智能领域的一些技术瓶颈，例如：近些年发展迅速的深度学习（deep learning）在应用的时候对于技术人员的经验依赖性依然很强，调参、收集数据、架构设计等没有通识的普遍规律，黑盒下的操作还是占很大比例。

2024-08-05 14:24:04 390

原创快速体验 Llama3 的 4 种方式，本地部署，800 tokens/s 的推理速度真的太快了！

北京时间4月19日凌晨，Meta在官网上官宣了Llama-3，作为继Llama1、Llama2和CodeLlama之后的第三代模型，Llama3在多个基准测试中实现了全面领先，性能优于业界同类最先进的模型，你有没有第一时间体验上呢，这篇文章就分享下如何在Groq上以超过 800 tokens/s 的魔鬼推理速度体验Llama3，会同时分享Web端、移动端、API方式以及集成到LangChain中4种体验方案。我的新书[《LangChain编程从入门到实践》]已经开售！

2024-08-05 14:22:25 937

原创【大模型书籍PDF】LangChain入门指南：构建高可复用、可扩展的LLM应用程序（推荐）

今天又来给大家推荐一本大模型方面的书籍这本书专门为那些对自然语言处理技术感兴趣的读者提供了系统的LLM应用开发指南。全书分为11章，从LLM基础知识开始，通过LangChain这个开源框架为读者解读整个LLM应用开发流程。😝有需要的小伙伴，可以V扫描下方二维码免费领取==🆓。

2024-08-05 10:29:07 744

原创一篇长文搭建AI大模型应用平台架构

需要告诉编排器您的系统使用哪些组件，例如模型（包括用于生成、路由和评分的模型）、系统可以从中检索数据的数据库以及系统可以采取的操作。与模型网关直接集成可以帮助简化模型入门，并且一些编排器工具希望成为网关。许多编排器还支持与评估和监控工具集成。

2024-08-02 10:29:00 1369

原创【Github热门】练完这些项目，天下没有再难倒你的大模型

LLM的应用场景不是独立的，而是和其他业务结合生成的新智能服务，这就是为什么多练习大模型项目如此重要。而理解了这点，也就知道了大模型应用的潜力有多巨大。练习项目不仅是对原理和概念的加深理解，更是对如何结合业务，业务逻辑的深度理解。要落到实际的应用场景，肯定需要对应用场景本身有足够的了解。而要理解场景，需要对大模型有足够的知识积累和实战经验。这就是为什么多练大模型项目如此重要。这些项目不仅收集了大模型训练实战，还有微调，分布式等训练，从6B到65B，从全量微调到高效微调，再到RLHF，涵盖得非常全面了。

2024-08-01 11:07:29 1275

原创从零训练一个多模态LLM：预训练+指令微调+对齐+融合多模态+链接外部系统

本文尝试梳理。包括模型结构选择、数据预处理、模型预训练、指令微调、对齐、融合多模态以及链接外部系统等环节。目前主要有三种模型架构，基于Transformer解码器，基于General Language Model，以及混合专家模型。这一步可以直接选择开源的的基座模型，例如基于Transformer解码器架构的LLaMA模型族，模型结构及一些重要参数如下图。假设选择LLaMA-65B，Tokenizer选择LLaMA的基于BPE算法构造的tokenizer。

2024-07-30 14:48:30 824

原创 RAG框架，都在这了!

目前已支持格式: PDF(pdf)，Word(docx)，PPT(pptx)，XLS(xlsx)，Markdown(md)，电子邮件(eml)，TXT(txt)，图片(jpg，jpeg，png)，CSV(csv)，网页链接(html)知识库数据量大的场景下两阶段优势非常明显，如果只用一阶段 embedding 检索，随着数据量增大会出现检索退化的问题，如下图中绿线所示，二阶段 rerank 重排后能实现准确率稳定增长，即数据越多，效果越好。：使用 LangChain 的模块化构建块和组件构建您的应用程序。

2024-07-30 14:44:23 546

原创【可能是全网最丝滑的LangChain教程】快速入门Retrieval Chain

我们现在已经成功地建立了一个基本的检索链。我们只触及了检索的基础知识，Retrieval Chain还有更多的用法，包括嵌入模型的选择（不同模型的效果有差异，进而影响最终输出结果的准确性）、文档加载器的选择（你的文档是什么格式？来自本地还是网页？视频还是文本？）、文档怎么检索（MapReduce、MapRerank、Reduce、Refine、Stuff）等等等等。具体怎么使用，请关注后续文章更新。

2024-07-29 11:26:35 869

原创【超丝滑的LangChain教程】LangChain进阶之Agents

以上就是LangChain中Agent的完全解析，还有一些小的注意点我在这里列一下。AgentExecutor参数配置max_iterations：限制执行的最大步数，设置这个参数，确保不会因为意外导致死循环。max_execution_time：限制执行的最大时长，有助于防止长时间运行代理程序。handle_parsing_errors：处理Agent输出解析器引发的错误的方式。默认为False，即抛出错误。如果为True，错误将作为观察发送回LLM。

2024-07-29 10:59:00 1977

原创深入理解 Embedding 和向量：AI 应用中的核心技术

随着 AI 应用的持续火热，许多并不了解 AI 技术的人可能会被众多专业术语搞得一头雾水。相信大家经常会听到「嵌入（embedding）」和「向量（Vector）」这几个词。那么，这些术语到底是什么意思呢？在与我的产品经理交流时，我发现他对这些概念仍然处于似懂非懂的状态。本文将深入探讨这些概念，帮助大家更好地理解它们在 AI 应用中的重要性。Embedding 是一种将高维数据（如文本、图像等）映射到低维空间的技术。具体来说，embedding 是将文本嵌入到向量空间中，用向量来表示文本的含义。

2024-07-27 10:20:50 1317

原创全方位解析Agent！这本大模型应用开发-动手做AI Agent 值得一读！

人工智能时代一种全新的技术— Agent正在崛起。今天就给大家分享下这本LLM大模型的书《大模型应用开发动手做AI Agent》，本书从AI agent的角度探索目前人工智能最前沿的技术发展，并且借助开源框架带着读者亲手制作7个常用的agent。本书将探索Agent的奥秘，内容包括从技术框架到开发工具，从实操项目到前沿进展，通过带着读者动手做7个功能强大的Agent，全方位解析Agent的设计与实现。最后展望了Agent的发展前景和未来趋势。

2024-07-26 14:52:08 822 1

原创史上最全AI大模型学习资料分享！通通免费分享~

AI大模型发展得如火如荼，可以遇见未来的千行百业都会被AI重塑，想要跟上AI科技发展的浪潮，唯有学习AI，认识AI，应用AI。于是整理了目前市面上关于AI大模型的学习资料，供你学习时选择适合自己的资料。

2024-07-26 11:27:21 1039

原创浅谈“不要卷模型，要卷应用”

关于“大家不要卷模型，要卷应用！”这段发言强调的是AI技术从“辨别式”向“生成式”的转变，并着重于技术在实际应用中的价值，而非技术本身。生成式AI技术如今可以创造内容、响应查询并执行多种复杂任务，但其根本目的仍应服务于解决现实问题，提高工作效率和质量，而不仅仅是技术上的展示。关于超级应用的提醒则反映出一个常见误区：过于关注应用的用户活跃度，而忽略了其真正的功能和对产业的贡献。所谓的“超级能干”应用指的是那些尽管日活跃用户数不高，但能够有效解决行业痛点，为企业或用户带来明显好处的应用。

2024-07-25 10:53:20 753

原创如何应对AI发展下的伦理挑战

面对人工智能带来的伦理与隐私挑战，需要采用多方位的策略来确保技术发展的同时也保护公众权益。以下是几个具体的应对措施：1. 加强法规制定与执行：各国政府需制定严格的法律框架以规范AI应用，确保它们在不侵犯个人隐私和数据安全的前提下运行。也应有明确指导原则处理如数据来源透明、数据处理方法和目的明确等问题。2. 算法透明度和审查：提高算法的可解释性是缓解公众担忧的有效方式。开发和部署AI系统时，需要对其决策过程和逻辑进行公开和解释，允许独立机构进行审查与评估。

2024-07-25 10:50:33 1055

原创【LLM大模型】《开源大模型食用指南》全网发布，轻松助你速通llm大模型！

在实现主流 LLM 的相关部分之后，我们希望充分聚集共创者，一起丰富这个开源 LLM 的世界，打造更多、更全面特色 LLM 的教程。大模型（LLM）狭义上指基于深度学习算法进行训练的自然语言处理（NLP）模型，主要应用于自然语言理解和生成等领域，广义上还包括机器视觉（CV）大模型、多模态大模型和科学计算大模型等。，针对各类开源大模型提供包括环境配置、本地部署、高效微调等技能在内的全流程指导，简化开源大模型的部署、使用和应用流程，是一个围绕开源大模型、针对国内初学者、基于 AutoDL 平台的。

2024-07-24 11:57:17 905

原创 LLM 教程 —— ELECTRA：高效学习编码器的新途径

在这个教程中，你将了解到ELECTRA是一种通过鉴别器模型来学习编码器的预训练方法。学习 ELECTRA 的工作原理、它相比其他预训练方法的优势，以及如何使用 Hugging Face Transformers 库将其应用于下游任务。

2024-07-24 10:25:25 856

原创如何用AI提高产品经理的工作效率

最近我跟几个产品经理聊天，发现有些人居然还没有使用过ChatGPT、MidJourney、NotionAI 等AI工具。产品经理有个重要的素质是好奇心，好奇心能够帮助产品经理发现新机会、了解用户需求、学习新知识和探索竞争对手，从而更好地完成产品开发和管理工作。张在旺老师在《AI会让产品经理失业吗？》一文中提到，产品经理不仅要了解流行的AI工具，还要在工作中用来提高工作效率，不然真的会被其他在用AI工具的产品经理替代了。

2024-07-23 14:38:43 1096

原创从零开始：AI产品经理的入门路线图

比方说，在家居智能化愈发流行的今天，一个AI产品经理为了满足用户对便捷生活的追求，可能会提出一个智能冰箱的概念，该冰箱不仅能根据食物库存自动创建购物清单，还能根据用户的健康数据制定个性化的食谱。此外，针对AI产品管理的工作坊和认证，如中国电子商会的AI产品经理认证，也提供了系统性的学习和专业认证，帮助产品经理提升个人职业技能和市场竞争力。例如，考虑语音助手技术如亚马逊的Alexa，这个产品的成功在于它优异的语音识别能力和日益增长的第三方集成，其背后的关键学习点是不断追求技术创新和维护强大的开发者生态系统。

2024-07-23 14:36:20 1084

原创一文详细梳理！大模型从理论到实战落地必备干货！

在人工智能的浩瀚星辰中，大模型犹如璀璨的北极星，引领着技术的前沿方向。它们不仅代表了深度学习领域的最新突破，更成为了推动各行各业智能化转型的关键力量。本文笔者总结了大模型从理论研究到实战落地所需具备的所有知识干货，与大家分享~

2024-07-22 15:24:04 1086

原创 360周鸿祎为什么说大模型已成茶叶蛋？

大模型炒了一年，为什么没有特别火的应用？最近几天360创始人周鸿祎称，去年感觉大模型是原子弹，今年感觉是茶叶蛋。什么意思？我想大概就是说大模型谁都能玩了，现在国内的大模型没有一千，也有几百个了，大模型没什么稀奇的了。但是另一方面也反映了大家都是为了大模型而大模型，但是大模型没能解决什么实际问题，或者说解决的问题太小，有点让人失望了。

2024-07-22 14:45:42 461

原创 Stable Diffusion【二次元模型】：最受欢迎的通用二次元大模型AWPainting

感兴趣的小伙伴，赠送全套AIGC学习资料，包含AI绘画、AI人工智能等前沿科技教程和软件工具，具体看这里。AIGC技术的未来发展前景广阔，随着人工智能技术的不断发展，AIGC技术也将不断提高。未来，AIGC技术将在游戏和计算领域得到更广泛的应用，使游戏和计算系统具有更高效、更智能、更灵活的特性。同时，AIGC技术也将与人工智能技术紧密结合，在更多的领域得到广泛应用，对程序员来说影响至关重要。未来，AIGC技术将继续得到提高，同时也将与人工智能技术紧密结合，在更多的领域得到广泛应用。

2024-07-19 10:43:10 1034

原创 SD生成模特场景图，给我整崩溃了！

感兴趣的小伙伴，赠送全套AIGC学习资料，包含AI绘画、AI人工智能等前沿科技教程和软件工具，具体看这里。AIGC技术的未来发展前景广阔，随着人工智能技术的不断发展，AIGC技术也将不断提高。未来，AIGC技术将在游戏和计算领域得到更广泛的应用，使游戏和计算系统具有更高效、更智能、更灵活的特性。同时，AIGC技术也将与人工智能技术紧密结合，在更多的领域得到广泛应用，对程序员来说影响至关重要。未来，AIGC技术将继续得到提高，同时也将与人工智能技术紧密结合，在更多的领域得到广泛应用。

2024-07-19 10:08:55 1508

原创 1000 种 AI 绘图提示词：俏皮卡通画

感兴趣的小伙伴，赠送全套AIGC学习资料，包含AI绘画、AI人工智能等前沿科技教程和软件工具，具体看这里。AIGC技术的未来发展前景广阔，随着人工智能技术的不断发展，AIGC技术也将不断提高。未来，AIGC技术将在游戏和计算领域得到更广泛的应用，使游戏和计算系统具有更高效、更智能、更灵活的特性。同时，AIGC技术也将与人工智能技术紧密结合，在更多的领域得到广泛应用，对程序员来说影响至关重要。未来，AIGC技术将继续得到提高，同时也将与人工智能技术紧密结合，在更多的领域得到广泛应用。

2024-07-18 17:00:00 984

原创 Mistral AI两连发：7B数学推理专用、Mamba2架构代码大模型

网友很好奇，Mathstral能不能搞定「9.11和9.9谁大」这一问题。昨天，AI圈竟然被「9.11和9.9谁大」这样简单的问题攻陷了，包括OpenAI GPT-4o、Google Gemini等在内的大语言模型都翻了车。这让我们看到，大语言模型在处理一些数字问题时并不能像人类那样理解并给出正确的答案。对于数字以及复杂的数学问题，专用模型更术业有专攻。今天，法国大模型独角兽 Mistral AI 发布了一个，来解决需要复杂、多步骤逻辑推理的高级数学问题。

2024-07-18 14:19:31 1775

原创 1000 种 AI 绘图提示词：发光小精灵

感兴趣的小伙伴，赠送全套AIGC学习资料，包含AI绘画、AI人工智能等前沿科技教程和软件工具，具体看这里。AIGC技术的未来发展前景广阔，随着人工智能技术的不断发展，AIGC技术也将不断提高。未来，AIGC技术将在游戏和计算领域得到更广泛的应用，使游戏和计算系统具有更高效、更智能、更灵活的特性。同时，AIGC技术也将与人工智能技术紧密结合，在更多的领域得到广泛应用，对程序员来说影响至关重要。未来，AIGC技术将继续得到提高，同时也将与人工智能技术紧密结合，在更多的领域得到广泛应用。

2024-07-18 13:55:34 620

原创 StableMakeup：浓妆艳抹,粉妆玉琢；SD实现人物妆点花容迁移

今天介绍一款框架，这是一种基于扩散的新颖方法，能够被应用于人物化妆迁移，并且该框架可以稳健地迁移从淡妆到极浓妆的多样化现实世界化妆风格。感兴趣的小伙伴，赠送全套AIGC学习资料，包含AI绘画、AI人工智能等前沿科技教程和软件工具，具体看这里。AIGC技术的未来发展前景广阔，随着人工智能技术的不断发展，AIGC技术也将不断提高。未来，AIGC技术将在游戏和计算领域得到更广泛的应用，使游戏和计算系统具有更高效、更智能、更灵活的特性。

2024-07-17 14:39:11 1235

原创 Stable Diffusion：质量高&画风清新&细节丰富的二次元大模型二次元插图

*提示词：**杰作，最好的品质，1女孩，独奏，黑发，长发，飘逸的头发，灰色的眼睛，裸露的肩膀，锁骨，微笑，白色的衣服，披肩，坐在树上，花束，树叶，光线，看着观众，月亮，夜晚，夜空。：杰作，最佳质量，景深，电影构图，特写，女孩，独奏，棕色头发，棕色眼睛，微笑，发结，白色围巾，黑色衬衫，校服，看着观众，户外，粉色的花，樱花，树枝。个人体验下来，感觉出图质量非常高，画风比较清新，背景细节元素丰富逼真。：1个女孩，独唱，长发，锁骨，抬头，抱着，坐着，大声哭泣，流泪，看着观众，校服，黑衬衫，雨，花，樱花，树枝。

2024-07-17 10:41:39 1708

空空如也

空空如也