- 博客(54)
- 收藏
- 关注
RSS订阅原创 188家国产大模型：挑战与机遇，未来杀手级AI应用究竟该长什么样子？
本文详细列表展示国外18家，国内188家大模型。其次根据LineLian的AI产品经验分析18家和188家的各自产品5个特点集。顺道用跟人独家观点看百度李厂长在刚刚深圳2023西丽湖论坛上发表的大模型言论。最后结合本人AI工作经验斗胆预测杀手级AI应用的画像。
2024-07-15 11:35:39
1307
原创 大模型分布式训练并行技术
在数据并行中，每个计算设备（例如GPU）都会处理数据的一个子集，并计算相应的梯度。最后，聚合后的参数会被广播到所有计算设备，以便进行下一轮的训练。在分布式训练中，数据并行是一种非常有效的策略，通过将数据和计算任务分布到多个计算设备上，可以显著提高训练效率。此外，数据并行还可以提高模型的泛化能力，因为不同的数据子集可以提供不同的训练信号，有助于模型学习到更多的特征。通过深入理解其原理、实现方式、优势与挑战，并采取相应的实际应用建议，我们可以更好地利用数据并行来加速大模型的训练，提高模型的性能和泛化能力。
2024-07-15 11:34:12
584
原创 大模型分布式训练并行技术
在数据并行中，每个计算设备（例如GPU）都会处理数据的一个子集，并计算相应的梯度。最后，聚合后的参数会被广播到所有计算设备，以便进行下一轮的训练。在分布式训练中，数据并行是一种非常有效的策略，通过将数据和计算任务分布到多个计算设备上，可以显著提高训练效率。此外，数据并行还可以提高模型的泛化能力，因为不同的数据子集可以提供不同的训练信号，有助于模型学习到更多的特征。通过深入理解其原理、实现方式、优势与挑战，并采取相应的实际应用建议，我们可以更好地利用数据并行来加速大模型的训练，提高模型的性能和泛化能力。
2024-07-15 11:33:01
487
原创 智能制造与AI大模型
随着科技的飞速发展，人工智能（AI）已经渗透到我们生活的方方面面，尤其在制造业中，AI大模型的应用正在改变着传统的生产模式。本文将探讨AI大模型在领域的应用，以及它如何成为提升生产力的关键力量。首先，AI大模型为智能制造提供了强大的计算和数据分析能力。在智能制造中，大量的数据被生成并需要被处理和分析。AI大模型通过和技术，可以准确地识别出生产过程中的问题，提供及时的解决方案，并优化生产参数，从而提高生产效率和质量。这不仅降低了生产成本，还提高了产品的竞争力。其次，AI大模型推动了生产线的自动化和协同化。
2024-07-15 11:32:01
1051
原创 大模型“四小龙”，能否跨越深渊？
自从ChatGPT发布之后，国内也开始纷纷上马大模型，一时间不论大厂小厂都在做。当时有一张名为《大模型的深渊》的图，表示大多数大模型都还在冰山之下。到现在，国产大模型已经突破三位数，但能跨越深渊吗？一张名为《大模型的深渊》的图，在去年广为流行。吃瓜群众惊诧地发现，原来绝大多数大模型，都挤在深不见底的层级,“宣称自己快要落地的”“再等等决定啥时候落地的”“什么落地不落地的”“怎么还有这么多没听说过的大模型啊”……时至今日，国产大模型数量已经达到200多个，“深渊”更深。
2024-07-13 10:53:03
876
原创 大模型时代软件研发效率革命
在当今的大模型时代，人工智能技术正在以前所未有的速度改变着世界。从学术界到工业界，的应用已经深入人心，为软件开发领域带来了前所未有的效率革命。这一革命性的变化，使得软件研发的效率和精度得到了极大的提升，同时也为各行各业带来了巨大的商业价值。一、大模型：人工智能的新范式大模型，即大规模预训练语言模型，是近年来人工智能领域的一大突破。通过海量的数据和先进的算法，大模型能够学习并理解人类语言，进而进行智能问答、文本生成、机器翻译等多种任务。这种新型的人工智能技术，使得软件研发的效率和精度得到了极大的提升。
2024-07-13 10:51:32
696
原创 大模型如何助力开发者打造新质生产力
在当今的AI编程时代，已经成为了推动技术进步和产业变革的重要力量。大模型，即大型神经网络，具有海量的参数和复杂的结构，能够处理更广泛、更复杂的任务。随着数据集的扩大和计算能力的提升，大模型在语音识别、自然语言处理、计算机视觉等领域取得了令人瞩目的成果。对于开发者而言，大模型的崛起意味着新的机遇与挑战。传统的编程范式正在被颠覆，开发者需要重新思考如何利用AI技术提高生产力。在AI编程时代，为了更好地利用大模型的优势，开发者需要采取一系列应对措施。首先，保持学习和关注行业动态，及时跟进新的AI技术和工具。
2024-07-13 10:48:31
560
原创 大模型2024：先把价格打下去
前几天，OpenAI的竞争对手发布了Inflection-2.5，性能差不多但计算量只有40%，还有Pi的更新，以及Mistral Large低廉的API价格；看起来，大模型在2024年是开始价格战，需要抢夺更多的市场了。AI新星OpenAI最近有点头疼，不仅公司和CEO被马斯克起诉，其拳头产品GPT-4在性能和价格上均面临竞争对手的冲击。近期，成立不到一年的法国人工智能创企Mistral AI发布了最新大模型Mistral Large，并推出了首个聊天机器人产品Le Chat，直接对标ChatGPT。
2024-07-12 10:35:45
1010
原创 解决混合精度训练大模型的局限性问题
随着深度学习的发展，大模型训练对于计算资源和精度的需求日益增长，而混合精度训练成为了一种有效的解决方案。然而，在实际应用中，混合精度训练也存在着数值不稳定性问题，这限制了其在大模型训练中的广泛应用。为了解决这一问题，本文将探讨一系列策略和方法。首先，我们认识到混合精度训练的数值不稳定性主要是由于使用较低精度数据类型（如FP16）导致的。使用FP16进行训练时，梯度更容易溢出或不足，导致优化器计算不精确，以及产生累加器超出数据类型范围等问题。
2024-07-12 10:33:19
1295
原创 OpenAI文生视频大模型Sora：重塑视频内容生产
在当今信息爆炸的时代，视频已经成为了最为热门的传播媒介之一。然而，视频内容的生产却是一项极其耗费人力和物力的任务。为了解决这一问题，美国人工智能公司OpenAI最近发布了一款名为Sora的文生视频大模型，旨在通过AI技术自动化视频内容的生产。Sora是一款基于神经网络模型的文生视频系统，它可以根据给定的文本描述自动生成相应的视频内容。这一技术的出现，将极大地改变视频内容生产的传统模式，降低制作成本，提高生产效率，并推动内容创新。
2024-07-12 10:32:02
1259
原创 大模型不需要眼前的共识
大模型领域还未能形成一致的市场共识，而这种“没有共识”的状态，或许不算什么坏事。确定性的机会指向的往往是需求场景，需要实干家，不断优化体验；而不确定的机会往往依托于技术创新，需要冒险家，探索出一条通向应用的路径。这也是为什么人们不会惊讶于雷军下场造车的决心，却很难完全相信杨植麟在月之暗面创业过程中表现出来的技术理想主义。在大模型领域，并没有形成像新能源车一样的市场共识。企业在确定性和不确定性之间进行的权衡，是引发行业分歧的主要原因。选择确定性还是拥抱不确定性，决定了企业是优先赚到钱，还是优先做好技术；
2024-07-11 10:26:58
1532
原创 预训练大模型的演变与突破
预训练大模型在领域取得了巨大的成功，其中最著名的模型包括BERT、GPT和ChatGPT。这些模型在文本分类、命名实体识别、对话系统、自动问答等任务中表现出了强大的性能。本文将介绍预训练大模型的演变过程，以及它们在应用领域的突破。一、预训练大模型的演进预训练大模型的演进可以追溯到BERT（Bidirectional Encoder Representations from Transformers）模型的提出。
2024-07-11 10:22:32
479
原创 大模型训练、多模态数据处理与融合
人工智能（AI）领域近年来取得了显著的进步，其中大模型训练和多模态数据处理技术发挥了至关重要的作用。大模型是指具有巨大参数量和计算能力的人工神经网络模型，而多模态数据处理则是指在一个系统或模型中同时处理多种类型的数据，如文本、图像、音频等。一、大模型训练随着硬件和算法的进步，如GPT（Generative Pre-trained Transformer）系列模型和BERT。
2024-07-11 10:21:27
1263
原创 大模型“聚会”：国内卷价格，国外卷能力
GPT-4o和谷歌Gemini不断宣传现阶段AI能力大幅度提高，那么这两家，谁的大模型能力更强呢？这篇文章里，作者就展开了多维度的测试和体验，想了解的同学，可以来看一下。在中美AI大模型的竞争上，正衍生出两种不同的路径。继北京时间5月14日凌晨OpenAI春季发布会上，OpenAI推出兼具听、看、说能力的GPT-4o后。北京时间5月15日凌晨谷歌I/O开发者大会上，谷歌CEO桑达尔·皮查伊发布数十款Google和AI 结合产品，堪称“全家桶”级别，全面围剿Open AI。
2024-07-10 10:21:01
1453
原创 打造高效的高性能计算大模型训练平台
在SAM时代下，大数据、AI和云计算等技术得到了广泛应用，这为提供了强大的支持。然而，大模型训练仍然面临着许多挑战，如计算资源需求大、训练时间漫长、调参复杂等问题。因此，如何打造一个高效的高性能计算大模型训练平台成为了一个重要的议题。综上所述，在SAM时代下打造高效的高性能计算大模型训练平台需要综合考虑多个方面。
2024-07-10 10:19:30
923
原创 大模型时代：人工智能与大数据平台的深度融合
在当今的大数据时代，数据已经成为驱动业务增长和创新的关键因素。与此同时，随着人工智能技术的不断进步，AI在大规模数据处理和分析方面的能力日益强大。因此，将人工智能与大数据平台相结合，可以为企业带来巨大的商业价值。首先，人工智能+大数据平台可以帮助企业快速处理和分析海量数据。传统的数据处理方法往往需要耗费大量时间和人力，而AI技术可以通过自动化和智能化的方式快速处理数据，提高数据处理效率。这使得企业能够更快地做出决策，更好地应对市场变化。其次，AI技术可以通过和模式识别发现隐藏在数据中的有价值的信息。
2024-07-10 10:18:43
1100
原创 大模型商业化落地的挑战与难点深度剖析
随着2024年世界人工智能大会（WAIC）的圆满落幕，大模型技术正式步入从技术探索到商业化落地的关键阶段。企业界不再仅仅满足于技术层面的突破，而是更加聚焦于如何将这些尖端技术转化为切实的商业价值。然而，在这一转型过程中，大模型的商业化落地依然面临诸多挑战与难点。
2024-07-09 14:49:41
1259
原创 基于Fluid与JindoCache的大模型训练加速实践
通过结合PaddlePaddle的Fluid框架与JindoCache分布式缓存系统，我们可以有效加速大模型的训练过程。在实际应用中，我们建议开发者根据具体的模型和数据特点，选择合适的优化策略；同时，也要关注系统的资源消耗和稳定性问题，确保训练过程能够顺利进行。
2024-07-09 14:46:27
892
原创 BELLE-开源中文对话大模型
BELLE-开源中文对话大模型是近年来备受关注的一项技术成果。随着人工智能技术的不断发展，领域取得了显著的进步，其中对话大模型成为了研究的热点。BELLE正是在这样的背景下诞生的开源中文对话大模型。BELLE的目标是促进中文对话大模型开源社区的发展，成为能够帮助每一个人的Engine。相比其他大语言模型的预训练，BELLE更关注如何在开源预训练大语言模型的基础上，帮助每一个人都能够得到一个属于自己的、效果尽可能好的具有指令表现能力的语言模型。
2024-07-09 14:45:26
969
原创 Prompt Tuning：大模型微调实战
随着技术的不断发展，大模型在各种任务中取得了显著的成果。然而，大模型的训练需要大量的数据和算力，导致在实际应用中受到限制。为了解决这个问题，研究者们提出了微调的方法，即使用预训练模型在少量数据上进行训练，使其适应特定的任务。在Tuning之前，Finetuning是常用的微调方法。Finetuning是通过使用大模型进行下游任务重训的方法，但由于大模型参数量过大，Finetuning需要大量的数据和更多的算力去更新学习参数，不够实用。
2024-07-08 09:00:00
806
原创 大模型商业化征途：挑战与机遇并存，前景光明，时不我待
在AI浪潮中，B端产品经理聚焦于功能性、稳定性、安全性与合规性，而C端则更强调易用性。然而，大模型作为AI领域的璀璨新星，其商业化之路却并非坦途。本文不仅剖析了当前大模型服务商面临的商业模式与生态困境，更在挑战中点亮了前行的灯塔，揭示了大模型技术广阔的前景，呼吁业界把握机遇，趁早布局。在AI大模型商业化的征途上，技术突破虽是关键，但商业模式与生态建设的挑战同样不容忽视。正如《木兰辞》所描绘的市场盛景，大模型服务商们正在各自的领域内深耕细作，试图以定制化服务满足客户的多样化需求。
2024-07-08 08:30:00
912
原创 BELLE-开源中文对话大模型
BELLE-开源中文对话大模型是近年来备受关注的一项技术成果。随着人工智能技术的不断发展，领域取得了显著的进步，其中对话大模型成为了研究的热点。BELLE正是在这样的背景下诞生的开源中文对话大模型。BELLE的目标是促进中文对话大模型开源社区的发展，成为能够帮助每一个人的Engine。相比其他大语言模型的预训练，BELLE更关注如何在开源预训练大语言模型的基础上，帮助每一个人都能够得到一个属于自己的、效果尽可能好的具有指令表现能力的语言模型。
2024-07-08 08:15:00
738
原创 Prompt提示词助力AI写作
Prompt说白了就是人机对话，你更好的向机器提问，机器才能更好的回答你的问题。所以与AI对话也是一门艺术哦，提问的策略和技巧能很大程度上影响AI的输出。笔者觉得吧，在AI极速发展的年代，Prompt是一个人人都要学的东西，是一种必备的素养。不能因为你不懂Prompt的技巧而不去学习它，甚至你还去懒惰地付费地把这个练习和学习的机会交给了别人。你完全可以通过网络搜索、简单的练习就可以轻松掌握Prompt常用技巧。什么是Prompt？
2024-07-05 15:16:14
883
原创 基于LangChain的Prompt模板
在上一篇《Prompt提示词助力AI写作》里已经聊过Prompt提示词的概念，提示词的主要作用是为了更好的与AI对话，帮助引导AI产生更精确、更相关的文本。所以要尽可能的给AI讲清楚任务、背景、任务等核心要素。**那Prompt提示词模板是啥呢？**Prompt提示词模板是在LangChain中使用，LangChain 中通过提示模板来构建最终的 Prompt。提示模板是 LangChain 的核心功能之一。
2024-06-29 19:46:00
1025
原创 2024全新【大模型学习路径导航】从入门到精通的全面规划
随着人工智能技术的迅猛发展，大模型成为了引领技术变革的关键力量。无论你是对大模型领域感兴趣的初学者，还是希望深化理解并应用大模型的开发者，这份精心策划的学习路径将为你提供从零基础到精通的全面指导。通过这份全面而详细的学习路径规划，你将能够系统地掌握大模型领域的核心知识与技能，从入门到精通地提升自己在人工智能领域的竞争力。让我们一起踏上这场激动人心的学习之旅吧！😝有需要的小伙伴，可以V扫描下方二维码免费领取🆓。
2024-06-28 10:38:37
1000
原创 5分钟明白LangChain 的输出解析器和链
本文主要聊了LangChain的输出解析器 和 使用LCEL构建链，希望对你有帮助！读者福利：如果大家对大模型感兴趣，这套大模型学习资料一定对你有用如果你是零基础小白，想快速入门大模型是可以考虑的。一方面是学习时间相对较短，学习内容更全面更集中。二方面是可以根据这些资料规划好学习计划和方向。
2024-06-28 10:35:25
333
原创 Dify vs Langchain：AI应用开发的全面分析
另一方面，Langchain通过其Langserve功能提供了一个独特的方法，使开发者能够在本地部署AI应用，确保对部署环境有更大的控制，并加强安全措施。Dify凭借其强大的功能和用户友好的界面，能够满足广泛的开发需求。对于那些寻找更直接的模型集成方法或特定的基于提示的IDE需求的开发者来说，Langchain的专注功能可能是理想选择。总结来说，Dify在架构创新和灵活性方面表现出色，提供了广泛的交互点以增强集成，而Langchain则通过其开发库和集中的模型集成解决方案采取了更简化的方法。
2024-06-28 10:34:25
1239
1
原创 大龄程序员的反思：面对不确定，坚持与成长
最近与几位资深的程序员朋友聚餐，我们深入探讨了各自的职场现状和生活态度。我发现，很多人对于“赚快钱”的渴望与现实的落差感到困惑，而我试图分享的一些长期积累、坚持和面对不确定性的观点，似乎并未得到所有人的认同。首先，我想澄清一点，我并非在灌鸡汤或误导大家。我深知，在这个快节奏的时代，很多人都渴望迅速实现财务自由。但在我看来，真正的成功并非一蹴而就，而是需要我们在正确的道路上不断微调、默默坚持。坚持的力量：成功往往来自于不懈的努力和持续的积累。无论是人脉、资源还是推广，都需要我们花费时间和精力去经营。
2024-06-27 13:42:31
271
原创 基于ReAct机制的AI Agent
ReAct（）是一个框架，其概念来源于一篇论文，其核心思想，就是通过思维链的方式，引导模型将复杂问题进行拆分，一步一步地进行推理（Reasoning）和行动（Action），同时还引入了观察（）环节，在每次执行（Action）之后，都会先观察（）当前现状，然后再进行下一步的推理（ReasonReAct这个框架，就是要让LLM，进行推理，然后采取行动与外界环境互动。ReAct这个框架，就是要让开发者一步步引导LLM进行推理，然后根据推理的结果，判断采取哪个行动。
2024-06-27 11:57:12
803
原创 LangChain让LLM带上记忆
本文介绍了 LLM 缺乏记忆功能的固有缺陷，以及记忆组件的原理，还讨论了如何利用 LangChain 给 LLM 装上记忆组件，让 LLM 能够在对话中更好地保持上下文。希望对你有帮助！读者福利：如果大家对大模型感兴趣，这套大模型学习资料一定对你有用如果你是零基础小白，想快速入门大模型是可以考虑的。一方面是学习时间相对较短，学习内容更全面更集中。二方面是可以根据这些资料规划好学习计划和方向。
2024-06-27 11:56:13
283
原创 转行AI产品经理，这些“门槛”你得先迈过！
随着人工智能（AI）技术的飞速发展，AI产品经理这一岗位逐渐崭露头角，成为许多追求创新和挑战的职业人士的新选择。但转行并非易事，特别是进入到一个全新的领域。在决定踏上AI产品经理这条道路之前，以下这些基本认知是你必须了解的。一、理解AI产品经理的角色定位AI产品经理，顾名思义，是负责设计、开发、优化和推广基于AI技术的产品的专业人员。他们不仅需要具备传统产品经理的市场分析、用户研究、项目管理等能力，还需要对AI技术有深入的了解，能够与技术团队紧密合作，将AI技术应用于产品中，提升产品的智能化水平。
2024-06-26 11:20:02
2955
原创 5分钟理透LangChain的Chain
本文主要聊了 LangChain 中的 Chain 概念。Chain 是 LangChain 中的核心组件，我们对多个组件的一系列调用就是Chain。使用Chain可以让构建复杂的任务，更加清晰简洁。读者福利：如果大家对大模型感兴趣，这套大模型学习资料一定对你有用如果你是零基础小白，想快速入门大模型是可以考虑的。一方面是学习时间相对较短，学习内容更全面更集中。二方面是可以根据这些资料规划好学习计划和方向。
2024-06-26 11:15:51
968
原创 LangChain结合LLM做私有化文档搜索
我们知道LLM（大语言模型）的底模是基于已经过期的公开数据训练出来的，对于新的知识或者私有化的数据LLM一般无法作答，此时LLM会出现“幻觉”。针对“幻觉”问题，一般的解决方案是采用RAG做检索增强。但是我们不可能把所有数据都丢给LLM去学习，比如某个公司积累的某个行业的大量内部知识。此时就需要一个私有化的文档搜索工具了。本文聊聊如何使用LangChain结合LLM快速做一个私有化的文档搜索工具。
2024-06-26 11:14:26
886
原创 医疗领域的大语言模型：塑造高效、智能的医疗未来
医院需要的大语言模型（LLM）应当具备一系列特定的功能和特点，以满足医疗行业的复杂需求。随着ChatGPT等生成式AI技术的兴起，医疗领域对大语言模型的需求也日益增加。高效沟通助手：医院中的医患沟通频繁且复杂，需要模型能够准确理解患者的需求、疑虑，并帮助医生以更清晰、更易懂的方式解释病情、治疗方案等。这样的模型能够减轻医生的工作压力，提升患者满意度。病历书写与质控：病历是医疗工作中极为重要的一部分，但书写病历往往耗时耗力。大语言模型可以辅助医生快速生成病历，甚至自动质控病历内容，确保信息的准确性和完整性。
2024-06-25 14:42:27
1070
原创 5分钟了解LangChain的路由链
这篇博客主要介绍了LangChain中的**路由链（RouterChain）**的概念，它主要用在不确定性的场景下，根据提示词，选择具体的某个链去执行。还聊了它的使用场景和具体案例，希望对你有帮助！读者福利：如果大家对大模型感兴趣，这套大模型学习资料一定对你有用如果你是零基础小白，想快速入门大模型是可以考虑的。一方面是学习时间相对较短，学习内容更全面更集中。二方面是可以根据这些资料规划好学习计划和方向。
2024-06-25 14:29:16
637
原创 LangChain转换链：让数据处理更精准
这篇博客主要介绍了LangChain中的**转换链（TransformChain）**的概念，它主要用在需要对输入的内容进行转换的场景下。希望对你有帮助！读者福利：如果大家对大模型感兴趣，这套大模型学习资料一定对你有用如果你是零基础小白，想快速入门大模型是可以考虑的。一方面是学习时间相对较短，学习内容更全面更集中。二方面是可以根据这些资料规划好学习计划和方向。
2024-06-25 14:25:30
490
原创 AI浪潮下的编程新纪元：拥抱变化，共创辉煌
在大模型技术蓬勃发展的当下，AI的浪潮正席卷全球，它以前所未有的力量重塑着我们的生活和工作的每一个角落。在这样的时代背景下，一个看似简单却充满深意的问题浮现眼前：当AI技术已经如此先进，我们是否还有必要学习编程？程序员的新纪元首先，我们必须明确，作为AI技术最直接影响的领域之一，编程和软件开发正迎来全新的纪元。我的观点或许出乎一些人的意料：在这个时代，我们更应积极拥抱编程，加入这个充满无限可能的领域。AI：程序员的得力助手AI并没有取代程序员，而是成为了他们不可或缺的得力助手。
2024-06-24 15:10:59
1228
原创 没独显照样ChatGLM-6B+Langchain知识库
近来刷到不少大模型的文章，趁着五一拿ChatGLM3-6B搞一个知识库练练手，但是没有独显真的是硬伤，一路处处踩雷。总算是搞出来了一个还过得去的知识库，响应速度在能接受的范围内，这里记录一下，也希望能帮助想要尝试大模型的各位避下雷。读者福利：如果大家对大模型感兴趣，这套大模型学习资料一定对你有用如果你是零基础小白，想快速入门大模型是可以考虑的。一方面是学习时间相对较短，学习内容更全面更集中。二方面是可以根据这些资料规划好学习计划和方向。
2024-06-24 13:53:58
964
原创 十分钟安装部署大模型ChatGML-6B
我是按量买的云服务，穷人真难，看着充值金额不断下降，心疼啊。本次带来大模型最为基础的部署指南，后续我会持续更新，包括大模型微调、大模型原理等内容，敬请期待哦。读者福利：如果大家对大模型感兴趣，这套大模型学习资料一定对你有用如果你是零基础小白，想快速入门大模型是可以考虑的。一方面是学习时间相对较短，学习内容更全面更集中。二方面是可以根据这些资料规划好学习计划和方向。
2024-06-24 13:46:26
372
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人