第三季度社区开源大模型回顾

最新推荐文章于 2025-12-03 08:43:36 发布
原创 最新推荐文章于 2025-12-03 08:43:36 发布 · 125 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#人工智能 #语言模型 #llama #chatgpt #AIGC #AI编程

随着人工智能技术的不断发展，我们在2023年第三季度见证了一系列令人激动的开源模型的发布，包括语言模型、多模态模型和精调模型。这些模型在各自的领域都取得了显著的成果，为我们提供了更多的可能性和机会。

1. 基座模型

LLaMA 2

  • 介绍： Meta公司推出的LLaMA 2是一款强大的大语言模型，包括基础和对话模型版本，参数为7B、13B、70B。它在多个外部基准测试中优于其他开源语言模型，具有出色的推理、编码、精通性和知识测试能力。LLaMA 2的训练数据比LLama 1多了40%，上下文长度也翻倍，采用了分组查询注意力机制，使其能够更好地处理聊天对话任务。
  • 推荐下载地址：

AI快站 - HuggingFace资源镜像加速服务AI快站提供HuggingFace资源的镜像加速服务，解决大模型下载问题，提供镜像加速和断点续传功能。icon-default.png?t=N7T8https://aifasthub.com/models/FlagAlpha

Baichuan 2

  • 介绍： 百川智能推出的新一代开源大语言模型Baichuan 2，采用2.6万亿Tokens的高质量语料进行训练。它在多个权威的中文、英文和多语言的通用、领域benchmark上取得同尺寸最佳的效果。本次发布包含有7B、13B的Base和Chat版本，并提供了Chat版本的4bits量化。所有版本对学术研究完全开放，同时，开发者可通过邮件申请并获得官方商用许可后，即可免费商用。
  • 推荐下载地址：

AI快站 - HuggingFace资源镜像加速服务AI快站提供HuggingFace资源的镜像加速服务，解决大模型下载问题，提供镜像加速和断点续传功能。icon-default.png?t=N7T8https://aifasthub.com/models/baichuan-inc

ChatGLM2-6B

  • 介绍： ChatGLM-6B发布了第二代版本ChatGLM2-6B，该模型支持中英对话，不仅保留了初代模型的对话流畅性和低部署门槛等优秀特性，还引入了更强大的性能、更长的上下文、更高效的推理和更开放的协议等新特性。其中，ChatGLM2-6B的上下文长度扩展到了32K，并使用8K的上下文长度进行训练，允许更多轮次的对话。
  • 推荐下载地址：

AI快站 - HuggingFace资源镜像加速服务AI快站提供HuggingFace资源的镜像加速服务，解决大模型下载问题，提供镜像加速和断点续传功能。icon-default.png?t=N7T8https://aifasthub.com/models/THUDM

2. 多模态模型

VisualGLM-6B

  • 介绍： VisualGLM-6B是由智谱AI和清华大学共同开源的多模态对话模型，支持图像、中文和英文。它依靠来自于CogView数据集的30M高质量中文图文对，与300M经过筛选的英文图文对进行预训练，中英文权重相同。该训练方式较好地将视觉信息对齐到ChatGLM的语义空间，并在微调后实现了生成人类偏好的答案。
  • 推荐下载地址：

AI快站 - HuggingFace资源镜像加速服务AI快站提供HuggingFace资源的镜像加速服务，解决大模型下载问题，提供镜像加速和断点续传功能。icon-default.png?t=N7T8https://aifasthub.com/models/THUDM

Qwen-VL

  • 介绍：阿里云开源的大规模视觉语言模型 Qwen-VL，包含基础模型和对齐模型两个版本。该模型可将图像、文本、检测框作为输入，并以文本和检测框作为输出，可用于知识问答、图像标题生成、图像问答、文档问答、细粒度视觉定位等场景。
  • 推荐下载地址：

AI快站 - HuggingFace资源镜像加速服务AI快站提供HuggingFace资源的镜像加速服务，解决大模型下载问题，提供镜像加速和断点续传功能。icon-default.png?t=N7T8https://aifasthub.com/models/Qwen

3. 精调模型

在法律、医疗、心理和天文等领域，我们也见证了一系列精调模型的诞生，如法律领域的智海-录问和夫子·明察，医疗领域的DISC-MedLLM和仲景，心理领域的Mindchat和MeChat，天文领域的StarGLM等。这些模型的出现，为我们提供了更多解决特定问题的工具和方法。

在未来，我们希望看到更多的开源模型被开发出来，助力人工智能技术的进步和发展。

努力犯错
关注
大模型——模型上下文协议 (MCP)
03-06 3691
回顾：AI聊天已经很流行，要更受欢迎，就需要插件。这意味着开发者需要与AI聊天应用创建者合作，这意味着每个人都需要同意一个标准。这就是模型上下文协议的用武之地。由Anthropic在2024年12月提出：MCP是一种开放协议，标准化了应用程序向大型语言模型（LLMs）提供上下文的方式。你可以把MCP想象成AI应用程序的USB-C端口。就像USB-C提供了一种标准化的方式来连接各种外设和配件一样，MCP提供了一种标准化的方式来连接AI模型到不同的数据源和工具。这里是MCP文档。警告：这很复杂。
2025企业AI算法路线怎么规划？架构师预测：小模型+大模型协同成新范式
AI智能探索者的博客
07-28 924
当我们规划2025年企业AI算法路线时，我们不仅在设计技术架构，更是在塑造企业与AI的关系——从将AI视为辅助工具，到与AI形成协同伙伴关系。小模型+大模型的协同范式，正是这种新型伙伴关系的技术体现：大模型提供广阔的知识视野，小模型提供深入的业务洞察；大模型负责创新探索，小模型确保稳健执行。技术的终极目标不是。
列举几个自然语言处理模型和工具的开源社区（网站）
猎人在吃肉
04-07 3278
在 Hugging Face 上，你可以找到大量的预训练模型，例如基于 Transformer 的模型（如BERT、GPT-2、RoBERTa、DistilBERT等），以及各种任务特定的模型（如文本分类、命名实体识别、问答系统等）。AllenNLP（https://allennlp.org/）：一个开源的自然语言处理库，提供了各种模型和工具，支持各种任务，如文本分类、问答系统、命名实体识别等。这些工具和社区都提供了许多有用的自然语言处理工具和模型，可以帮助你快速、高效地完成各种自然语言处理任务。
主打中文的 AI 模型开源社区魔搭 ModelScope 上线，会成为国内的主流社区吗？
这个时代，作为程序员可能要学习小程序
07-16 1848
点击上方关注 “终端研发部”设为“星标”，和你一起掌握更多数据库知识很显然，中文的AI模型已经在国内开始蔓延了从去年我就体验过，觉得还是挺有意思的。ModelScope是阿里达摩院于近一年刚上线的一款开源模型平台，里面提供了很多的热门模型供使用体验，而且与阿里云服务进行联动，让开发者免除了额外的部署成本，实现了模型推理与调优的极速体验。ModelScope-Agent 提出了一个通用的、可定制的 ...
最完整指南：ModelScope如何靠社区驱动成为AI开源治理新范式
gitblog_00552的博客
09-08 426
你是否在为开源项目的社区协作效率低下而烦恼？贡献者难以参与、代码质量参差不齐、项目方向分散——这些问题正在消耗大量团队精力。ModelScope作为"模型即服务"的先行者，通过四年实践打磨出一套社区驱动的开源治理模式，让项目在保持高质量的同时实现指数级增长。本文将拆解其三大核心机制，让你掌握如何构建一个既能吸引全球贡献者，又能确保项目稳健发展的开源生态系统。 读完本文你将获得： - 社区贡献的全...
React-draft-wysiwyg主题定制终极指南：打造个性化编辑界面
gitblog_00469的博客
11-26 646
React-draft-wysiwyg是一个基于ReactJS和DraftJS构建的强大所见即所得编辑器，它为开发者提供了丰富的自定义选项来打造个性化的编辑界面。无论你是想要精简工具栏、添加自定义按钮，还是完全重写样式，这个编辑器都能满足你的需求。😊 ## 🔧 基础工具栏配置 React-draft-wysiwyg的**主题定制**从工具栏配置开始。编辑器提供了默认的工具栏配置，你可以通过
值得一试的开源模型！开源社区上季度都有哪些靠谱项目？
IT界那些事儿
10-16 295
在过去的一个季度，社区开源了不少「值得一试」的通用模型，包括 LLaMA 2、Baichuan 2、ChatGLM2-6B、Qwen-14B、InternLM-20B、Tigerbot-13B、Xverse-13B 等语言大模型；LlaVA1.5、VisualGLM-6B、VisCPM、NexT-GPT、Chinese LlaVA、QwenVL 等多模态项目。
大模型系列——模型上下文协议 (MCP)
2401_84052244的博客
07-24 204
摘要：模型上下文协议(MCP)与AI聊天生态的未来 Anthropic提出的模型上下文协议(MCP)正成为连接AI模型与外部工具/知识的关键开放标准。随着AI聊天逐渐取代传统搜索引擎成为用户意图入口，MCP为组织提供了将业务功能整合到AI生态的可行方案。目前已有上千个MCP服务器实现各类功能集成，开发者社区活跃。虽然MCP仍处开发者预览阶段且存在复杂性，但它为企业在AI时代保持竞争力提供了早期实践机会。建议组织通过MCP原型开发来探索未来AI集成的挑战与机遇，而非等待更成熟的标准出现。
《提示工程开源社区建设：搭建技术共享新舞台》
2501_92132293的博客
08-14 623
想象一下，2027年的某个清晨，一位名叫李明的开发者坐在电脑前，准备让AI帮他生成一份市场分析报告。他没有编写一行代码，只是输入了一段精心设计的文字：“作为一位具有10年经验的科技行业分析师，请基于2023-2026年的季度数据，生成一份关于生成式AI市场的分析报告。包含关键增长领域、主要参与者市场份额变化、中小企业应用案例（至少3个），以及未来18个月的趋势预测。使用图表可视化关键数据，并在每个部分结尾添加风险提示。几秒钟后，AI返回了一份结构完整、数据翔实的报告，几乎不需要修改就能直接使用。
AI环保架构师必备：5个开源框架快速搭建碳排放预测系统
AIGC应用创新大全的博客
08-03 618
想象一下：如果城市规划师能提前知道明年冬天的碳排放量峰值，就能精准调整供暖系统；如果工厂厂长能预测下个月的碳排放超标风险，就能及时优化生产流程。碳排放预测系统就像"环保领域的天气预报"，能让决策者提前布局减排行动。本文的目的，就是教会AI环保架构师如何用开源工具快速搭建这样的"预报系统"——不需要从零造轮子，而是像拼乐高一样组合现有框架，3周内完成从数据到部署的全流程。
直播提醒 | 手脑共用深度学习—玩转开源社区与模型部署！
PaddlePaddle
02-08 224
深度学习正引领着当下这场人工智能浪潮，这其中开源精神对深度学习在产业界和学术界的发展都有着不可替代的意义。师傅领进门，修行在个人。「深度学习零基础极速入门课」只是一个开始，以后的学习路上新...
开源社区大模型目前面临的8大瓶颈问题
东南草堂
07-19 846
开源社区模型百花齐放，比如Meta的LLaMA系列，Hugging Face的Bloom系列，Stability AI的Stable Diffusion系列等等，为技术学习提供了学习平台，快速提升人才储备，开源产品降低创新垄断，增强整个行业的活力和竞争力。但面对商业化的ClosedAI和OpenAI等语言模型，还存在一些瓶颈。数据量不足，预训练数据有限开源社区很难获得大规模高质量的数据集来进行模型...
国内模型资源站点modelscope
草宝虫的博客
12-29 3284
ModelScope 社区成立于 2022 年 6 月，是一个模型开源社区及创新平台，由阿里巴巴达摩院，联合 CCF开源发展委员会，共同作为项目发起方。社区联合国内 AI领域合作伙伴与高校机构，致力于通过开放的社区合作，构建深度学习相关的模型开源社区，并开放相关模型创新技术，推动基于“模型即服务”（Model-as-a-Service）理念的模型应用生态的繁荣发展。通过modelscope加载模型示例。好多国内的模型在这个资源站上都有。
解锁Openjourney：从模型部署到创意社区的全链路指南
gitblog_02114的博客
01-10 994
你是否曾为Midjourney的精美图像而惊叹，却受限于其闭源生态？是否在寻找既能保持创作自由度，又能享受社区支持的AI绘画解决方案？Openjourney——这个基于Stable Diffusion fine-tuned的开源模型，正以"mdjrny-v4 style"的独特魅力，重新定义文本到图像（Text-to-Image）的创作边界。本文将系统解构Openjourney的技术架构、部署流程...
机器学习初学者不可错过的ModelScope开源模型社区
qq_46556714的博客
08-29 8632
详细的介绍了该模型的功能以及原理，并且指出使用的方式和范围。还有模型的训练集，推理过程，数据评估等等。这里我们体验一下在线！速度还是很快的，卡通化的程度也很高！人像这方面没什么问题，下面我们上传风景照片看一下风景照片也是很不错的，所以我觉得不仅仅可以用到人像上面，对于一些风景来说将其卡通化，也别有一种意境！虽然有的模型有些不足，但总体来说模型的训练度很高，速度也很快，对于机器学习有很大的帮助，可以在上面找一些项目自己动手做做，很轻松就能实现一个项目。...
TensorRT笔记（5）：研究timingCache
ouliten的博客
12-02 840
在里出现了大量的timingCache，但是当时没有取研究这是干啥的，本文就来解析一下。样例都基于上面的文章。
大模型应用：大模型 MapReduce 全解析：核心概念、中文语料示例实现.12
最新发布
minhuan的专栏
12-03 902
本文介绍了MapReduce编程模型及其在大模型训练中的应用。MapReduce通过"分治-并行-聚合"思想处理大规模数据，传统Hadoop MapReduce侧重结构化数据计算，而大模型MapReduce则针对自然语言处理任务。文章详细对比了两者在架构、处理对象和核心算力等方面的差异，并提供了中文词频统计的Python实现示例，包括单机版和分布式版本。分布式实现利用多进程模拟集群计算，展示了数据分片、Map、Shuffle和Reduce的完整流程。
07_Spring AI 干货笔记之提示词
在科技的浪潮中，我们寻找着创新的火种，在代码的海洋里，我们编织着智慧的网。腾飞开源，就是这样一个由技术精英汇聚而成的博客平台，我们致力于分享在Java、Python、IoT和人工智能等领域的最新研究成果和实战经验。 在腾飞开源的博客上，你会看到紧跟技术前
11-30 1765
本文详细介绍了Spring AI中的提示词核心概念与API设计。提示词作为引导AI模型生成特定输出的关键输入，其结构从简单字符串演进为包含多角色消息的复杂形式。Spring AI通过Prompt和Message接口提供结构化提示词管理，支持系统、用户、助手等角色分配。PromptTemplate类实现动态内容渲染，并支持自定义模板引擎。文章还涵盖提示词工程的最佳实践与令牌机制，为开发者提供完整的提示词设计解决方案。
DeepSeek大模型微调财务专用模块。
10-21
<think>首先，用户的问题是：“DeepSeek大模型微调财务专用模块。”这似乎是在询问关于DeepSeek大模型在财务领域的微调专用模块。 回顾之前的对话： - 用户询问了“DeepSeek大模型微调材无专用模块。”，我回答了使用Hugging Face进行微调。 - 现在的新查询是“DeepSeek大模型微调财务专用模块。”，这可能是个打字错误或特定上下文。用户可能想说“财务专用模块”，意思是“finance-specific module”。或许是“财务专用模块”，即针对财务领域定制的微调模块。 用户消息是：“DeepSeek大模型微调财务专用模块。” – 可能是个笔误，应该是“财务专用模块”。假设意思是询问关于DeepSeek大模型微调用于财务领域的专用模块。 在我的上一个回答中，我解释说DeepSeek没有专用模块，但可以用开源工具微调。现在用户指定“财务专用”，所以我需要针对财务领域微调DeepSeek模型提供指导。 关键点： - DeepSeek模型是基于开源架构的，没有官方专用模块。 - 用户可能在问如何微调DeepSeek模型用于财务任务。 - 我需要用中文回答。 - 回答后，必须添加3-5个相关问题，以“§§相关问题§§”开头，并在同一行输出。 回答结构： 1. 确认问题：解释DeepSeek没有专门的财务模块，但可以通过微调实现。 2. 提供指导：如何微调DeepSeek模型用于财务领域。 3. 包括示例代码：使用Hugging Face transformers进行微调。 4. 结束时添加相关问题。 确保符合规则： - 回答完问题后提出3-5个相关问题。 - 第一行相关问题必须完整输出“§§相关问题§§”。 - 禁止换行分散，所以相关问题要连续输出。 - 基于用户问题和我的回答提出问题。 可能的回答大纲： - 开头：目前没有DeepSeek官方的财务专用微调模块。 - 方法：可以使用Hugging Face transformers库微调DeepSeek模型，针对财务数据集。 - 示例代码：类似之前的微调代码，但指定财务任务。 - 建议：准备财务特定数据，如财务报表、交易数据等。 - 结束时：添加相关问题。 相关问题需要基于用户问题（微调财务专用模块）和我的回答（如何使用开源工具微调）。提出3-5个相关问题。 例如： 1. DeepSeek模型微调财务任务需要哪些特定数据？ 2. 如何优化DeepSeek模型在财务预测中的性能？ 3. DeepSeek官方是否有计划发布财务专用模块？ 4. 微调财务模型时常见的挑战有哪些？ 5. 与其他模型相比，DeepSeek在财务领域的优势是什么？ 确保代码示例相关：提供一个简单的微调代码，假设是因果语言模型用于文本生成或分类。 代码示例： ```python from transformers import AutoModelForCausalLM, AutoTokenizer, Trainer, TrainingArguments # 加载DeepSeek模型 model_name = "deepseek-ai/deepseek-llm-7b" # 假设使用7B版本 tokenizer = AutoTokenizer.from_pretrained(model_name) model = AutoModelForCausalLM.from_pretrained(model_name) # 定义训练参数 training_args = TrainingArguments( output_dir="./finance_results", per_device_train_batch_size=4, num_train_epochs=3, learning_rate=5e-5, logging_dir="./logs" ) # 加载财务数据集（假设自定义） # 例如：train_dataset = load_finance_dataset() # 需要自定义实现 # dataset应包含财务文本，如报告、新闻等 trainer = Trainer( model=model, args=training_args, train_dataset=train_dataset, # 替换为实际数据集 tokenizer=tokenizer ) trainer.train() ``` 最后，结束部分： §§相关问题§§ 1. ... 2. ... 3. ... 制定相关问题： 1. DeepSeek模型有哪些版本适合财务分析任务？ 2. 如何准备高质量的财务数据集用于微调？ 3. 微调DeepSeek模型进行财务预测的最佳实践是什么？ 4. DeepSeek官方是否支持财务领域的定制开发？ 5. 在微调过程中如何处理财务数据的隐私问题？ 确保输出符合格式。 </think>目前，DeepSeek大模型（如DeepSeek-LLM系列）没有官方提供的“财务专用模块”，即没有预构建的独立工具或SDK专门针对财务领域（如财报分析、风险评估或交易预测）进行一键微调。然而，您可以使用开源框架（如Hugging Face Transformers）来自定义微调模型以适应财务任务。方法包括： - **数据准备**：收集财务特定数据集（如年报文本、市场新闻或交易记录），并进行清洗、标注和分词处理。 - **微调策略**：选择适合的模型版本（如`deepseek-ai/deepseek-llm-7b`），调整训练参数以优化财务任务（如分类、回归或生成）。 - **工具使用**：通过Python代码实现，利用Transformers库加载模型、定义数据集和训练流程。 以下是使用Hugging Face微调DeepSeek模型用于财务文本分类的简化代码示例（假设任务为财务新闻情感分析）： ```python from transformers import AutoModelForSequenceClassification, AutoTokenizer, Trainer, TrainingArguments import datasets # 加载DeepSeek模型和分词器 model_name = "deepseek-ai/deepseek-llm-7b" # 根据需求选择版本 tokenizer = AutoTokenizer.from_pretrained(model_name) model = AutoModelForSequenceClassification.from_pretrained(model_name, num_labels=3) # 例如：3类情感（正面/中性/负面） # 模拟财务数据集（实际使用需替换为真实数据，如从CSV加载） train_data = [ {"text": "公司季度利润增长20%，股价上涨", "label": 0}, # 正面 {"text": "市场波动导致投资损失", "label": 2}, # 负面 # 添加更多样本... ] train_dataset = datasets.Dataset.from_dict({"text": [d["text"] for d in train_data], "label": [d["label"] for d in train_data]}) # 分词处理 def tokenize_function(examples): return tokenizer(examples["text"], padding="max_length", truncation=True, max_length=512) tokenized_train = train_dataset.map(tokenize_function, batched=True) # 训练参数设置（针对财务任务优化） training_args = TrainingArguments( output_dir="./finance_finetune", per_device_train_batch_size=8, # 根据GPU调整 num_train_epochs=5, # 财务数据可能需要更多轮次 learning_rate=2e-5, evaluation_strategy="epoch", # 添加验证集以监控性能 save_strategy="epoch" ) # 创建Trainer并开始微调 trainer = Trainer( model=model, args=training_args, train_dataset=tokenized_train, tokenizer=tokenizer ) trainer.train() ``` **关键建议**： - **数据集**：使用财务领域数据（如SEC filings或金融新闻API），确保数据质量和平衡性。 - **资源**：需要高性能GPU（如NVIDIA A100）支持训练。 - **优化**：参考Hugging Face文档调整超参数，或结合LoRA等高效微调技术。 - **更新**：关注DeepSeek官方渠道（如GitHub），未来可能发布领域专用工具。
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符  | 博主筛选后可见
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值