免费国产大模型API接口合集，企业可合规使用

已于 2024-05-22 17:17:16 修改
阅读量7.5k 收藏 57
点赞数 21
文章标签： 人工智能 chatgpt 语言模型
于 2024-05-22 17:14:58 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/m0_71858447/article/details/139124838
版权

企业想测试国产大模型，但又有Token焦虑？

图片

近日，阿里云、百度、字节跳动、智谱等科技巨头相继宣布其大模型产品价格大幅下调，引发了一场激烈的TO B市场价格战。

直接治愈企业的Token焦虑。

5月21日，阿里云宣布其通义千问GPT-4级主力模型Qwen-Long的API输入价格从0.02元/千tokens降至0.0005元/千tokens，降幅高达97%。这一价格调整意味着，仅需1元钱，用户就能获得相当于5本《新华字典》文字量的200万tokens，而Qwen-Long模型支持的长文本输入高达1千万tokens。阿里云表示，这一降价策略将“击穿全球底价”，其价格仅为GPT-4的1/400。

字节跳动也在这场价格战中，其5月15日宣布其豆包通用模型pro-32k版在企业市场的定价仅为0.0008元/千Tokens，相当于0.8厘就能处理1500多个汉字，价格比市面上同规格模型低99.3%。火山引擎现场公布的价格计算显示，一元钱就能买到豆包主力模型的125万Tokens。

同在战场中的还有智谱，早在5月13日就推出了新的价格体系，其中GLM-3 Turbo模型的调用价格下调80%，从5元/百万tokens降至1元/百万tokens。调整后，使用GLM-3 Turbo创作一万条小红书文案的成本将仅需约1元钱，这无疑将极大地降低企业和个人的使用门槛。

在上午阿里降价后，百度也于同日下午速度跟进，宣布文心大模型两大主力模型全面免费。

对，没听错，免费！

图片

随后，科大讯飞也表示跟进，全面赋能，永久免费！

图片

下面，全云在线整理了目前国内可免费用的国产大模型合集（大厂小厂都有~）

划重点：免费免费免费！合规合规合规！


帮助开发人员快速上手最适合企业业务的大模型~

马上联系全云在线

免费开通企业试用账户

参考链接：开通申请

阿里云

通义千问开源模型

模型服务

规格

价格（单位：元）

计费模式

上线时间

通义千问32B

qwen1.5-32b-chat

限时免费中

后付费

已上线

通义千问1.8B

qwen-1.8b-chat

限时免费中

后付费

已上线

通义千问0.5B

qwen1.5-0.5b-chat

限时免费中

后付费

已上线

通义千问110B

qwen1.5-110b-chat

限时免费中

后付费

已上线

多模态文生图

模型服务

规格

价格（单位：元）

计费模式

上线时间

StableDiffusion文生图模型

stable-diffusion-xl

限时免费中

后付费

已上线

stable-diffusion-v1.5

FaceChain人物图像检测

facechain-facedetect

限时免费中

后付费

多模态向量表征模型

模型服务

规格

价格（单位：元）

计费模式

上线时间

ONE-PEACE多模态向量表征

multimodal-embedding-one-peace-v1

限时免费中

限时免费中

已上线

三方开源大语言模型

模型服务

规格

价格（单位：元）

计费模式

上线时间

LLaMa3 大语言模型

llama3-8b-instruct

限时免费中

后付费

已上线

llama3-70b-instruct

后付费

已上线

LLaMa2 大语言模型

llama2-7b-chat-v2

后付费

已上线

llama2-13b-chat-v2

百川模型1

baichuan-7b-v1

限时免费中

后付费

已上线

ChatGLM3开源双语对话语言模型

chatglm3-6b

限时免费中

后付费

已上线

姜子牙通用大模型V1

ziya-llama-13b-v1

限时免费中

后付费

已上线

Dolly开源大语言模型

dolly-12b-v2

限时免费中

后付费

已上线

BELLE开源中文对话大模型

belle-llama-13b-2m-v1

限时免费中

后付费

已上线

MOSS开源对话语言模型

moss-moon-003-sft

限时免费中

后付费

已上线

moss-moon-003-base

限时免费中

后付费

元语功能型对话大模型V2

chatyuan-large-v2

限时免费中

后付费

已上线

BiLLa开源推理能力增强模型

billa-7b-sft-v1

限时免费中

后付费

已上线

百度智能云

文心大语言模型

模型服务内容子项单价
ERNIE Speed系列推理服务输入免费
输出免费
ERNIE Lite系列推理服务输入免费
输出免费
ERNIE Tiny系列推理服务输入免费
输出免费

第三方大语言模型

模型服务内容单价
Yi-34B-Chat公有云在线调用体验服务限时免费，每个账号每天包含500次调用额度(按调用总次数统计，包括但不限于调用成功的次数)。
Fuyu-8B公有云在线调用体验服务限时免费，每个账号每天包含500次调用额度(按调用总次数统计，包括但不限于调用成功的次数)。

腾讯云

免费额度

产品名

免费额度

hunyuan-pro

共计10万 tokens，共享消耗

hunyuan-standard

hunyuan-lite

hunyuan-embedding

100万 tokens

注意：首次开通腾讯混元大模型服务后，混元生文将发放一定量级的免费调用额度，供测试体验。免费调用额度将以一次性的免费资源包的形式配送，并在计费结算时优先扣减。免费资源包有效期为1年，自开通服务之日起1年内若免费资源包次数未使用完，则过期作废。

火山引擎

大语言模型

模型提供方模型上下文长度服务类型免费额度
智谱AIGLM3-130B8K推理服务免费限量测试
GLM3-130B金融模型8K推理服务免费限量测试
MetaLlama3-8B（开源）8K推理服务免费限量测试
Llama3-70B（开源）8K推理服务免费限量测试
Mistral AIMistral-7B（开源）32K推理服务免费限量测试
百川智能baichuan-7B（开源）4K推理服务免费限量测试
DatabricksDolly-V2-12B（开源）2K推理服务免费限量测试

科大讯飞讯飞星火大模型

科大讯飞在优化服务体验方面迈出了重要一步，新增了慷慨的免费额度，企业用户能获得500万tokens的免费额度，显著降低了企业初次尝试与日常使用的门槛。

图片

Free-api

Github上也有一些用于研究用的免费大模型API接口，现一起做个合集。

注意：以下内容仅供研究禁止套壳对外服务对官方造成服务压力

KIMI大模型

GitHub - LLM-Red-Team/kimi-free-api

 🚀 KIMI AI 长文本大模型服务，支持高速流式输出、联网搜索、长文档解读、图像解析、多轮对话，零配置部署，多路token支持，自动清理会话痕迹。

图片

阶跃星辰

阶跃星辰 (跃问StepChat)  LLM-Red-Team/step-free-api

 🚀 跃问StepChat 多模态大模型白嫖服务，支持高速流式输出、联网搜索、长文档解读、图像解析、多轮对话，零配置部署，多路token支持，自动清理会话痕迹。

智谱清言

ZhipuAI (智谱清言) LLM-Red-Team/glm-free-api

🚀 智谱清言 ChatGLM4大模型白嫖服务，支持高速流式输出、支持智能体对话、支持多轮对话、支持AI绘图、支持联网搜索、支持长文档解读、支持代码调用、支持图像解析，零配置部署，多路token支持，自动清理会话痕迹。

模聆心智能

聆心智能 (Emohaa) LLM-Red-Team/emohaa-free-api

🚀 聆心智能 Emohaa情感陪伴大模型白嫖服务，支持高速流式输出、多轮对话，零配置部署，多路token支持，自动清理会话痕迹。

作为国内外先进AI大模型服务集市，全云在线提供包括阿里云通义千问、百度云文心一言、华为云盘古大模型、腾讯云混元大模型、微软云AzureOpenAI等在内的大模型服务，帮助企业以更优惠的价格获取服务。

【法律服务 × 国产大模型】智能合规审查与案例推理平台工程实践全解析
在信息的熵增中，记录结构、重建秩序。 技术思想者的笔记，系统构建者的注释。
05-03 29
法律服务正迎来前所未有的智能化升级浪潮。企业合规、高效判例检索、法律文书生成等场景，已成为国产大模型在垂直行业中落地的关键突破口。本文基于一套真实构建案例，深入拆解智能合规审查与案例推理平台的技术架构与工程路径。涵盖模型选择、模块原理、推理链路、多Agent协同、私有化部署与落地难点，全面呈现大模型赋能法律服务的实战路线图，助力从业者打造可交付、可扩展的法律AI产品。
构建国产 Agent 系统：基于 DeepSeek/Qwen 实战 API 封装
在信息的熵增中，记录结构、重建秩序。 技术思想者的笔记，系统构建者的注释。
04-10 878
当前市面上的 Agent 框架多基于 OpenAI 系列模型（GPT-4、GPT-3.5-turbo 等）， 但在国产大模型迅速成熟的背景下，**构建兼容 DeepSeek、Qwen 等国产模型的 Agent 系统**已成为必选项。 本章聚焦实战： - 如何封装一套**国产模型通用 Agent API 层** - 如何处理不同模型接口的差异（参数、上下文、调用方式） - 如何将其集成到已有的多工具 Agent 执行链中 让你不再被国外接口掣肘，**真正拥有可控、自主的智能体能力栈**。
使用 ollama 部署本地模型，零基础入门到精通，非常详细收藏我这一篇就够了
m0_65555479的博客
08-15 2931
在本地启动并运行大型语言模型。运行Llama 2，Code Llama和其他模型。自定义并创建您自己的。
免费大语言模型（LLM）API接口调用平台大盘点
不断学习，重在方法； 不断思考，重在逻辑； 不断实践，重在勤奋； 不断总结，重在坚持……
04-22 763
本文提供了当前主流大语言模型（LLM）统一接口平台对比的表格，涵盖了核心功能、模型聚合能力及免费政策等关键维度。
免费大模型API资源分享，支持QwQ 32B、deepseek R1、FLUX等
baidu_24794635的博客
03-12 823
免费大语言模型API：aigpu.cn、pollinations.ai
Cursor使用及接入教程（非常详细），零基础入门到精通，看这一篇就够了
Python单行客的博客
10-30 8533
Cursor使用及接入教程（非常详细），零基础入门到精通，看这一篇就够了
无需本地部署！免费使用开源大模型API
优快云_430422的博客
07-10 3318
之前，我给大家分享过几篇关于如何在本地部署开源大模型以及应用场景的文章。比如说，给本地大模型添加知识库、API的调用等等。在这个过程中，有粉丝反馈自己不会部署，或者电脑配置不好，想知道还有没有办法使用这些开源大模型。今天就来分享一个免费且无门槛使用各种主流开源模型及其API的方法，让你不用在本地部署开源模型，也可以在各种第三方应用中调用这些模型，例如翻译插件、Dify的工作流、对话应用等等。这些场景下都可以用这个方法来省钱。我们今天要用的平台名字叫Groq。
2024年最新免费AI大模型API汇总及国内大模型使用教程（附代码）
weixin_53880910的博客
08-08 9005
腾讯混元大模型接入地址https://console.cloud.tencent.com/hunyuan/start 点击创建密钥，到新页面，新建密钥 也可以到调试界面进行调试使用，在最开始表格中的文档查看，进去点击调试好了，选择你的代码复制到本地即可。
【AI大模型】Cherry Studio和Deepseek模型搭建本地知识库+硅基流动API调用+本地ollama模型调用
LeonJin的博客
02-08 3160
构建知识库的技术路径并不难理解，cherry studio给出了很完整的解决方案和工程实现demo从结果完整度来看，deepseek-r1 > deepseek-v3 > deepseek-r1:14b从耗时情况来看，deepseek-r1:14b < deepseek-v3 < deepseek-r1 (不排除云端资源紧张导致耗时增加)基本上可以确认基于推理模型和嵌入模型以及一系列的知识前处理和后处理工具可以搭建出一个本地知识库。
国产化技术栈与大模型开发深度融合：现状、挑战与实践路径
最新发布
GY的的专栏
05-07 1020
在此背景下，如何实现国产化技术栈与大模型开发的深度融合，成为关乎技术自主可控的关键命题。数据库领域‌：瀚高数据库（HighGo DB）已实现从单机版到分布式集群的全栈产品布局，其最新v6.0版本TPC-C测试性能达128万tpmC，并创新性集成向量检索模块，支持FPGA加速的相似度计算。统信UOS V20专业版已完成与昇腾910B、海光7285等6款国产芯片的深度优化，SPEC CPU2017测试显示其计算密集型任务性能达CentOS 7的92%。
跑得起来 ≠ 用得起来：国产大模型产业化的真实挑战
在信息的熵增中，记录结构、重建秩序。 技术思想者的笔记，系统构建者的注释。
04-17 839
国产大模型到底能不能用？开源模型有没有出头机会？企业怎么选型、接入、部署、调优？作为一个亲手拉过国产大模型、做过B端交付、调过推理性能、踩过坑、写过评估报告的技术人，我想系统复盘一下： - 哪些国产大模型是真正能用的，不止是能跑； - 哪些项目落地案例有实操意义，而不是PPT吹水； - 为什么很多企业接了大模型最后不了了之； - 未来2年产业化走向哪几个战场，哪些人、哪些技术会吃到红利。 这不是行业观察，不是政策解读，而是“国产大模型真实应用现场”的技术笔记。
免费大模型的API方法
weixin_44162814的博客
04-14 269
开通百炼不会产生费用，仅调用、部署、调优模型会产生相应费用（超出免费额度后）。里面可以用通义千文的max版本的API，有免费额度。里面有蒸馏版的模型API，可以无限使用，可以平常调试，但是满血版的基本都是付费。2.硅基流动siliconflow。
TensorFlow相关组件的安装
AAI666666的博客
01-11 2620
TensorFlow相关组件的安装
九款国内免费大模型，前三款强烈推荐！
热门推荐
xiangxueerfei的博客
05-05 2万+
等多个领域展现其强大的多模态能力。此外，智谱清言还具备语音交互功能，使得用户与AI的互动更加自然和高效。
国内使用大语言模型 的api接口，亲测有效
jinke2010_happy的博客
07-26 5226
国内可以使用gpt-3.5-turbo，gpt-3.5-turbo-0613，gpt-4-0314，gpt-4-0613 四种模型api接口
国内外大模型免费访问入口汇总
日常学习与专研的记录
04-26 3936
本文主要介绍国内外的大模型免费访问入口，包含 gpt-3、gpt-4、Claude-3、Gemini、通义千问、文心一言、Kimi、海螺、讯飞星火、百川大模型、智谱AI大模型、盘古NLP大模型等。
AI菜鸟向前飞 — LLM简介
2401_82469710的博客
05-11 1565
AI菜鸟向前飞 — LLM简介
企业如何部署大模型
03-24
<think>好的，用户问的是企业如何部署大模型。首先，我需要明确大模型部署的关键步骤和注意事项。企业部署大模型通常会面临技术选型、资源分配、数据安全等问题，所以需要分阶段来考虑。 首先，得确定业务需求。企业需要明确大模型的应用场景，比如客服、数据分析还是内容生成。不同的场景对模型的要求不同，比如实时性、准确度等。然后得评估现有的技术基础设施，比如计算资源是否足够，是否有GPU集群，存储和网络带宽是否满足需求。这一步可能需要和业务部门沟通，确保技术方案能支持业务目标。 接下来是模型选择。企业可以选择使用开源模型，比如LLaMA、BERT，或者商用API，比如OpenAI、Azure AI。开源模型的好处是可控性强，可以自定义，但需要更多的技术投入；商用API则省事，但可能涉及数据隐私问题。这时候需要权衡利弊，尤其是数据安全和合规性方面，比如GDPR或者国内的数据安全法。 然后是数据准备。大模型需要高质量的数据进行训练或微调。企业需要收集和清洗数据，确保数据质量，同时处理敏感信息，比如匿名化或脱敏。数据预处理包括标注、分词、特征工程等，这一步很关键，直接影响模型效果。 接下来是模型训练与微调。如果使用预训练模型，可能需要在企业特定数据上进行微调。这里需要配置分布式训练环境，可能需要用到多个GPU或者TPU，同时监控训练过程，防止过拟合。训练完成后，还要评估模型性能，使用测试集验证准确率、召回率等指标。 部署阶段需要考虑模型服务化。通常会用REST API或者gRPC将模型封装成服务，方便其他系统调用。这时候要考虑高并发和低延迟，可能需要负载均衡和自动扩缩容。另外，模型版本管理和回滚机制也很重要，确保更新时不影响现有服务。 监控与维护也是不可少的。上线后要实时监控性能指标，比如响应时间、错误率，同时关注资源使用情况，及时优化。还要定期更新模型，适应数据分布的变化，处理用户反馈的问题，持续改进模型。 安全和合规方面，必须确保数据传输和存储加密，访问控制严格，权限管理到位。合规性审核也要定期进行，避免法律风险。此外，成本管理也很重要，因为大模型的训练和推理成本高，需要优化资源使用，选择合适的云服务或本地部署，平衡性能和开销。 最后，员工培训和文化适应。技术团队需要掌握大模型开发和运维技能，业务部门要理解模型的能力和限制，促进跨部门协作，建立反馈机制，持续优化应用效果。 总结一下，企业部署大模型是一个系统工程，涉及需求分析、技术选型、数据处理、模型优化、部署运维、安全合规和团队协作等多个环节，需要全面规划和持续迭代。可能还需要考虑是否采用混合云架构，或者如何与现有系统集成，这些都需要详细评估和分步实施。</think>企业部署大模型需要系统规划与分步实施，以下是关键步骤和注意事项： --- ### **一、明确需求与评估基础** 1. **业务场景分析** - 确定大模型用途（如智能客服、文档生成、数据分析等）。 - 明确性能需求：实时性、准确性、并发量等。 2. **基础设施评估** - 计算资源：需GPU/TPU集群支持训练与推理（如NVIDIA A100、H100）。 - 存储与网络：确保高速存储（如分布式文件系统）和低延迟网络。 - 云或本地部署：选择公有云（AWS/GCP/Azure）、私有云或混合架构。 --- ### **二、模型选择与优化** 1. **模型选型** - 开源模型：如LLaMA、Falcon、ChatGLM（可定制化，需技术投入）。 - 商用API：如OpenAI、Claude（快速接入，但依赖第三方）。 - 自研模型：需大规模数据与算力，适合头部企业。 2. **模型优化** - **轻量化**：通过剪枝、量化降低计算开销（如将FP32转为INT8）。 - **领域微调**：使用企业私有数据微调预训练模型（如LoRA技术）。 - **提示工程**：设计高质量Prompt提升任务适配性。 --- ### **三、数据准备与治理** 1. **数据收集与清洗** - 构建领域相关语料库，去除噪声与重复数据。 - 敏感信息脱敏（如用正则表达式过滤身份证、电话号码）。 2. **数据标注与增强** - 人工标注关键样本（如意图分类、实体识别）。 - 合成数据生成：用规则或小模型扩充训练集。 --- ### **四、部署与工程化** 1. **推理服务化** - 框架选择：使用FastAPI、TorchServe或Triton Inference Server封装模型。 - API设计：定义标准化输入输出（如JSON格式），支持异步调用。 2. **性能优化** - **批处理**：合并请求提升GPU利用率。 - **缓存机制**：缓存高频查询结果（如Redis）。 - **硬件加速**：利用CUDA、TensorRT优化推理速度。 3. **高可用架构** - 负载均衡：通过Kubernetes自动扩缩容Pod。 - 容灾备份：跨可用区部署，设置健康检查与故障转移。 --- ### **五、安全与合规** 1. **数据安全** - 传输加密：使用HTTPS、mTLS。 - 存储隔离：敏感数据独立存储，访问权限控制（如RBAC）。 2. **内容合规** - 输出过滤：通过正则规则或小模型拦截有害内容。 - 审计日志：记录所有请求与响应，留存可追溯。 3. **合规认证** - 通过等保三级、GDPR等认证，确保法律合规性。 --- ### **六、监控与迭代** 1. **指标监控** - 技术指标：GPU利用率、延迟、错误率（如Prometheus+Grafana）。 - 业务指标：任务成功率、用户满意度（如埋点分析）。 2. **持续迭代** - A/B测试：对比新旧模型效果。 - 在线学习：逐步增量更新模型（需谨慎避免漂移）。 --- ### **七、成本控制** 1. **资源优化** - 按需调度：训练任务使用Spot实例，推理服务自动缩容。 - 混合精度训练：减少显存占用（如FP16+FP32）。 2. **成本分析** - 测算单次推理成本（如token/元），优化高开销模块。 --- ### **典型部署架构示例** ```plaintext +-------------------+ | 前端/移动端 | +---------+---------+ | | HTTP/GRPC v +------------------+ +--------+--------+ +------------------+ | 负载均衡 | <---> | 模型推理服务 | <---> | 分布式存储 | | (Nginx/K8s-Ingress)| | (GPU集群+容器化)| | (MinIO/HDFS) | +------------------+ +--------+--------+ +------------------+ | | 监控日志 v +---------+---------+ | Prometheus+ELK | +-------------------+ ``` --- ### **挑战与对策** 1. **算力成本高** - 对策：采用模型压缩、使用国产化算力（如昇腾）。 2. **幻觉问题** - 对策：RAG（检索增强生成）+ 知识库校验。 3. **长尾场景覆盖** - 对策：主动学习（Active Learning）补充标注数据。 --- 通过以上步骤，企业可系统化落地大模型，平衡性能、成本与安全性，实现业务价值转化。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值