诚邀见证2024九章云极DataCanvas算力包产品发布会！

于 2024-09-19 14:15:47 发布
阅读量257 收藏
点赞数 2
文章标签： 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/weixin_46880696/article/details/142359034
版权

在这里插入图片描述

算力，是驱动全球智能化升级的关键力量，也是智算经济腾飞的主要燃料。

在智算经济腾起之际，我们洞察未来:算力不仅是生产力还将作为社会性普惠AI资源。我们思考未来:算力产品和模式需要何种创新才能够加速算力普惠的进程?我们定义未来:用单位来标准化算力，用AI基础软件纳管算力!

作为人工智能基础设施提供商，九章云极DataCanvas公司创造全新的商业品类——“算力包”产品，将于9月24日在北京重磅发布!基于此前公司在智算软件领域的技术铺垫“算力包”这一划时代的革新性算力产品，成功打破传统算力采购的束缚，为广大算力消费者提供耳目一新的算力服务模式，是算力普惠时代的创新引擎!

发布会现场还将开启百万度「算力包」限时免费体验活动，全社会企业算力用户均可申请，到场参会将有机会参加惊喜算力大礼包抽奖活动，万度算力包等你来拿！

诚邀您莅临“算力包，为算力普惠提速·2024九章云极DataCanvas算力包产品发布会”，这将是一场前所未有的算力创新盛会，我们期待与您一同探讨面向未来的算力服务模式，解读最前瞻的智算产业趋势，共同开启算力新时代！

在这里插入图片描述

博客
手把手实战：快速构建合同智能审查Agent
04-21 1799
配置“模型供应商”，选择 “OpenAI-API-compatible”，输入申请到的 “API Key” 和 “URL” 后点击“保存”，如下图示例完成 “AlayaNew/DeepSeek-R1。至此，我们完成了合同智能审核Agent的构建，我们也可以在Dify中把这个智能体发布为API服务，这样企业其它应用如OA就可以通过API集成，在原合同流程中实现智能审核工作。该节点“输入变量”中，配置从“开始”节点中获取上传的文件，输出变量就是合同的内容，配置如下图。接下来我们开始创建智能体。
博客
企业应用大模型报告：如何应对变革，构建专属“我的AI”
04-18 1658
在大模型时代，生态协作能力的重要性远超以往。针对高价值业务场景，建议和具有专业技能能力的供应商合作，采用 “开源大模型底座 + 企业私有数据” 进行领域微调，构建专属场景大模型，实现业务效率进一步提升 ，并通过 API 接口将模型能力深度耦合至核心业务系统，革新业务效率和客户体验。这一专属 AI 能力的核心要义，在于将前沿的大模型技术与企业独一无二的基因，即企业特有的数据资源、业务流程以及个性化的业务需求，深度且紧密地结合在一起，从而助力企业塑造独特的竞争优势，使其在激烈的市场竞争中脱颖而出。
博客
一站式解决Deepseek微调三大痛点：数据集、GPU资源、微调手册与源码
03-31 1105
从上述微调结果可以明显看出，经过微调的模型在解决用户疑问方面表现更为出色，能够为用户提供更加精准和有效的指导。本实践成功地将先进的大模型技术与Aladdin组件相结合，有效应对了具体的行业挑战，展示了前沿技术在实际场景中的应用实例，实现了从理论到实践的重要跨越。通过这种方式，我们不仅为用户提供了处理复杂问题的新思路，还展示了如何利用这些先进技术解决实际问题，为各行各业带来了创新解决方案。
博客
大模型开发利器Aladdin加持，4小时亲手复刻DeepSeek Aha Moment！
02-20 920
Countdown 任务是一种类似"24点"的任务，玩家会拿到一组数字，使用"加减乘除"这四种基本语法运算法则，构造一个等于目标数字的等式，并且每个数字只能使用一次，例如：玩家拿到[2,12,25,56]这四个数字，目标是等式结果为55.1.整个训练过程大概需要4个小时，在./grpo_implement/logs/下有log，查看countdown_zero_rl_aha_moment_dist.log文件，可以看到训练的进度。在这两个文件中搜索"突然“，可以找到训练过程中出现的Aha moment。
博客
免费体验，一键部署！Alaya NeW应用市场正式上线DeepSeek系列模型
02-12 709
openwebui：只允许修改env列表中的OPENAI_API_BASE_URLS属性的值，DeepSeek-R1和DeepSeek-V3不要修改，DeepSeek其他模型，要跟modelName保持一致。借助 Alaya NeW算力云服务 提供的强大GPU资源，您可以轻松实现DeepSeek模型在云端的推理服务部署，并根据实际需求灵活使用算力，为技术创新与科研探索提供高效支持！在部署DeepSeek应用时，不同的模型需要修改的values.yaml文件内容(下图的右侧可编辑部分)不同。
博客
一文彻底读懂：英伟达GPU分类、架构演进和参数解析
06-13 864
每个CUDA核心只处理简单的数学运算（如浮点加减乘除），但通过集成数千个这样的核心，GPU能同时处理海量数据，速度远超CPU。显存位宽是GPU和显存之间的“数据通道宽度”，单位是bit（位），比如128bit、256bit、384bit等。位宽越大，GPU能同时读取的数据越多。其不断迭代的芯片架构与持续攀升的算力天花板，恰如一场自我突破的技术突围 —— 每一次架构升级，都是对行业算力边界的重新定义。在我们谈论算力的时候，常常会提到的半精度 （FP16）、单精度（FP32）、双精度（FP64）又是什么？
博客
不用公式！用生活例子讲透Transformer，大模型为何强大
06-10 276
比如，在句子“The animal didn't cross the street because it was too tired.”中，当他们看到“it”时，就会特别关注“animal”，因为“it”指的就是“animal”。当“自注意力”员工处理完一个词的信息后，他们就会对每个词的信息进行独立的、统一的加工，就像给每个词的信息做个“标准化处理”，让它们更容易被下一步使用。“透明度”更高（能看到它在看什么）： 我们可以通过一些方法，看到模型在处理某个词时，它的“注意力”集中在输入句子的哪些词上。
博客
奥特曼：大模型可靠性已过拐点，企业如何跑步入场？
06-09 657
它们也学得最快。谈及 OpenAI 企业业务的爆发式增长，他透露：「与一年前相比，我们与深度合作的头部企业交流时发现，促使它们加速落地的关键不再是『适应时间』，而是。
博客
这个女人，如何让一众硅谷大佬夜不能寐
06-06 816
蓝色的线是电力的成本，绿色的线是计算机内存的成本，红色的线是 AI 推理的成本，很明显， AI 推理的成本降得最快，短短的两年就降了90%，直接跌到了地板上。不仅越来越多的公司在业绩电话会里讨论AI，而且，越来越多的公司实实在在地在使用AI，这张图描述的是微软云的 AI 使用量，在过去的一年， AI 的使用量翻了 5 倍。要知道Waymo的打车成本跟传统的网约车差不多，这说明哪怕价格一样，消费者也更喜欢无人驾驶的出租车，大家可以想一想为什么，把可能的原因写到本文的评论区里。这篇报告都有哪些内容值得关注呢？
博客
手把手实战：一张图 + 一段音频，快速生成数字人视频！
06-04 869
你是否梦想用一张照片和一段音频，快速生成一个“会说话的数字人”？腾讯开源的项目正是为此而生。，通过输入一张人物照片和一段语音音频，就能自动生成嘴型精准、表情自然的视频片段，广泛适用于虚拟数字人、虚拟主播、AI 视频解说等场景。先给大家看看效果：👇，时长00:31数字人视频效果。
博客
AI4S：LLM驱动科研的三个层级 & 科研算力专项支持计划
05-29 676
最近香港科技大学团队在最新论文系统梳理了大语言模型（LLM）在科研各阶段的角色和价值，为理解 AI 从 “效率工具” 到 “自主代理” 的质变提供了理论框架，其提出的三层自主性模型（工具层→分析师层→科学家层）与全球顶尖实验室的实践形成呼应，勾勒出 AI 驱动科学革命的未来图景。在论文中，香港科技大学团队基于科学研究的六个核心阶段（观察与问题定义、假设发展、实验设计与执行、数据分析、结论验证、迭代完善），系统梳理了LLM在科研中从工具到自主代理的角色演进，揭示其在不同自主性层级的典型应用与挑战。
博客
世界模型：AGI突破口？一文了解NVIDIA Cosmos 平台
05-28 857
Cosmos 赋予 AI “物理直觉”，Omniverse 为这种 “直觉” 提供了可以施展的舞台，使 AI 能够在虚拟环境中观察、分析和预测各种物理现象，进行各种尝试，不用担心造成损失，还能创造出大量带有物理规律的模拟数据，有助于提高 AI 的学习效率，让 AI 更好地理解物理世界中的物体关系、运动规律以及各种物理交互。这些数据来自于专有视频数据集和公开的互联网视频，通过精心筛选和处理，为模型提供了广泛的视觉体验，使其能够学习到不同场景下的物理规律和视觉特征。要实现AGI，需要先在“世界模型”取得突破。
博客
手把手实战：如何用DeepSeek进行股票分析？
05-21 1148
同时，我们具备大模型全栈技术能力，可协助您完成从模型训练、微调、部署、调优的全过程，助力构建安全、高效的AI系统。配置“模型供应商”，选择 “OpenAI-API-compatible”，输入申请到的 “API Key” 和 “URL” 后点击“保存”，如下图示例完成 “AlayaNew/DeepSeek-R1” LLM的配置。通过精心设计的提示词，可以激活模型中与特定任务相关的知识，使其在无需大规模微调的情况下，直接应用于下游任务。，任何技术都有局限性，审慎的态度和科学的投资框架始终是风险管理的核心。
博客
扎克伯格与纳德拉：开源模型蒸馏工厂如何重塑产品生产逻辑
05-19 913
这将意味着模型不再是“买来的”，而是“炼出来的”，开源模型的最大优势不再是参数量和GPU数量，而在可定制能力，只有少数人能玩的大模型将从“神坛”走向“普罗大众”，如果说基模型是油田，那么“蒸馏工厂”就是炼油厂，蒸馏出来的各种各样的模型就是千家万户的储油桶。2.释放协同潜力：实现一个老师模型到多个蒸馏模型之间的"一对多"以及多个老师模型蒸馏至一个模型的"多对一"的关系，这些蒸馏模型可与GitHub Copilot等工具或其他工作流组合，通过 MCP 服务器调用其他 AI Agent，释放大小模型协同的潜力。
博客
将大模型幻觉降低90%，一个神奇的写作Agent
05-15 1025
关注问题本质，关注如何解决问题，关注如何创造价值选择通过分层设计，实现高效内容生产。每一层都针对内容创作流程中的关键环节进行优化，形成完整的智能化解决方案。1.1 需求分析层作为系统的首要环节，采用NLP技术对用户输入进行深度解析。通过意图识别自动区分写作类型（如技术文档、营销文案、社交媒体内容等），并结合用户画像分析目标受众特征（年龄层、专业背景等）。系统内置需求模板，包含多类常见写作场景的标准化需求描述，确保输出精准匹配核心需求。
博客
vLLM vs SGLang：大模型推理框架，谁更适合你的需求？
05-13 480
总体而言，vLLM 在模型支持和应用生态方面具有优势，而 SGLang 在推理性能优化表现相对出色。性能上，SGLang 在顺序请求和并发请求场景中始终优于 vLLM。在并发负载下，差异尤其明显，SGLang 保持稳定吞吐量的能力凸显了其卓越的可扩展性和鲁棒性。这些发现表明，对于需要高并发和高效处理大量请求的应用程序来说，SGLang 是更好的选择。目前vLLM和SGLang的代码库已开始互相借鉴（如vLLM计划引入RadixAttention），但短期内仍是差异化竞争。
博客
摩尔定律已死？一文带你看透摩尔定律如何穿越周期
05-12 802
Ollama是一个旨在简化在本地运行大型语言模型（LLM） 的轻量级推理工具，强调隐私保护、高性能和本地控制权。Xinference 支持多种推理引擎，Xinference需要单独安装支持的推理引擎，当满足模型格式为pytorch、gptq或者awq等条件时，Xinference 会自动选择 vLLM 作为引擎来达到更高的吞吐量。此外，Xinference 也支持 SGLang 后端，可根据具体的模型和应用需求，灵活选择使用 SGLang 进行推理，以充分发挥其在集群部署、大规模模型推理等方面的优势。
博客
别让GPU摸鱼！榨干它！
05-09 863
通过在 L2 Cache 中缓存常用数据，可以减少 GPU 与主内存之间的数据传输量，提高数据访问效率，特别是在处理大规模数据和复杂计算任务时，L2 Cache 能够显著提高 GPU 的性能和响应速度，有助于提升整个图形处理和计算过程的流畅性。由于GPU利用率只是判断是不是有SM在执行状态，不考虑在执行状态的SM的数量，类似判断一个杯子中是不是有水，有一滴水也作数，十滴水也是一样，这样就不能精确到各个SM，无法在GPU内部实现优化，这样看，GPU利用率不太准，只是从GPU层面（宏观）笼统判断。
博客
HF下载太慢？Alaya NeW的加速神器让你的模型“飞“起来！
05-09 741
Alaya NeW平台推出的DingoSpeed自托管镜像服务，旨在解决从Hugging Face下载模型和数据集速度缓慢的问题。通过本地化存储、智能分块调度和高效缓存，DingoSpeed显著提升了下载速度，优化了AI资源的全生命周期管理。用户只需设置环境变量并选择镜像站点，即可享受极速下载体验。实测数据显示，DingoSpeed在小模型和大模型下载速度上分别比传统方式快30%和100%以上，且内存占用更低、稳定性更高。DingoSpeed的核心技术包括本地镜像加速、并行分块下载和智能缓存复用，有效突破了
博客
手把手实战：开源工具 Easy Dataset 三步生成数据集
05-08 2480
例如，当我们尝试使用 DeepSeek 上传一份原始文档并通过提示词让模型生成QA数据集时，可以观察到上述缺陷的存在：即使重复操作，基于相同输入文件生成的结果依旧保持一致且质量有限。项目创建完成后，进行模型配置，这一步可以根据各自情况配置，配置也非常简单，选择“项目设置” -> “模型配置”，如下图。在某些专业性强的领域，如医疗健康或法律服务中，由于严格的隐私保护法规限制，公开可用的数据集相对稀缺，获取难度较大。选择“问题管理”，勾选生成的问题，选择“批量构造数据集”，过程仍需等待一段时间。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值