墨衍会员
·
AI 创作全网分发
墨衍智能分发
本文由作者通过墨衍一键同步至各平台
1分发平台
400+累计阅读
437平均单平台
已同步平台
优快云
微信公众号
微博
知乎
掘金
百家号
博客园
抖音
小红书
你的文章也可以这样分发
墨衍会员 ¥399起/年,写一次发全网
我也要 →
码龄13年
当前文章被以下社区和专栏收录:
云端 AI Agent 实测:数据分析→PPT→视频,一个输入框跑完整个项目
这次我真正感受到的变化,是天工已经从单点 AI 工具,走到了云端项目执行系统的感觉。我给它的目标其实很完整:先读取公众号后台导出的 Excel,做数据分析报告;再把报告整理成 PPT;接着继续生成口播稿、讲解音频,并用视频 Skills 合成讲解视频;最后又测试了图像生成、提示词预设和 Skills 自动创建。整个过程里都是云端执行,它会自己读取文件、调用 Jupyter / bash、拆解步骤、生成发布物,中间还能对文档、PPT、图片、视频做二次编辑。
首个接入Seedance 2.0 视频生成 API 的龙虾来了,Windows&Mac
字节跳动 Seed 团队打造,可能是目前最强的 AI 视频生成模型——多模态输入、多镜头叙事、原生音画同步、2K 电影画质几个视频看下 Seedance 2.0 的实力Seedance 2.0 刚刚开放了 API 接口,我发现了最美龙虾客户端 nexu(客户端下载地址:https://github.com/nexu-io/nexu)已经第一时间接入了,一句话生成电影级视频(文中有详细步骤),3 分钟就能用 Seedance 2.0 生成视频,不用再去排队了。
Qwen3.5 要来了
Qwen3.5、MiniMax2.2、字节跳动 Seed、DeepSeek-V4 都要来了吗?最近,LMSYS Chatbot Arena(目前的“大模型盲测”权威榜单)上又热闹起来了。除了大家熟知的名字,榜单上突然窜出了几个神秘的匿名模型,它们虽然披着代号的“马甲”,但在对话中却诚实地“自报家门”。
Windows 版 Claude Cowork 来了!这个桌面 Agent,正在接管我的电脑
2026 年,AI Agent 正在从"聊天工具"变成"真正的生产力工具"。以前 AI 只能"回答问题",现在 AI 开始"帮你干活"。Skywork 桌面版就是这个趋势的典型产品——它不是让你学一堆 Prompt 技巧去"驯服"AI,而是让 AI 直接进入你的工作场景,成为你的同事。谁先学会用 AI 干活,谁就先下班。评论区聊聊:你最想让 AI 帮你处理什么烦人的工作?觉得有用别忘了转发,让更多 Windows 打工人看到这个消息。我是老章,一个爱折腾 AI 工具的人。关注我,一起用 AI 提效。
DeepSeek-OCR-2 本地部署,实测
大家好,我是 Ai 学习的老章之前 DeepSeek-OCR、HunyuanOCR、PaddleOCR 扎堆开源的时候,我已经把环境搞的很好了没想到遇到 DeepSeek-OCR 2 还是栽了跟头 😓。
vLLM 巨大里程碑
大家好,我是 Ai 学习的老章我是 vLLM 的粉丝,更新过 N 多相关文章,内网部署大模型全都是使用 vLLM前文之后继续介绍 vLLM 的最新的几个动态。
阿里开源Wan2.2视频生成全家桶
Wan2.2是阿里通义万相团队推出的第二代视频生成大模型。从官方定位来看,它对标的是 Runway、Pika、可灵等闭源商业产品,目标是成为开源领域最强的视频生成模型。从技术路线上看,Wan2.2 基于架构,并在此基础上做了大量创新。引入 MoE(混合专家)架构:这是 Wan2.2 最大的技术亮点训练数据大幅扩增:图片增加了 65.6%,视频增加了 83.2%电影级美学优化:专门针对光影、构图、色调进行了精细标注推出高效的 5B 轻量模型:支持消费级显卡部署。
OpenCode:开源版Claude Code来了,附Windows客户端
OpenCode是一个100% 开源的 AI 编程智能体,可以在终端、桌面应用或 IDE 里使用。和 Claude Code 有什么区别?完全开源:代码全在 GitHub 上,想怎么改就怎么改不绑定模型:Claude、GPT、Gemini、DeepSeek 甚至本地模型都能用,75+ 个 LLM provider 随便切内置 LSP 支持:能自动识别你项目用的语言,加载对应的 LSPTUI 极致体验:这帮人是 Neovim 用户,也是的创造者,对终端的执念可想而知客户端/服务端架构。
腾讯翻译大模型,手机可运行
HY-MT1.5:18 亿参数的轻量级版本:70 亿参数的完整版这两款模型主打一个“又快又准”:支持33 种语言的互译,还额外覆盖了5 种民族语言和方言。最牛的是,1.8B 的小模型翻译质量居然能逼近 7B 大模型,"小钢炮"属性拉满。[外链图片转存中…(img-WTJUiCxq-1767539031275)]
目前世界上最好的文生图开源模型,本地部署,Windows可用前端
Z-Image Turbo 在阿里云上的价格为每千张图像 5 美元,是目前最便宜的图像模型之一,比 FLUX.2(每千张图像 12 美元)、HiDream-I1-Dev(每千张图像 26 美元)和 Qwen-Image(每千张图像 20 美元)都要便宜。Z-Image Turbo 是阿里云通义-MAI 团队(与阿里云万和 Qwen 团队无关)发布的首款模型,超越了 FLUX.2、HunyuanImage 3.0 (Fal) 和 Qwen-Image。Z-Image 是一个强大的、高效的图像生成模型,具有。
开源AI做PPT神器,本地部署,支持Ollama
Presenton本地跑。你可以用 OpenAI、Gemini、Claude 这些云端模型,也可以用 Ollama 跑本地开源模型,数据完全不出你的机器。你可以直接上传已有的 PPTX 文件,让它学习你的设计风格(颜色、字体、间距、布局逻辑),然后批量生成同风格的 PPT。官方管这叫"品牌 DNA"——你的模板一旦创建,后续生成的每一张幻灯片都能保持一致的设计语言。这对企业用户来说简直是福音。✅自定义模板与主题:用 HTML + Tailwind CSS 随便造,无限量创建✅AI 模板生成。
【开源项目】AI 账号控制中心,一键配置所有Agent
Quotio是一个原生 macOS 菜单栏应用,用 SwiftUI 写的,界面非常精致。统一管理你所有的 AI 账号,实时追踪配额,自动故障转移。说白了,就是在你 Mac 的菜单栏里放一个"AI 账号控制中心",点一下就能看到所有账号的配额使用情况,不用再一个个网站登录去查了。这货在 GitHub 上已经有1.2k Stars,说明确实解决了很多人的痛点。🔌多Provider支持。
MiniMax M2.1 量化版来了
大家好,我是 Ai 学习的老章我看官方部署文档,虽然模型文件只有 230GB,但是如果想要支撑更高上下文达到理想效果,所需显存还是蛮高的:模型权重 220GB+ 每百万 Tokons 上下文需要 240GB 显存。推荐几个主流且稳定的量化版吧,本地跑起来成本低很多。
Gemini-CLI 进阶玩法,详细版
大家好,我是 Ai 学习的老章最近高频使用 Gemini-CLI,发现很多同学对其了解还是太少了专门在写一篇介绍几个高级用法。
我写了一个OCR测试工具:DeepSeekOCR、PaddleOCR 和 混元OCR
可以实现同样的提示词 + 图片/PDF,利用 Python 多线程并行调用 DeepSeek、Paddle 和 混元这三个模型的 API 进行解析,并将结果并排展示。最近的 OCR 大模型我都做了本地部署和测试,还写了一个 API 统一对接这三个模型。使用也很简单,图片/PDF 上传之后,输入提示词,没有特殊要求,使用默认就行。前端其实纯 HTML+CSS+js 实现,为了内网部署,不依赖任何 CND。感兴趣的同学可以试试,OCR 模型 API 部分替换成官方/第三方的 API。
DeepSeek-OCR本地部署(1):CUDA 升级12.9,不重启,教程
大家好,我是 Ai 学习的老章DeepSeek-OCR 开源有段时间了,我曾详细测试过DeepSeek-OCR 官方项目 README:中有关于 vllm 0.8.5+cu118+transformers>=4.51.1 下进行的详细步骤,但是教程中在线推理部分 vLLM 还是 nightly 版本。我看网上大家根据官方文档进行部署,问题多多。正好,。
本地部署PaddleOCR,消费级显卡轻松跑,支持本地图片和PDF文件
大家好,我是 Ai 学习的老章
腾讯混元OCR大模型,本地部署,实测
大家好,我是章北海
科研神器,大模型阅读论文,免费用Gemini、Claude
【摘要】AlphaXiv是一款AI驱动的论文阅读神器,提供多项高效科研工具:支持与PDF文档对话、高亮引用、多语言查询、自动生成研究博客和BibTex引用。其浏览器插件可一键跳转arXiv等平台,集成Gemini3Pro等大模型免费使用。新增功能包括SOTA模型基准查询、论文地理分布可视化,以及DeepSeek-COR的API调用服务。该工具显著提升论文阅读效率,实现3分钟完成总结翻译,支持中英互转和跨文献概念关联。(149字)
阿里千问安全审核大模型,本地部署,实测
大家好,我是 Ai 学习的老章
动动嘴就能查数据库,这个开源项目有点猛
Wren AI 是我最近看到的 GenBI 赛道最成熟的开源方案之一。它没有走"LLM 直接生成 SQL"这条看起来简单但坑很多的路,而是老老实实做了一层语义抽象。这个方向是对的。官方文档写得也很清楚,把 RAG + LLM 查数据库的四大挑战(上下文收集、检索精度、SQL生成、协作)都点出来了,然后一一给出解决方案。这种"先讲问题再讲方案"的思路,说明团队对这个领域理解很深。如果你的团队经常有"让 AI 帮我查数据"的需求,值得认真评估一下。
PDF 文件翻译,我有4个方案推荐
本文汇总了4种AI论文PDF翻译方案:1)豆包插件-操作简单但样式损失大;2)沉浸式翻译arXiv版-完美保留HTML排版;3)BabelDOC开源工具-精准还原排版并优化公式处理,支持本地部署;4)PDF2Zh双语对照工具-基于Gradio实现但免费版较慢。各方案在翻译速度、排版保留和适用范围上各有优劣,为科研工作者提供了多样化的英文文献阅读辅助选择。
全模态大模型部署,vLLM-Omni 来了,100%开源
vLLM-Omni是由vLLM团队推出的全新开源框架,专为全模态大模型部署设计。它在原vLLM基础上扩展支持图像、视频、音频等多模态数据处理,并兼容非自回归架构。核心优势包括优化的KV缓存管理、流水线并行执行和灵活资源调度,性能显著优于Hugging Face Transformers。该框架支持主流开源模型如Qwen-Omni,提供OpenAI兼容API,并支持多种并行推理方式。安装可通过uv或Docker完成,支持离线推理和在线API调用,还提供Gradio交互界面。项目由中国开发者主导,未来将发布40
vLLM 帮助文档翻译,模型相关
大家好,我是Ai学习的老章前文我介绍了vLLM部署多模态/全模态大模型的vLLM-Omni简介及安装其中最关键的自然是 ModelConfig(模型的配置选项)相关做个翻译,方便自己学习记忆,也分享给大家。
小米的大模型,就问你快不快吧
📄 技术报告:http://github.com/XiaomiMiMo/MiMo-V2-Flash/blob/main/paper.pdf。📝 博客文章:http://mimo.xiaomi.com/blog/mimo-v2-flash。🤗 模型权重:http://hf.co/XiaomiMiMo/MiMo-V2-Flash。🎨 AI 工坊:http://aistudio.xiaomimimo.com。我看了一下小米这个 MiMo-V2-Flash,也试用了一下,但。
大模型本地部署,小号的vLLM来了
一文中提到 2025 年最热门的项目分布在 AI 基础设施(vllm、ollama、huggingface/transformers)和持久的生态系统(vscode、godot、home-assistant)之间。唯一让我不满的是我在内网用 docker 起 vLLM,它太大了,足足 22 个 GB。这个推理引擎也是我最喜爱的,本号测试部署的 N 多大模型都是用它来部署的。时间关系,我还没有本地跑大参数模型,后续肯定要试一试的。这种小模型,时延更小,吞吐量更大,看起来是很不错的样子。
AI 时代,印度崛起了
GitHub 2025年度开发者趋势报告显示三大关键变化:1)生成式AI成为开发标配,超110万仓库使用LLM SDK;2)TypeScript超越Python成为最受欢迎语言;3)AI正在重塑开发者的工具选择。数据显示GitHub开发者数量突破1.8亿,印度新增520万开发者居首。AI基础设施项目增长最快,vLLM等推理引擎项目贡献者激增。TypeScript贡献者同比增长66%达榜首,Python仍主导AI领域但增速放缓。报告指出AI不仅加速编码,更深刻影响了开发者生态系统的演进方向。
Kimi-K2-Thinking 开源大模型新王,权威测试结果公布
与此前发布的 Kimi K2 Instruct 使用 FP8 精度不同,K2 Thinking 原生以 INT4 精度发布,结果是,K2 Thinking 仅约 594 GB,而 K2 Instruct 与 K2 Instruct 0905 略超 1 TB——从而在推理与训练中获得效率提升。总而言之,Kimi K2 Thinking 是一款特点鲜明的模型,它以卓越的智能和专业能力为开源领域树-立了新的标杆,证明了开源模型追赶甚至超越闭源模型的可能性。以编码为重点的评估基准,用于评估大型语言模型的性能。
Kimi K2 Thinking 量化之后再量化,模型文件缩水60%,准确率85%,部署教程来了
Kimi K2 Thinking模型通过1-bit量化技术将594GB模型缩减至247GB,大幅降低部署成本。Unsloth团队采用MoE卸载技术,仅需8GB显存即可运行,支持CPU/GPU混合部署。部署流程分三步:编译llama.cpp、下载量化模型、配置MoE卸载参数。推荐使用UD-Q2_K_XL(381GB)版本平衡性能与精度。模型支持OpenAI API格式调用,并具备独特的"思考过程"展示功能。尽管量化后性能有所妥协,但为资源有限场景提供了运行超大模型的可能性。
迄今为止最大的开源模型Kimi K2 Thinking ,硬钢闭源模型
模型是具有通用 Agentic 能力和推理能力的思考模型,它擅长深度推理,并可通过多步工具调用,帮助解决各类难题。什么让它与众不同:⚡ 原生 INT4 量化 → 2 倍快速推理💾 占用内存减半,无精度损失🎯 256K 上下文,支持 200-300 次工具调用官方释放的基准测试结果:🔹 在 HLE (44.9%) 和 BrowseComp (60.2%) 上达到 SOTA🔹 最多可以执行 200 – 300 个连续的工具调用 无需人工干预。
1324
1224
1451
952
1288
1505
975
企业官方账号
码龄13年
1万+粉丝
361原创

被折叠的 条评论
为什么被折叠?



