LM Studio-简化安装和使用开源大模型 | OpenAI API 文字转语音本地运行程序分享

原创 已于 2024-02-01 11:03:57 修改 · 1.2w 阅读 · 42 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#AIGC #人工智能 #chatgpt

于 2024-02-01 11:01:38 首次发布
本文介绍了LMStudio这款工具，它支持在Mac和Win上安装和使用多种AI模型，特别强调了其本地HTTP服务器功能，使得OpenAIAPI模型转换为本地模型变得简单。作者分享了Dolphin模型实测和使用案例，以及利用OpenAIAPI进行文字转语音的Python代码实例。

原文：LM Studio-简化安装和使用开源大模型 | OpenAI API 文字转语音本地运行程序分享 - 知乎

实测在Mac上使用Ollama与AI对话的过程 - 模型选择、安装、集成使用记，从Mixtral8x7b到Yi-34B-Chat

官网：https://lmstudio.ai/

最近用上了LM Studio，对比Ollama，LM Studio还支持Win端，支持的模型更多，客户端本身就可以多轮对话，而且还支持启动类似OpenAI的API的本地HTTP服务器。

https://lmstudio.ai/

动图封面

我推荐dolphin-2.6-mistral 7B和dolphin-2.7-mixtral-8x7b模型。

下载后选择模型，设置参数，再重新加载模型。

实测，dolphin-2.6-mistral 7B模型在我Mac M1 Max 32G的电脑上运行速度很快，生成质量不错，而且dolphin是可以生成NSFW内容的。

LM Studio的特色功能

我最喜欢LM Studio的功能是支持启动类似OpenAI API的本地HTTP

最低0.47元/天 解锁文章
【人工智能】Open WebUI 支持完全离线操作，并兼容多种LLM运行器，如Ollama和OpenAI API，旨在使用它来管理和使用大型语言模型，确保数据隐私的同时提供灵活多样的交互方式。
奶爸的编程之路，也就一周冷个三天，欢迎关注我的微信公众号：本本本添哥
01-23 942
要在 PyCharm 中下载和使用 Open-WebUI，您需要按照以下步骤进行操作。Open-WebUI 是一个用于管理和使用大型语言模型（LLM）的 Web 界面，通常与 Ollama 等工具配合使用。通过以上步骤，您可以在 PyCharm 中下载和配置 Open-WebUI，并使用它来管理和使用大型语言模型。如果有任何问题或需要进一步的帮助，请随时提问。
开源AI大模型LLM低代码智能体框架选型最佳实践——MaxKB、Dify、FastGPT、RagFlow、Anything-LLM,RAG+AI 工作流+Agent+deepseek
Ai大模型，odoo，idempiere,metasfresh,低代码，ecshop数据采集发布接口，zencart，lightinthebox，shopex 数据采集接口
02-20 3146
开箱即用：支持直接上传文档、自动爬取在线文档，支持文本自动拆分、向量化、RAG（检索增强生成），智能问答交互体验好；无缝嵌入：支持零编码快速嵌入到第三方业务系统，让已有系统快速拥有智能问答能力，提高用户满意度；灵活编排：内置强大的工作流引擎，支持编排 AI 工作流程，满足复杂业务场景下的需求；模型中立。
本地大模型工具深度评测：LM Studio vs Ollama，开发者选型指南 
zhz5214的博客
05-10 3979
可以预见，未来两者将在"易用性"与"灵活性"维度持续融合，但核心差异依然清晰：LM Studio仍是普通用户接触本地大模型的"第一扇门"，而Ollama则会成为开发者构建复杂AI系统的"基础设施"。- 模型管理：提供官方优化的量化模型（如llama3:8b-instruct-q4_K_M），支持通过 modelfile 自定义模型配置。- 高级配置：支持 --model-path 指定自定义模型目录， --num-gpu 精细化控制显存分配。
使用LM Studio与Anything LLM基于Llama-3高效构建本地知识库系统
热门推荐
wangjye99的博客
04-27 1万+
另外，也可以选择openai或AnythingLLM，如果选择AnythingLLM，如下图所示，列表了其支持的大语言模型，选择了对应的模型点击“save changes“时，在后台会下载对应的大模型到本地。针对测试人员，可以在构建的大型模型和知识库问答应用中进行快速测试，并跟踪各个环节的结果，如embedding的召回结果是否覆盖所有知识点，可通过接口调用日志进行快速查看。针对业务专家和产品设计人员，即使不懂代码，也能快速构建产品原型，了解基于大型模型知识体系的构建过程，并能选型大语言模型。
不用写一行代码！让本地大模型部署变得和玩游戏一样简单，离线畅聊AI
最新发布
瓦罗兰特顶级C位的博客
10-29 1241
今天，就带你解锁一个神器——LM Studio，无需编程基础，一键安装，轻松将强大的大语言模型部署在你的个人电脑上，实现离线、高速、私密的AI体验！
LM Studio语言大模型部署软件搜索语言模型报错“Error searching for models ‘Network error‘”解决办法
李佑辰
06-03 1万+
我们利用 LM Studio 这款软件来可视化部署 Llama3语言大模型软件，官网选择好对应的操作系统下载安装包，在下载好之后进行安装。在安装好之后我们就可以打开软件并使用了，我们在搜索框内来搜索并安装 llama 系列的模型，不过在进行搜索时会发现搜索功能失效了，并且报错“Error searching for models 'Network error'”LM Studio语言大模型部署软件搜索语言模型报错“Error searching for models 'Network error'”解决办法
LM Studio本地部署大模型超详细步骤！！！
qq_46140754的博客
02-21 4968
是因为LM Studio中模型的搜素和下载，需要访问：https://huggingface.co/， 这个网站在国内无法正常访问。① 一定要把LM Studio安装路径下的所有文件中的huggingface.co全都替换掉，不能有遗漏，可以多查找几遍。软件下载网址：https://lmstudio.ai/，根据自己的操作系统选择对应的版本下载安装即可。② 在替换完成后，所有的文件需保存，才能生效！♦♦♦若加载了模型之后发现还是无法运行对话，有可能是，状态未开启，将状态调至运行Running即可。
【AI工具】LM Studio 部署本地llama3以及python调用openai的API与llama3本地服务器进行问答...
cxyhjl的博客
04-23 1万+
1. 下载LM Studiohttps://lmstudio.ai/2. 安装后打开主界面3. 下载自己感兴趣的大模型由于网络原因，通过IDM手动下载后拷贝到相应文件夹下点击下载后，左下角点击“ 1 downloading”可以查看详情从详情中提取出模型下载地址然后手动下载，比如“https://huggingface.co/TheBloke/phi-2-GGUF/resolve/main/phi...
大模型实操与API调用 | 四十三、使用LM Studio部署模型
Androiddddd的博客
08-13 3937
AI大模型作为人工智能领域的重要技术突破，正成为推动各行各业创新和转型的关键力量。抓住AI大模型的风口，掌握AI大模型的知识和技能将变得越来越重要。学习AI大模型是一个系统的过程，需要从基础开始，逐步深入到更高级的技术。这里给大家精心整理了一份全面的AI大模型学习资源，包括：AI大模型全套学习路线图（从入门到实战）、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频，免费分享！
LM Studio：一个桌面应用程序，旨在本地计算机上运行大型语言模型（LLM），它允许用户发现、下载并运行本地LLMs
汽车软件开发
04-19 5282
LM Studio是一个桌面应用程序，旨在本地计算机上运行大型语言模型（LLM）。它允许用户发现、下载并运行本地LLMs，支持在Windows、Linux和Mac等PC端部署2510。LM Studio的安装过程涉及访问其官网并选择相应操作系统的版本进行下载安装。安装成功后，用户可以通过该软件选择并运行心仪的模型，这些模型一般在huggingface上找到，重要因素包括模型的大小或参数量910。
【LLM大模型】2024开源项目汇总_dify chat2sql
2401_85773359的博客
08-08 2938
当大模型成本逐渐降低，可靠性提升后，这意味着越来越多的业务应用将会与 LLM 结合，为了让这种结合更加顺畅，需要有与现有来支撑 LLM 应用开发的快速开发对比说明可参考：开源的 LLM 应用开发平台。其直观的界面结合了 AI 工作流、RAG 、Agent、模型管理、可观测性功能等，让您可以快速从原型到生产。2.2 FastGPT：一个基于 LLM 大语言模型的知识库问答系统，提供开箱即用的数据处理、模型调用等能力。
LM Studio 本地大模型神器！安装配置全教程
啊不行了，要长脑子了
05-07 9840
LM Studio模型下载与管理本地推理（CPU / GPU）可视化聊天界面OpenAI 接口兼容 API 服务你可以把它看作 “” 的整合体 —— 完全图形化操作，极低门槛，上手即用。模块功能模型搜索与下载（支持 HuggingFace 模型）本地模型管理与运行💬 Chat图形化聊天界面⚙ Settings推理设置 / API Server 配置提供 OpenAI 接口兼容服务，支持 VSCode / LangChain用户类型适用理由AI 初学者。
用LM Studio工具部署本地AI大模型，真的太省事了！（普通人也能用）
pythonhy的博客
11-26 9423
今天我想给大家推荐一个比 Ollama 更加清爽的工具：LM Studio（如果你还不熟悉 Ollama，它其实是一个用于安装和管理大模型的工具）， LM Studio 不仅对普通用户友好，技术人员也友好，方便地安装大模型。它提供了开发模式，让技术人员能深入了解相关参数。在用户界面方面，LM Studio 相比 Ollama 也更为出色。
【亲测免费】 开源项目lmstudio-ai/lms安装与使用指南
gitblog_00359的博客
08-15 2992
### 根目录说明 - **src**: 包含应用的主要代码。 - **main**: 主要逻辑和功能实现所在的地方。 - **java**: Java源码存放目录。 - **com.example.lms**: 应用的核心Java包，包括服务、实体类等。 - **resources**: 资源文件如配置文件、SQL脚本等。 ...
LMstudio 部署模型后如何联网使用API
悟能的师兄的专栏
03-13 1万+
当利我们用 LMStudio 完成了 DeepSeek 或者其他模型的部署之后，如果希望该服务能够被远程客户端所调用当前服务的API。注意：当前演示环境为Windows系统，其他桌面系统的操作方式类似。
本地AI神器来了！LM Studio 从入门到上头，用电脑轻松驯服大语言模型
码农垦荒笔记
07-02 2084
ChatGPT要联网、Claude限地区、Token费心计？试试这款神器——LM Studio！让你的电脑变身AI聊天专家，隐私、安全、免费三重保障，完全离线也能轻松和大模型对话。
最强开源大模型炸场！全网独一份AI大模型学习实践资源...（待会删）
Y525698136的博客
08-07 1501
最强开源大模型炸场！全网独一份AI大模型学习实践资源...（待会删）
LM Studio：引领本地LLM应用革命，打造安全高效的AI新体验
寻道AI，探索AI无限可能！
12-01 4786
在当今人工智能的蓬勃发展中，大型语言模型（LLMs）以其卓越的能力和广泛的应用，已经在商业和日常生活中扮演了不可或缺的角色。它们在自然语言处理、内容创作、智能助手等多个领域展现出巨大的潜力和价值。然而，这些模型的传统应用往往依赖于云端服务，这不仅带来了数据隐私泄露的风险，还受限于网络连接的稳定性和速度，影响了用户体验。正是在这样的背景下，LM Studio应运而生，它为在本地设备上运行大型语言模型提供了一个创新且高效的解决方案。
LM Studio 介绍
t951984189的博客
05-10 3211
LM Studio是一个可以运行多种模型的工具，如：llama、qwen、mistral 等，除了聊天模型，还支持向量化模型，可以将文本转换为向量，具体可以到官网查看：https://lmstudio.ai/
本地部署大模型教程：使用ollama与LM Studio的全流程指南
资源摘要信息:"在本地运行大模型：ollama与LM Studio部署及运行大模型的详细步骤和技术说明" 知识点详细说明： 一、ollama与LM Studio在本地部署大模型的比较 ollama和LM Studio是两种流行的工具，它们都致力于...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值