- 博客(19)
- 收藏
- 关注
RSS订阅原创 Error: [0] server cpu not listed in available servers map[]
有几天没有在Linux服务器上使用ollama运行大模型了。今天登录使用时，遇到了下面这个错误。这里将这个小问题的原因和解决方式简单记录下，以供参详。但是该服务可能是出现了某种问题，导致虽然服务存在，但是ollama已经无法启动运行大模型了。问题分析到这里，也就有了尝试解决思路， 那就是把该进程杀掉，重新启动ollama服务试试看。到这里明白了， 原来是已经有一个ollama serve服务在运行了。既然如此，那就继续看下，是哪个服务正在使用了这个端口。接下来， 我们再次运行大模型，发现结果已经正常了。
2024-08-01 14:16:05
1156
1
原创 Windows安装和使用Doccano标注工具
Doccano是一款开源的文本标注工具，由人工智能公司Hironsan开发并在GitHub上发布。它提供了一个直观而功能强大的用户界面，使用户可以轻松地进行文本标注、数据注释和标注项目的管理。Doccano支持多种类型的标注任务，例如命名实体识别、情感分析、文本分类等。
2024-07-11 18:11:16
1273
原创 Mac本地部署大模型-单机运行
在macbook上单机部署运行测试大模型，使用ollama运行阿里通义千问Qwen2.0低参数版本大模型，并给出性能对比。
2024-07-04 01:58:47
2900
原创 Potato（土豆）一款轻量级的开源文本标注工具（二）
四个重要评估维度。相关性（relevance）：摘要包含的信息是否为文中重要信息。一致性（consistency）：摘要是否有事实性错误。本文关注的忠实度（faithfulness）也和一致性较为相关。流畅性（fluency）：摘要中的单个句子是否通顺。连贯性（coherence）：摘要整体是否行文流畅连贯。参考：【NLP学习】如何评估文本摘要模型的忠实度（faithfulness）
2024-06-27 19:13:14
1111
原创 Potato（土豆）一款轻量级的开源文本标注工具（一）
Potato 是一款被EMNLP 2022 DEMO赛道接受的轻量级、可移植的Web文本标注工具。本文介绍了工具如何安装，以及结合实例如果使用它开展文本标注。
2024-06-27 13:59:17
1913
原创 rapidocr-onnxruntime库及在open-webui上传PDF 图像处理 (使用 OCR)应用
rapidocr-onnxruntime是一个跨平台的OCR库，基于ONNXRuntime推理框架。重点介绍在open-webui中，如何安装和使用该库支持PDF图像处理（使用OCR）。
2024-06-25 17:21:32
6293
1
原创 Open WebUI升级到最新版本
open-webui是一个用于构建Web用户界面的开源库，它仿照 ChatGPT 的图形化界面，可以非常方便的调试、调用本地大语言模型。目前该开源库更新较为活跃，从3个月前的版本（v0.1.108）到截止到2024年6月中旬发布的最新版本V0.3.5，经历了约20个版本的快速迭代和升级。每次的迭代快速响应和修复了前面版本反馈的问题，使得新的版本在功能和稳定性上更加强大。
2024-06-25 13:57:25
8429
原创 Open WebUI – 本地化部署大模型仿照 ChatGPT用户界面
Open WebUI 是一个仿照 ChatGPT 界面，为本地大语言模型提供图形化界面的开源项目，可以非常方便的调试、调用本地模型。你能用它连接你在本地的大语言模型（包括 Ollama 和 OpenAI 兼容的 API），也支持远程服务器。本文给出了具体操作实践，给出了遇到的问题及解决方案。
2024-06-21 01:15:53
33406
6
原创 【分享】招投标术语和基础知识
没有按照招标文件提交投标保证金或所提供的投标保证金有瑕疵的，按废标处理;提交投标保证金但违反下述方投标保证金的两种情况之一，没收投标保证金;没有按招标文件要求提交履约保证金的，将失去订立合同的资格，并没收投标保证金。第二十六条招标人在招标文件中要求投标人提交投标保证金的，投标保证金不得超过招标项目估算价的2%。第六十六条招标人超过本条例规定的比例收取投标保证金、履约保证金或者不按照规定退还投标保证金及银行同期存款利息的，由有关行政监督部门责令改正，可以处5万元以下的罚款；投标保证金由所有投标人提交;
2024-06-18 18:48:50
1254
原创 常用镜像资源总结
访问国外官方源时，由于网络延迟和潜在的网络拥堵，可能会导致下载速度较慢，甚至下载失败。使用国内镜像源可以大幅度提高下载速度，并且由于地理位置的接近，网络稳定性也更高。另外，由于某些政策或网络审查的原因，直接访问国外官方源可能会受到限制或阻碍。国内镜像源可以作为一个替代方案，为用户提供更加顺畅的访问体验。
2024-06-17 23:34:13
1538
原创 【LLM应用】大模型在编写代码中的应用
随着人工智能技术的飞速发展，大模型在各个领域的应用越来越广泛。在代码编程领域，大模型通过深度学习技术，极大地提高了代码编写的效率、质量和可维护性。大模型通过学习大量代码样本，能够预测并推荐接下来要编写的代码片段，实现代码自动补全和智能提示。这种功能不仅提高了开发者的编写速度，还能减少拼写和语法错误。大模型能够分析代码中的潜在问题和错误，为开发者提供质量检查和错误预测服务。通过这种模式匹配和规则学习，大模型能够发现代码中的冗余、重复和潜在的安全隐患，帮助开发者提前修复问题。
2024-06-14 18:49:27
1634
原创 【LLM应用】大模型赋能企业招投标
当前，人工智能技术的发展与应用已上升到国家战略高度。步入2024年，大模型进入应用落地的关键时期，大模型赋能千行百业的时代已经到来。人工智能技术的高速发展也将为招标采购行业带来巨大变革。通常，一个完整的招投标流程，大致如下：招标（采购方） =〉投标（供应商） =》 开标 =〉评标 =》定标 =〉签订合同。
2024-06-12 23:58:02
4605
原创 ollama运行qwen2出错Error: llama runner process has terminated: signal: aborted (core dumped) ，已解决
做格式转换时，使用的较高版本的llama.cpp库，而我们使用的版本偏低，导致不兼容。在网上查找资料，该种情况的原因是：qwen2的这些模型，在使用。升级后，版本：ollama version is 0.1.42。进入到ollama官网，选择重新下载安装即可。
2024-06-11 18:24:30
10963
2
原创 Qwen2.0正式开源及评测数据集理解
6月7日，阿里巴巴正式开源了大模型——Qwen2。同时官方网站给出了与其他大模型，在不同的基准测试数据集上的对比。本文将介绍如何理解这些常用的基准测试数据集。
2024-06-10 00:00:14
4200
原创 【学习】Transformer，Attention，BERT和GPT
NLP大模型的快速发展离不开这些核心技术（Transformer，Attention，BERT和GPT）的演进。本文总结了这些技术相关的学习资料及要点摘录，方便对大模型技术做更深刻的学习和理解。
2024-06-08 23:42:41
1079
原创 通义千问Qwen1.5系列大模型(低参数版本)实验
在单机CPU运行环境下，对比了通义千问Qwen1.5系列量化版本的四版大模型：0.5B，1.8B，4B，7B，并且给出实验过程、实验结果和建议。
2024-06-07 18:39:59
1636
原创 Linux纯CPU环境部署运行大模型实践
介绍在单台linux系统电脑，纯CPU运行环境下部署运行大模型的三种方式，基于ollama工具，lame.cpp工具和transformers方式加载运行。总体来说，三种方式都较为方便，并且在资源和性能平衡上给出建议，非常适合初学者上手实践。
2024-06-06 13:08:56
3582
原创 区分LLaMA、llama.cpp和Ollama
大模型本地部署遇到的三个概念，llama，ollama，llama.cpp。简单区分如下：llama 是一个Meta公司开源的预训练大型语言模型，llama.cpp用于加载和运行 LLaMA 语言模型。ollama是大模型运行框架，它利用了 llama.cpp 提供的底层功能。
2024-06-05 11:31:37
13179
Open WebUI升级到最新版本
2024-06-25
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人