大模型
关注
分享
扫一扫
文章平均质量分 91
张小白TWO
张小白，字大白，优质回复家。斜杠青年，精力充沛。简称钢筋。
展开
-
olmocr:另一个PDF识别器
关于OCR识别的大模型，张小白做了2次探索：张小白：PP-DocBee 表格识别能力初探（使用百度AI Studio)0 赞同 · 0 评论文章和张小白：另一个表格识别大模型GOT-OCR2.04 赞同 · 0 评论文章这次得知olmOCR也可以做这个：代码仓：那就试一试吧！原创 2025-02-28 05:18:05 · 1188 阅读 · 0 评论 -
OpenSora初体验
openSora初体验原创 2024-03-24 09:11:34 · 2885 阅读 · 4 评论 -
在Jetson AGX Orin上体验ChatSQL
在Jetson AGX Orin上体验ChatSQL原创 2023-10-31 07:28:15 · 344 阅读 · 0 评论 -
大模型部署手记（22）Ubuntu+TensorRT-LLM+通义千问
Ubuntu+TensorRT-LLM+通义千问原创 2023-10-31 07:22:54 · 1572 阅读 · 0 评论 -
大模型部署手记（21）Windows+ChatGLM3
Windows+ChatGLM3原创 2023-10-31 07:20:47 · 880 阅读 · 0 评论 -
大模型部署手记（20）Windows+Qwen-VL-Chat-Int4
Windows+Qwen-VL-Chat-Int4原创 2023-10-31 07:15:44 · 2951 阅读 · 0 评论 -
大模型部署手记（19）Ubuntu+JupyterLab+Nemo+Llama2+llama-index+语音对话机器人
Ubuntu+JupyterLab+Nemo+Llama2+llama-index+语音对话机器人原创 2023-10-31 07:09:50 · 284 阅读 · 0 评论 -
大模型部署手记（18）Windows+JupyterLab+Nemo+Llama2+llama-index+语音对话机器人
Windows+JupyterLab+Nemo+Llama2+llama-index+语音对话机器人原创 2023-10-31 07:04:32 · 542 阅读 · 0 评论 -
大模型部署手记（17）7个大模型+Windows+LongChain-ChatChat
硬件环境：暗影精灵7PlusWindows版本：Windows 11家庭中文版 Insider Preview 22H2内存 32GGPU显卡：Nvidia GTX 3080 Laptop （16G）原创 2023-10-17 14:02:28 · 4885 阅读 · 2 评论 -
大模型部署手记（16）ChatGLM2+Ubuntu+LongChain-ChatChat
组织机构：智谱/清华模型：THUDM/chatglm2-6b Embedding 模型moka-ai/m3e-base硬件环境：暗影精灵7PlusUbuntu版本：18.04内存 32GGPU显卡：Nvidia GTX 3080 Laptop （16G）原创 2023-10-17 13:59:38 · 1360 阅读 · 2 评论 -
大模型部署手记（15）LLaMa2+Ubuntu18.04+privateGPT
组织机构：Meta（Facebook）模型：llama-2-7b下载：使用download.sh下载或Huggingface.co或aliendao.cn下载硬件环境：暗影精灵7PlusUbuntu版本：18.04内存 32GGPU显卡：Nvidia GTX 3080 Laptop （16G）原创 2023-10-17 13:57:23 · 1342 阅读 · 0 评论 -
大模型部署手记（14）Chinese-LLaMA-Alpaca-2+Ubuntu+vLLM
组织机构：Meta（Facebook）模型：chinese-alpaca-2-7b-hf下载：使用百度网盘下载硬件环境：暗影精灵7PlusUbuntu版本：18.04内存 32GGPU显卡：Nvidia GTX 3080 Laptop （16G）原创 2023-10-17 13:55:14 · 1314 阅读 · 0 评论 -
大模型部署手记（13）LLaMa2+Chinese-LLaMA-Plus-2-7B+Windows+LangChain+摘要问答
这里需要重装一下GPU版的torch再来：貌似字符集有什么问题。参考Python读取文件时出现UnicodeDecodeError: ‘gbk‘ codec can‘t decode byte 0x80 in position ...blog.youkuaiyun.com/qq_31267769/article/details/109128882将 langchain_sum.py改为再来：缺protobuf库？再来：再来：原创 2023-10-10 14:20:29 · 6424 阅读 · 0 评论 -
大模型部署手记（12）LLaMa2+Chinese-LLaMA-Plus-2-7B+Windows+text-gen+中文对话
组织机构：Meta（Facebook）模型：chinese-alpaca-2-7b-hf下载：使用百度网盘下载硬件环境：暗影精灵7PlusWindows版本：Windows 11家庭中文版 Insider Preview 22H2内存 32GGPU显卡：Nvidia GTX 3080 Laptop （16G）从的README.md可以看出，中文LLaMA&Alpaca大模型支持不同的LLaMA生态：这里面有llama.cppLangChainprivateGPTvLLM等多种。原创 2023-10-10 13:27:07 · 1001 阅读 · 0 评论 -
大模型部署手记（11）LLaMa2+Chinese-LLaMA-Plus-2-7B+Windows+llama.cpp+中文对话
组织机构：Meta（Facebook）模型：LIama-2-7b-hf、Chinese-LLaMA-Plus-2-7B下载：使用huggingface.co和百度网盘下载硬件环境：暗影精灵7PlusWindows版本：Windows 11家庭中文版 Insider Preview 22H2内存 32GGPU显卡：Nvidia GTX 3080 Laptop （16G）查看新的模型出来了，可以试一试。原创 2023-10-10 13:15:44 · 1715 阅读 · 2 评论 -
大模型部署手记（10）LLaMa2+Chinese-LLaMA-Plus-7B+Windows+llama.cpp+中英文对话
组织机构：Meta（Facebook）模型：llama-2-7b、llama-2-7b-chat（下载：使用download.sh下载硬件环境：暗影精灵7PlusWindows版本：Windows 11家庭中文版 Insider Preview 22H2内存 32GGPU显卡：Nvidia GTX 3080 Laptop （16G）在完成和的基础上，张小白觉得对话应该是水到渠成的事情了。原创 2023-10-10 13:14:46 · 13441 阅读 · 0 评论 -
大模型部署手记（9）LLaMa2+Chinese-LLaMA-Plus-7B+Windows+llama.cpp+中文文本补齐
组织机构：Meta（Facebook）模型：llama-2-7b、Chinese-LLaMA-Plus-7B（chinese_llama_plus_lora_7b）下载：使用download.sh下载硬件环境：暗影精灵7PlusWindows版本：Windows 11家庭中文版 Insider Preview 22H2内存 32GGPU显卡：Nvidia GTX 3080 Laptop （16G）在一文中，张小白完成了基于原始 llama-2-7b 模型的文本补齐。原创 2023-10-10 13:13:45 · 3914 阅读 · 0 评论 -
大模型部署手记（8）LLaMa2+Windows+llama.cpp+英文文本补齐
组织机构：Meta（Facebook）模型：llama-2-7b下载：使用download.sh下载硬件环境：暗影精灵7PlusWindows版本：Windows 11家庭中文版 Insider Preview 22H2内存 32GGPU显卡：Nvidia GTX 3080 Laptop （16G）原创 2023-10-10 13:12:30 · 9098 阅读 · 1 评论 -
大模型部署手记（7）LLaMA2+Jetson AGX Orin
大模型部署手记（7）LLaMA2+Jetson AGX Orin原创 2023-10-05 11:52:03 · 2551 阅读 · 4 评论 -
大模型部署手记（6）通义千问+Jetson AGX Orin
大模型部署手记（6）通义千问+Jetson AGX Orin原创 2023-10-05 11:50:18 · 4135 阅读 · 1 评论 -
大模型部署手记（5）ChatGLM2+Jetson AGX Orin
大模型部署手记（5）ChatGLM2+Jetson AGX Orin原创 2023-10-05 11:48:56 · 910 阅读 · 0 评论 -
大模型部署手记（4）MOSS+Jetson AGX Orin
大模型部署手记（4）MOSS+Jetson AGX Orin原创 2023-10-05 11:42:50 · 716 阅读 · 0 评论 -
大模型部署手记（3）通义千问+Windows GPU
大模型部署手记（3）通义千问+Windows GPU 暗影精灵7Plus Nvidia GTX 3080 Laptop原创 2023-10-05 11:40:37 · 3462 阅读 · 1 评论 -
大模型部署手记（2）baichuan2+Windows GPU
大模型部署手记（2）baichuan2+Windows GPU 暗影精灵7Plus Nvidia GTX 3080 Laptop原创 2023-10-05 11:38:15 · 2084 阅读 · 1 评论 -
大模型部署手记（1）ChatGLM2+Windows GPU
大模型部署手记（1）ChatGLM2+Windows GPU 暗影精灵7Plus Nvidia GTX 3080 Laptop原创 2023-10-05 11:35:35 · 376 阅读 · 0 评论