nlp
关注
分享
扫一扫
文章平均质量分 67
telllong
c/c++/golang/js/java/python programer
展开
-
使用llama.cpp 在推理MiniCPM-1.2B模型
llama.cpp是一个开源项目，它允许用户在C++中实现与LLaMA（Large Language Model Meta AI）模型的交互。LLaMA模型是由Meta Platforms开发的一种大型语言模型，虽然llama.cpp本身并不包含LLaMA模型的训练代码或模型权重，但它提供了一种方式来加载预先训练好的模型，并使用它们进行文本生成等任务。原创 2024-09-18 16:58:53 · 1074 阅读 · 0 评论 -
尝试在手机上运行google 最新开源的gpt模型 gemma
Gemma是谷歌于2024年2月21日发布的一系列轻量级、最先进的开放语言模型，使用了与创建Gemini模型相同的研究和技术。由Google DeepMind和Google其他团队共同开发。Gemma提供两种尺寸的模型权重：2B和7B。每种尺寸都带有经过预训练（pre-trained）和经过指令调制（instruction-tuned）的变体。原创 2024-04-09 14:21:40 · 1541 阅读 · 1 评论 -
零基础部署chatglm
chatglm, 类chatgpt, 聊天机器人，文心一言原创 2023-03-25 11:10:21 · 10574 阅读 · 2 评论