自定义博客皮肤VIP专享

*博客头图：

点击选择上传的图片

格式为PNG、JPG，宽度*高度大于1920*100像素，不超过2MB，主视觉建议放在右侧，请参照线上博客头图

请上传大于1920*100像素的图片！

博客底图：

点击选择上传的图片

图片格式为PNG、JPG，不超过1MB，可上下左右平铺至整个背景

栏目图：

点击选择上传的图片

图片格式为PNG、JPG，图片宽度*高度为300*38像素，不超过0.5MB

主标题颜色：

RGB颜色，例如：#AFAFAF

Hover：

RGB颜色，例如：#AFAFAF

副标题颜色：

RGB颜色，例如：#AFAFAF

预览取消提交

自定义博客皮肤

上一步保存

Qishengdd的博客

原创构建你的CPU本地大模型——利用Intel BigDL量化，利用FastChat完成本地部署

想要在CPU上快速运行你的大模型？想要更快更好的量化模型？Intel研发的BigDL-LLM重磅来袭！！！是否苦于项目开发时，本地大模型难以开发api接口？是否苦于 BigDL 量化模型难以与 modelscope、langchain 等主流框架产生联动？本文让你可以用openai的api调用你的本地大模型！！

2024-03-23 17:48:16 2896 2