一个欠登儿程序员的博客

文章分享了在CUDA 12.4环境下部署DeepSeek-OCR模型的实践过程。作者通过创建conda虚拟环境、安装对应版本的vllm和flash-attn组件，解决了环境适配问题。针对1893页PDF文件测试，使用L20显卡耗时17分钟完成识别任务，效果良好。文中详细记录了CUDA版本差异导致的配置调整，包括修改ptxas路径等关键步骤，为同类部署需求提供了实用参考。最终实现了每秒约1.85页的识别速度，验证了该OCR模型的实际应用价值。