- 博客(16)
- 收藏
- 关注
RSS订阅原创 Multi Role CoT：通过协作思考提升LLM性能
相比之下，Multi Role CoT引入了多个角色，这些角色之间相互互动、相互挑战，从而得出更全面、更深入的解决方案。本文提出的Multi Role CoT是一种新方法，通过引入多个角色来模拟协作思考，这些角色相互互动、相互挑战，旨在通过利用不同角色的多样化视角和专业知识，生成更全面、更深入的解决方案。通过引入相互互动、相互挑战的多个角色，模型生成了更全面、更深入的解决方案。未来的工作可以进一步完善该方法，例如引入更复杂的角色动态，并扩大所解决问题的范围。协作思考过程促使模型产生了更深入、更细致的回应。
2025-03-04 15:16:24
371
原创 使用vLLM在3090上部署DeepSeek-R1-Distill-Qwen-7B R1 推理服务
出现：RuntimeError: CUDA error: out of memory,把--gpu-memory-utilization=0.80改小点。这里可用清华的源，也可以用北京外国语大学的pip源，我用的内部的。4. 创建python 干净的虚拟环境。1. 在机器上拉取Docker 镜像。最好安装虚拟环境，免得依赖处理麻烦。2. 启动docker 镜像。
2025-02-21 11:37:40
377
原创 大模型工程化部署：使用FastChat部署基于OpenAI API兼容大模型服务
大模型工程化部署：使用FastChat部署基于OpenAI API兼容大模型服务
2024-11-24 20:00:41
2305
原创 nohup java -jar 启动应用，一会儿进程就自动被杀死了是什么原因？
项目使用springboot 构建 ：用 nohup java -jar 启动java进程，过一段时间进程就挂掉了，而我去服务器看，需要通过secureCRT，发现CRT的session总是断掉了，因此我推断可能是nohup，启动方式不对。于是在网上查找问题，可能是因为session挂了会发送信号给系统中断进程。我在nohup java -jar xxx.jar & 后台启动之后，然后控制台输入：exit，退出当前登录，it works，进程没有再挂掉过，解决了。拜拜...
2020-10-27 09:56:53
6499
4
原创 myeclipse 启动后一直Updating indexes
按如下设置： Window --> Preferences --> Maven --> 去除☑️Download repository index updates on startup
2018-10-17 16:21:16
1349
翻译 阿里云Arena：深度学习的开源工具
From https://dzone.com/articles/alibaba-cloud-arena-an-open-source-tool-for-deep-l阿里云在2018年7月向开源社区引入了深度学习工具Arena。现在，数据科学家可以在云上运行深度学习，而无需学习操纵低级IT资源。他们可以在一分钟内启动深度学习任务，并在十五分钟内创建异构计算集群。为什么要像竞技场一样构建工具...
2018-09-08 17:29:15
2445
原创 机器学习泰坦尼克号数据集
https://www.kaggle.com/c/titanic/data更多数据集https://www.kaggle.com/datasets
2018-09-08 17:13:04
5503
原创 java.lang.NullPointerException: Attempt to invoke interface method
java.lang.NullPointerException: Attempt to invoke interface method 'void com.yyxx.nsdk.a.g.init(android.app.Activity, java.util.Map)' on a null object reference在一个未实例化的对象上调用，其方法会报该错误，经常出现在初始化阶段生成实例失...
2018-08-13 09:54:31
19856
原创 Tomcat 独立配置Java环境
Tomcat 启动调用startup.bat==》catalina.bat=》setclasspath.bat文件来获取JAVA_HOME和JRE_HOME这两个环境变量的值两种设置方式1、修改tomcat/bin/catalina.bat set JAVA_HOME=E:\Program Files\Java\jdk7\jdk1.7.0_562、修改tomcat/bin/setc...
2018-08-04 16:06:10
522
原创 Application Loader上传成功了 iTunes Connect不显示构建版本
1.刷新后台过一段时间看看是否显示，不确定是否传成功可以，重新传一次，如果传成功了，重传会提示ERROR ITMS-4238: Redundant Binary Upload. There already exists a binary upload with build version。2.到登录application loader的邮箱里看是否有苹果反馈，可能是隐私权限问题，我遇到的是没有申请...
2018-05-15 09:45:55
1306
原创 Java中的ArrayList和CopyOnWriteArrayList
ArrayList是List接口的基本实现之一，它是Java Collections Framework的一部分。我们可以使用迭代器遍历ArrayList元素。我们看看一下ArrayList的示例程序：package com.roin.concurrent;import java.util.ArrayList;import java.util.Iterator;import java.uti...
2018-05-13 23:34:32
1660
原创 Ubuntu中使用virtualenv安装tensorflow
首先保证你有个装有Ubuntu操作系统的机器，机器的CPU位数需要是64位的，32位的是不支持的。我使用的是云服务器，安装的时候不是使用root，而是普通用户。1.使用pip安装virtualenv$ pip install virtualenv 2.创建虚拟环境，路径可以自己定义，个人觉得~路径命令显示的路径比较短，看起来比较方便。现在我们在~/envs 下创建一个叫做ten
2017-11-18 20:27:59
1177
1
原创 超简单的使用云服务器在virtualenv中安装 tensorflow 并部署Jupyter
云服务器环境配置：操作系统：Ubuntu Server 16.04.1 LTS 64位CPU：2核内存：2GB系统盘： 50 GB（云硬盘）公网带宽1Mbps使用非root账号安装使用 virtualenv 创建一个隔离的容器, 来安装 TensorFlow$ sudo apt-get install python-pip python-dev python-v
2017-11-18 18:19:26
1423
原创 Apollo 创建实例报Error occurred during initialization of VM
今天本机部署Apollo 创建实例报错Error occurred during initialization of VMCould not reserve enough space for 1048576KB object heap解决方法：打开D:\apollo\apache-apollo-1.7.1\bin\apollo.cmd 55行 将1G修改成256m
2017-07-29 21:25:35
743
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人