- 博客(12)
- 收藏
- 关注
原创 【openai】Failed to establish a new connection: [Errno 111] Connection refused
1.在api_requestor.py中设置proxy为127.0.0.1::7890,参照。2.在api_requestor.py中设置proxy为None,参照。注意调用的gpt的版本,买成3.5的api了,实际用的4的。我的openai是0.的版本,1.高版本有别的设置语句。5.降低urllib3版本为1.25.11,参照。3.增加重试连接次数、关闭多余的链接,参照。6.折腾vscode代理,参照。使用国内代理并且不开科学,参照。(1)打开setting。(3)添加如下字段,参照。
2025-01-06 20:21:17
811
原创 python -m model.fed_transformers.test不成功
一:云端和内部设置的 GPU 实例被防火墙阻止对外部连接,导致连接错误。当尝试下载模型权重或数据集时,下载将挂起,然后超时并显示以上消息。在这种情况下,应尝试在离线模式下运行Transformers 以避免连接错误,即手动下载模型到cache_dir下。三:科学上网rule改成global。5模型从huggingface镜像下载。代码加上cache_dir参数。
2024-12-26 16:44:58
307
原创 Publication Manual of the American Psychological Association 格式修改 latex APA style
\documentclass[a4paper,11pt]{elsarticle}\usepackage{apalike}\usepackage{hyperref}\usepackage{multirow}\usepackage{amsmath}\usepackage{color}\usepackage{setspace}\onehalfspacing\journal{EJOR}\bibliographystyle{apalike}\biboptions{authoryear}
2024-11-27 15:31:52
213
原创 【无标题】
在联邦指令调优中,每个client都持有一个指令调优数据集,其中每个示例都是一对指令(问题+真实回答)。每个client都会在指令调整loss(就是SFT)的监督下训练本地模型,而指令调整loss只对响应进行监督。最终的全局模型应该能够遵循人类的指令,这些指令是通过FL从不同的分布式各方中隐含地学习到的。
2024-11-01 16:14:20
322
原创 【无标题】
token词表llama3是128k,llama2是32k,增加编码效率(token语义含量)eg:本来是q对应各自的kv,但这里让两个q共用一组kv,把两组kv平均(或者随机取一个)训llama3之前,先用llama2半自动生成一些数据,然后用打分器打分,再训llama3。RL算法提升模型得分:模型生成内容再评分器尽可能高分,但不能太偏离原来的模型。DPO:通过推导把评分器消掉了,正样本高分负样本低分的同时不偏离标准模型太远。依然是transfomer结构,70b最强模型,最大亮点:考虑推理成本。
2024-07-02 19:54:48
174
原创 Python编程从入门到实践_错误记录_day3
Python编程从入门到实践_错误记录_day3外星人只显示一行,不是一群class Alien(Sprite): def __init__(self,ai_settings,screen): """初始化外星人并设置其起始位置""" super(Alien,self).__init__() self.screen=screen self.ai_settings=ai_settings #加载外星人图像 设置rec
2021-04-16 00:57:00
198
原创 Python编程从入门到实践_错误记录_day2
Python编程从入门到实践_错误记录_day2【1】pygame.error: video system not initialized在代码前加入pygame.init()【2】 pygame.display.flip() pygame.error: Display mode not set
2021-04-13 23:51:44
1225
1
原创 Python编程从入门到实践_错误记录_day1
Python编程从入门到实践_错误记录_day1磕磕绊绊查来查去…【1】name ‘question’ is not definedclass annoymoussurvey(): def __init__(self,question): self.question=question self.responses=[] def show_question(self): print(question) def store_respo
2021-04-12 01:37:27
403
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人