- 博客(228)
- 资源 (18)
- 收藏
- 关注
原创 LLM 推理的核心指标
LLM 推理的核心指标:TTFT 首 Token 延迟、TPOT 每个Token延迟、Latency延迟、Throughput:吞吐量
2024-08-12 18:25:13
2465
原创 解决:ImportError: cannot import name xxx most likely due to a circular import
most likely due to a circular import这个错误提示表明你的代码中存在循环导入(circular import)的问题。
2024-06-29 13:59:25
564
原创 根据save_steps,epoch,batch_size,训练集数据量,判断会有多少个checkpoint
如何计算会有多少个checkpoint
2024-06-24 20:32:27
257
翻译 cudaErrorNoKernelImageForDevice: no kernel image is available for execution on the device
no kernel image is available for execution on the device
2024-04-19 20:30:00
756
1
翻译 简述语言理解任务基准:superGLUE
SuperGLUE一种评估通用语言理解系统的新基准。SuperGLUE 通过识别一组新的具有挑战性的 NLU任务来更新 GLUE 基准,这些任务通过人类和机器基线之间的差异来衡量。
2024-04-18 09:00:00
1222
翻译 微软说:NL2SQL是一个远未解决的问题!
近期微软专家探讨了企业级NL2SQL领域的关键问题和挑战:企业中复杂数据库模式、语言歧义、语义不匹配和缺乏切近企业实际场景的评估基准等。
2024-04-07 17:00:22
913
翻译 使用大型语言模型改进文本嵌入Improving Text Embeddings with Large Language Models
一种用decoder做embeding的方法
2024-03-12 19:26:18
487
原创 Redis作者antirez谈LLM和编程(好文)
0、与大型语言模型(LLM)协作,学会让其为简单问题提供答案,这样可以更高效地利用时间。 1、正确地向LLM提问是一项基本技能。 2、在与他人交流时,提高描述问题的能力同样重要,因为不仅LLM,有时其他人也可能不明白我们的意图。 3、沟通障碍是很大的限制,尽管许多程序员在其专业领域表现出色,但在沟通方面却存在欠缺。 4、搜索引擎可能会被LLM替代,因此在寻求信息时,首先应咨询LLM,但同样需要有辨别能力。 5、哲学观点:相信亲眼所见似乎是一个明智的方法。 6、启示:
2024-02-22 18:04:07
203
原创 一个不容忽视的警告WARNING:pip install --upgrade pip
pip提示升级时,尽量升级。pip升级的好处:1、安装速度加快,寻找依赖包的速度更快。2、解决部分包安装失败,安装不上,不兼容的问题。
2024-01-05 14:55:52
1585
原创 wsl发行版删除、安装和docker镜像压缩
通过本文可以了解:1学会wsl卸载ubuntu虚拟机。2学会使用wsl安装指定发型版本的虚拟机。3、手动压缩docker desktop的本地存储vhdx大文件。
2023-12-10 15:21:23
2108
原创 SOTA和baseline的区别+benchmark的含义
sota=目前该领域表现最好的算法benckmark=用于对比的各种技术指标;baseline=对比算法。论文motivation=论文所提方法的具体表现,达到了什么效果;
2023-10-23 16:31:21
1036
原创 如何使用自有数据微调ChatGLM-6B
ChatGLM-6B微调落地方案。如何使用自有数据集微调chatglm-6b完成自己的任务。软提示微调的目标,去自动学习一些参数/向量,来模拟人工提示工程;即让模型在嵌入式空间自己学习一个提示向量,加到原来的输入之前,再去激活大模型的“潜力”。
2023-07-18 19:29:45
1645
2
办公文档+wingdings2+wps打钩
2023-04-06
云南省最新五级行政区划json文件 2021年 国家统计局权威数据
2021-05-12
广东省最新五级行政区划json文件 2021年 国家统计局权威数据
2021-05-12
江苏省最新五级行政区划json文件 2021年 国家统计局权威数据
2021-05-12
上海市 最新五级行政区划json文件 2021年 国家统计局权威数据
2021-05-12
内蒙古自治区 最新五级行政区划json文件 2021年 国家统计局权威数据
2021-05-12
山西省最新五级行政区划json文件 2021年 国家统计局权威数据
2021-05-12
河北省最新五级行政区划json文件 2021年 国家统计局权威数据
2021-05-12
广西壮族自治区最新五级行政区划json文件 2021年 国家统计局权威数据
2021-03-10
浙江省最新五级行政区划json文件 2021年 国家统计局权威数据
2021-03-06
北京市最新五级行政区划json文件 2021年 国家统计局权威数据
2021-01-25
用java开发打印机界面_java窗口界面 课程设计
2021-01-12
Python-3.6.11rc1.tar
2020-08-04
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人