- 博客(6)
- 收藏
- 关注
原创 在Ubuntu系统中安装Docker、添加国内镜像源、使用国内镜像站、vllm容器部署大模型
在Ubuntu系统中安装Docker以及添加国内镜像源_ubuntu docker添加镜像源-优快云博客渡渡鸟镜像同步站使用vllm docker容器部署大语言模型-优快云博客
2025-04-16 21:21:32
216
转载 pycharm 命令行家在conda环境失败。表达式或语句中包含意外的标记“C:\Program”。Invoke-Expression -Command $activateCommand;
这里面的环境变量%CUDA_LIB_PATH%;经过一下午的查找试过很多方法,最终发现是系统。,里面有一步设置环境变量的步骤如下图。在pycharm下的终端激活。
2025-04-03 16:51:00
141
原创 Selective Context:上下文压缩神器,突破 LLM 长文本处理瓶颈
Selective Context 完成压缩的核心技术在于自信息测量。在信息论中,自信息衡量与一个事件相关的惊讶或不确定性水平;罕见事件传递更多信息,因此具有更高的自信息,而常见事件传递较少信息,自信息较低。在语言建模中,自信息可以用来评估词汇单元(如单词、短语或句子)的信息量。自信息较低的词汇单元信息量较少,更可能从上下文中推断出来,因此在 LLM 推理过程中,这些输入部分可以被视为冗余。
2024-12-08 10:32:16
1818
原创 Instructor:58种Prompt技术让 LLM输出更加结构化和可控
Instructor[1] 也是目标解决这个问题的 Python 库,并且更进一步,以简单而强大的方式来定义、验证和控制 AI 输出的结构,可直接返回可操作的的 pydantic 对象,Instructor 提它支持 OpenAI、Anthropic、Cohere 等多种主流 LLM 提供商,极大地简化了开发者与 AI 交互的工作流程。除此之外,Instructor 还提供了很多工程层面的改进和优化,并且支持多种语言,包括 Python、TypeScript、Ruby、Go 等。自动响应验证和重试机制。
2024-12-08 10:14:18
1581
原创 一份AI领域研究的经典论文清单
一个名为 Taro Langner 的贡献者对清单做了补充,还指出了一些必须注意的额外内容,包括 Yann LeCun等重要 AI 学者的工作,以及关于 U-Net、YOLO 目标检测、GAN、WaveNet、Word2Vec 等技术的论文。论文地址:https://www.cs.princeton.edu/courses/archive/spr08/cos598B/Lectures/LeCunEtAl.pdf。许多行业从业者、基础科学研究者需要快速了解 AI 领域发展现状、掌握必要的基础知识。
2024-12-08 09:33:52
1636
原创 【ROS】在 Ubuntu 安装 ROS 过程中启动组件报依赖不存在
当按照顺序安装组件和依赖,加载~/.bash.rc环境变量后依然报错找不到路径,可以尝试将动态变量写入全局变量加载/etc/profile。#export 可查看当前系统下的所有环境变量.1.2:export 设置好的环境变量.1.1 :首先在此文件中设置环境变量;3、直接在shell下用export命令修改。export PATH="变量路径"export PATH="变量路径"1、修改/etc/profile。2、修改.bashrc。
2024-12-04 14:19:42
281
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人