- 博客(366)
- 资源 (7)
- 收藏
- 关注
RSS订阅原创 LLM 的工作原理
训练的目标是根据前面的 token 预测序列中的下一个 token。会为现有序列中的每个 token 分配一个权重，这个权重代表该 token 对下一个 token 的相对影响。接着，模型会根据预测出的向量，选择最后可能延续该序列的 token。它可以是不同的单词、单词的一部分，或是单词和标点符号的组合。这个过程会对序列中的每个 token 重复进行，输出的序列会被递归地用作下一次迭代的输入。在训练过程中，完整的 token 序列是已知的，但当前所考虑的 token 之后的所有 token 都会被忽略。
2025-09-10 17:29:33
188
原创 IsaacLab训练机器人
下载isaac-sim 5.0 压缩包命令行输入nvidia-smi，“Driver Version”这一行，后面跟着的就是你的NVIDIA驱动版本号，比如546.92。而后面的“CUDA Version：12.2”则代表可以支持版本的最大版本号（并非实际的cuda版本）！check后，有返回 如下报错信息参见链接：-技术资源：3. 实验项目：-学习资源：参加活动者必须报名下面两个课程：-我们的直播回放（含详细的实验步骤）步骤一：如何二进制安装IsaacSim 5.0。
2025-09-02 15:16:12
871
原创 Nvidia Isaac Sim机械臂实验
使用平台，Windows 2011（下载Isaac Sim 4.5 大约6.5G） + WSL（安装Ubuntu 22.04）导入成功后，一开始会看到三维坐标，稍后（等待下载）会看到金色的机械臂，就基本大功告成了。按照参考链接第一个操作，会失败，报下面runtime callback错误，原因：可能需要先在WSL Ubuntu环境中安装ROS2，并做相关配置。2：在Ubuntu中添加控制程序，执行即可（代码COPY第二条博文链接）//按照提示 1——6选择机械臂，A/D选择远近操作，观察机械臂。
2025-07-24 20:17:30
653
原创 CentOS 源问题
查询后，得知可能是：centos 7 在2024年6月30日，生命周期结束，官方不再进行支持维护。更换源后 yum clean all时，报错。再 yum clean all，顺利通过。CentOS 使用yum时报错。
2025-06-20 10:33:27
104
原创 DeepSeek模型参数
671B模型共有24层，但其实只用到5层，相当于30B个参数（5x671）通常用32B即可，32以上版本，是蒸馏版本；70B以上用于数据分析。H20租金5w/月，可以用 火山云引擎或者 硅基流动。70B模型机器，20个并发，大约20万左右。8卡满血并不是全量满血，
2025-06-20 10:32:52
277
原创 解决 docker pull镜像失败
参数:-i docker-centos-httpd-image.tar 指定载入的镜像归档。替换 /etc/docker/daemon.json文件种内容，将以下。安装 docker-ce。方法 1:在线拉取镜像<方法 2:离线导入镜像“然后重启docker。
2025-05-26 17:08:40
441
原创 更换证书和域名
到腾讯云 购买的域名页面 做解析这个域名到服务器IP，解析完能ping到服务器ip，就能用这个域名来访问了。2：后端应用的settings.py文件 #ALLOW_HOST等参数。1：nginx配置的 site-enable/default中。旧的地址没修改解析前，还是指定服务器的，不过证书应该不对了。Djange 应用更换域名，主要在 两个地方修改。
2024-11-19 16:55:57
350
1
原创 基于 NIM 建构多模态 AI-Agent （代码解析）
这里首先定义了提示词模板, chart_reading_prompt, 我们输入的图片会边恒base64格式的string传输给它将处理好的提示词输入给char_reading, 也就是microsoft/phi-3-vision大模型来进行数据分析, 得到我们需要的表格或者说table变量将Phi3 vision处理好的table和提示词输入给另一个大模型llama3.1, 修改数据并生成代码将生成的代码通过上面的执行函数来执行python代码, 并得到结果# 根据“表格”决定是否读取图表。
2024-09-11 16:59:46
1206
原创 华为云数据库使用方法
如果是在linux服务器安装postgresql，则需要开放localhost和listen address。在华为云购买了一个postgresql数据库实例，想要连接， 发现只有内网ip，如果要连接，还需要。1：购买一个公网弹性ip。2：修改防火墙的进站规则。
2024-09-10 09:49:00
535
原创 Microsoft.CognitiveServices.Speech.core.dll‘ (or one of its dependencies). Try using the full path w
即需要安装最新的 Microsoft Visual C++ 可再发行程序包版本。Windows开发时，遇到如图问题，提示报错如上。
2024-09-07 17:59:02
454
原创 Ubuntu 20_04-lts安装Nodejs安装
Node.js（简称 Node）是开源服务器端 JavaScript 运行时环境。可以使用 Node.js 在浏览器以外的多个位置（例如服务器上或 CI/CD 管道中）运行 JavaScript 应用程序和代码。Node.js 是名为的 JavaScript 引擎的包装器，它，包括 Google Chrome、Opera、Safari、Microsoft Edge、Firefox 等。通过在浏览器外使用 V8 引擎，可以使用 Node.js 来运行 JavaScript。
2024-09-04 19:45:08
707
原创 2024 NVIDIA Summer Camp Day3：构建RAG多模态AI Agent
2：第四步 可能会 提示没有生成图片，原因是 默认的路径是 Linux中写法，而在Windows中应该为 win中的目录结构写法。回到windows 目录下 ，看到了生成的图片，其标题被改变，下方国家名称 的排列方式也发生了变化。将在浏览器 地址改为输入 http://localhost:5000。5：末尾在 Gradio中上传如下左图后，在下方输入。可以尝试调整其中的内容 多看看。1：可能会提示没有安装pandas，则安装即可。3：末尾可能会提示未安装 Gradio。
2024-08-18 14:11:11
448
原创 2024 NVIDIA Summer Camp Day1：构建RAG多模态AI Agent
在左侧 Discover，右侧为 Trending Now 中任意点一个模型 ，然后右下方的 Get api key按钮，可以获取一个key，务必把key里内容 copy和保存起来。课程相关资料下载链接: https://pan.baidu.com/s/15Y-gmsfeYCgKF-M3TJZVgg?链接: https://pan.baidu.com/s/110oEsaNSAqbRNpUC0u5VrA?链接：https://pan.baidu.com/s/10HqxpkJmSyg-BbBbin8xHg?
2024-08-16 21:50:03
526
原创 current network has https://ww,anaconda.com blocked, please filesupport request with your network
参照如上方法安装了miniconda之后，启动了jupter-lab也运行 正常，不久后，突然lab中cell不执行了。查看后台，发现一直 报kernel 和 http 的错。原因很多，首先C:\users\xx 目录下找不到.condarc文件，于是开始创建。然后准备重新建一个虚拟环境，发现并不成功，报错如下。于是，先查看，后清理了 这个 虚拟环境，如果急着使用，可以 直接掠过。再重新创建虚拟环境，就ok了。如果想学习，可以参见。
2024-08-16 18:40:50
387
原创 docker做Llm开发时可能会遇到的问题
修改 原来 /etc/docker/daemon.json 文件内容如下。其中最后一步可能会报错，原因是configure没有load正确。原因可能是 ：没有安装 GPU Docker 运行时。如果没有开启GPU，会报错。再次安装后，查看即可。则按照如下参照安装，
2024-08-16 11:07:44
483
原创 Ubuntu: pip is configured with locations require TLS/SSL, however the ssl module is not available
可能原因是python没有ssl，则在python安装时应该添加ssl。再clone文件即可。
2024-08-15 21:33:06
1224
原创 NVIDIA Hands-on Lab——Building RAG Agents with LLMs
NVIDIA DLI RAG课程（，并获得该课程证书。
2024-08-12 16:22:41
760
1
原创 定位Oracle表空间问题
再查看表空间，以及datafile大小等，主要 是这两个表 dba_data_file, dba_tablespaces, dba_free_space等。RT：一般把表空间设置为 自动扩容的，但有时可能会忘记，出现一些表写入的问题。通常先看表定义语句，该表在哪个表空间。查看剩余datafile比例。首先查看磁盘空间剩余大小。添加datafile。--用的人少一点执行。
2024-08-04 12:00:16
236
原创 Azure Chatgpt demo部署——本地CentOS Docker
在frontend/src/pages/layout/Layout.tsx文件注释或删除掉引用svg图标的语句，../../assets/Azure.svg；除此外，在frontend/src/pages/chat/Chat.tsx，src/components/QuestionInput/QuestionInput.tsx文件也需要注释或删除掉引用assets/.svg图标的语句，不知道为什么，这里不支持引用。开始编译docker，发现会报错。另外，还会报前端图标相关的问题。取2023年8月27日代码。
2024-05-23 10:19:52
711
1
原创 ERROR [internal] load metadata for docker.io/library/node:20-alpine
然后可以通过 docker pull 该链接 来测试是否成功。docker编译时报错，除标题外，还报如下信息。在其中添加如下代码即可。
2024-05-21 18:28:12
9414
原创 =＞ ERROR [internal] load metadata for docker.io/library/python:3.11-alpine
RT，docker下载时报错，如下方法解决。
2024-05-21 17:02:16
2170
原创 flask Web应用的接口调试
在header中填写 Content-Type application/json。在api.ts文件中可见调用了 /conversation 接口。在app.py最下方有 /conversation 接口。本地运行后，使用postman调试。使用chrom浏览器F12查看 Networ-body中填写如下测试值。
2024-05-20 10:59:10
383
原创 linux下删除nginx进程
使用netstat ,ps等命令一旦查到80端口 nginx进程号，使用kill -9 删除后发现nginx进程号还是存在，只是变了个号码。centos 环境 nginx占用80端口，正常情况无法停止、删除。再次使用上面命令查看时，发现nginx进程已经不存在。然后再 kill -9 所有的进程号即可。
2024-05-20 10:39:45
1150
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人