- 博客(8)
- 问答 (1)
- 收藏
- 关注
RSS订阅原创 超简单，使用fastmcp让大模型调用本地函数
本文介绍了一种简单实现大模型本地函数调用的方法。通过FastMCP创建本地服务端，使用Python装饰器定义工具函数（如"打开冰箱"和"放入物品"），在函数注释中写明提示词。然后通过OpenAI接口将工具信息发送给大模型，解析返回的工具调用请求，执行本地函数后将结果返回给模型。文章提供了完整的代码示例，包括服务端设置、工具转换格式和循环处理多轮调用的逻辑，并推荐了进阶学习资源。这种方法简化了复杂的调用流程，让开发者能快速实现本地服务与大模型的交互。
2025-08-04 16:28:07
749
原创 提高Linux下进程的网络优先级和cpu优先级
摘要：本文介绍如何通过tc命令配置Linux网络优先级(PRIO qdisc)，并结合cgroup实现进程网络I/O优化。主要内容包括：1)删除旧qdisc并在网卡(如enp2s0)创建3级PRIO队列；2)建立net_prio cgroup目录并关联最高优先级；3)提供自动化监控脚本(jiaoben.sh)，可实时检测指定进程(如aria2c)并动态设置CPU(nice值)和网络I/O优先级。脚本每2秒检查一次，将目标进程加入high_priority cgroup，确保网络流量优先处理。
2025-06-28 16:52:57
568
原创 Ubuntu设置软件开机启动最简方法
（ps：万一不成功，可以输出信息，查看是哪里的问题，在cron里面改成。这样就会把每次启动的信息给放到软件启动目录下的对于log文件里。然后保存退出，给这个软件设置无密码sudo权限。进入编辑界面后，在最底下加上。进入编辑界面后，在最底下加上。
2024-10-17 12:19:03
648
原创 yolov10模型调用
发现一个forward，进去一看是父类的，而且里面还需要进。好好，既然如此那我就再入，入到了最后的一关。进入DetectionModel类。最后返回的x，是一个包含了。
2024-09-07 19:48:40
303
1
原创 transformer简易流程结构阐述
以词汇翻译为例，将英文翻译成德文首先会有一个词表，正常情况下，词表的长度就是所有的英文单词（德文单词）的长度，对应着每一个单词，如首先看图，我们的inputs就是普通的向量，形状为[batch_size, src_len]，但是推理模式和训练模式下的解码器输入是不同的，因为最后的output表示的是对下一个词的预测（以下都省略了batch_size）接下来，inputs进来后，要先经过一个embedding，这个的作用就是把单词映射到高纬度的矩阵。
2024-09-02 19:43:16
739
2
原创 yolov8简易结构流程阐述
但若要计算损失，还需要确定正负样本，因为图像中大部分其实是没有我们事先标注好的检测对象的，也就是没有object，对于它们来说，去计算预测框损失是没用的，对于负样本来说，应该保证的是预测框的80个类别概率都应该非常非常低，甚至是没有，这才是好的结果，所以对于负样本，有他适合的损失函数，也就是纯粹的分类损失，因为负样本没有必要去算预测框坐标损失。对于预测框类别，得到8400*80（假设有80个类别），表示每个预测框对每种类别的预测概率。是预测框和 gt 框的 iou，两者相乘就可以衡量对齐程度。
2024-08-30 18:08:28
580
1
空空如也
洛谷上挺简单的一题，不知道自己错在哪
2022-01-20
TA创建的收藏夹 TA关注的收藏夹
TA关注的人