- 博客(35)
- 收藏
- 关注
原创 【Hugging Face】编写 shell 脚本在 huggingface 镜像站快速下载模型文件
我们使用 Git LFS 和 wget 结合的方法,小文件使用 Git 下载,大文件使用 wget 下载Git 下载的优缺点:优点:相当简单缺点:不支持断点续传直接 wegt 下载比较稳定,但是欠缺优雅我们可以将这两种方法进行结合。
2024-05-07 21:38:27
999
4
原创 使用 AsyncOpenAI 库异步调用 OpenAI API 同时回答多个问题
不使用 async。可以使用openai 库里面的 openai,也可以使用 Python 的 requests。首先定义 async_query_openai 函数,负责处理单个请求,返回单个结果。async_process_queries 接收一个请求列表,返回所有请求的结果列表。导入必要的库,其中 time 模块负责计算最后的时间,不需要的话可以不导入。,等待它完成,然后关闭事件循环。我使用的 system_prompt 如下,因为这个模型太喜欢说英文了。使用 async,代码如下。
2024-05-07 09:00:00
6186
7
原创 【软件系统架构设计】知识点汇总
为什么在信息系统建设前需要进行系统规划?系统规划提供了机构信息化建设的基本纲领和总体指向。系统规划是工程项目实施的前提与依据。做好系统规划可避免盲目信息化建设给机构带来巨大的损失系统规划主要解决什么问题?根据组织机构使命及其战略目标,制定信息系统建设总体目标与愿景;针对组织机构信息化需求,确定信息系统总体框架、技术路线与实施方案: 在充分考虑组织机构的技术、设备和人力资源等因素下,制定组织机构的信息系统实施建设项目计划,并分析评估信息系统建设方案可行性。
2024-04-17 00:10:57
2576
原创 【pytorch常用方法汇总】张量的转换、生成篇
返回一个 1 维张量,包含在区间 start 和 end 上均匀间隔的 step 个点,默认左右均为闭区间, 输出 1 维张量的长度为steps。返回一个张量,包含了从标准正态分布(均值为 0,方差为 1)中抽取一组随机数,形状由可变参数 sizes 定义。返回一个张量,包含了从区间[0,1)的均匀分布中抽取的一组随机数,形状由可变参数sizes 定义。返回一个张量,包含从给定参数 means,std 的离散正态分布中抽取随机数。返回一个全为 1 的张量,形状由可变参数 sizes 定义。
2024-02-04 18:42:40
1541
原创 只需三步,搭建基于知识库的专属ChatGPT
Meta AI 的研究人员引入了一种叫做的方法来完成知识密集型的任务。RAG 会接受输入并检索出一组相关/支撑的文档,并给出文档的来源(例如维基百科)。这些文档作为上下文和输入的原始提示词组合,送给文本生成器得到最终的输出。RAG 让语言模型不用重新训练就能够获取最新的信息,基于检索生成产生可靠的输出。RAG 的应用范围广泛且多样,从改进客户服务聊天机器人、促进详细和个性化的内容推荐,到支持业务环境中的复杂决策流程。
2024-02-04 18:34:26
2066
原创 使用 LlamaIndex 部署本地 Mistral-7b 大模型实现 RAG
默认情况下,LlamaIndex 使用 OpenAI 的模型,然而由于 OpenAI 的网站在国内无法访问,故使用本地下载好的模型代替之。
2024-01-24 22:25:10
3052
6
原创 使用 vLLM 部署本地 LLM 指南
我们输入以下命令启动服务器,–model 为本地模型的路径,–served-model-name 是模型在服务器中的别名,这里我们取简称 openchat,其他都是默认值,当然也可以自己设置。在这里我们不演示了,直接将 vLLM 部署为模仿 OpenAI API 协议的服务器,这使得 vLLM 可以用作使用 OpenAI API 的应用程序的直接替代品。当然,你也可以试一试 ChatCompletions 格式的请求,ChatCompletions API 的请求内容如下,两种的格式还是有一些区别的。
2024-01-24 09:34:39
33649
18
原创 【软件系统架构设计】期末复习题目汇总:简答+应用
信息系统的 6 种类型,举例说明?信息系统生命周期?各个阶段主要活动?信息系统和软件系统的关系?信息系统生命周期和软件系统生命周期的关系?5 种系统开发模型?会看图知道是哪个模型,会分析各自的特点以及适用场景。
2024-01-04 17:17:01
1686
1
原创 【面试经验分享】SAP 研发岗 VT实习
因为要深造,不符合他们的培养计划,所以最后寄了,不过外企的这种考核方式还是很新颖的,很好的开了开眼界。
2023-12-26 22:07:34
1614
2
原创 【面试经验分享】百度NLP一面凉经
可能因为我是本科生,面试官人很好,问的也都比较偏基础,有几个问题也是在引导着我回答,主要是我的项目实在很水😅没什么技术含量希望对大家也有参考。
2023-12-26 21:57:35
630
原创 【Python基础语法】 字典与集合——知识点与常用方法总结
字典的创建:创建一个空字典:dict1 = { }一般创建字典方法:dict1 = {1:‘one’,2:‘two’,3:‘three’}通过映射关系创建字典:dict1 = dict( ( (1,‘one’), (2,‘two’), (3,‘three’) ) )或者dict1 = dict( [ (1,‘one’), (2,‘two’), (3,‘three’) ] )或者dict1 = dict( [ [1,‘one’], [2,‘two’], [3,‘three’] ] )
2023-11-27 12:25:26
405
原创 新版EA建模工具(16.0版本)代码和类图的相互转化
Enterprise Architect 是Sparx Systems 公司的旗舰产品。它覆盖了系统开发的整个周期,除了开发类模型之外,还包括事务进程分析,使用案例需求,动态模型,组件和布局,系统管理,非功能需求,用户界面设计,测试和维护等。Enterprise Architect 作为一款强大的建模工具,支持代码和类图之间的相互转化,包括正向工程和逆向工程。它不仅可以提高开发效率,降低错误率,而且可以帮助我们更好地理解和管理代码,从而提高软件质量。正向工程允许我们从已有的类图出发,生成对应的代码。
2023-11-27 12:22:27
2115
原创 【Python基础语法】列表、元组与字符串——知识点与常用方法总结
len() 方法:返回对象(字符、列表、元组等)长度或项目个数。append():添加元素在尾部,append()一次只能添加一个元素。extend():使用一个列表来扩充另一个列表,也是添加到尾部。insert():有两个参数,第一个参数是插入的位置,第二个参数是插入的元素从列表中删除元素列表的一些内置函数BIFlist.count(a):列表list中元素a出现的次数;list.index(a):列表list中元素a第一次出现的索引号。
2023-10-24 15:58:48
215
2
原创 【计算机组成原理】电子科技大学期中考试复习:原码补码IEEE754,指令系统,CPU
外设接口中的I/O寄存器(即I/O端口)与主存(内存)单元一样看待,每个端口占用一个存储单元的地址(总线地址),将主存的一部分划分出来用作I/O的地址空间。区别:独立编址与统一编址的区别:独立编址访问外设有专门的I/O指令(比如:x86的in/out等指令),也就是独立编址会存在I/O空间的概念。时序控制方式中,有一种方式,是总线周期中允许插入延长周期,其含义是(在一个时钟周期内插入新的总线周期 )补码和移码都是平移得到的,但是前者是2的n+1次方,后者是2的n次方(字长为n+1位)
2023-08-03 10:52:14
603
原创 【软件工程】期末知识点总复习(包括考题分布介绍)——电子科技大学期末考试
软件=程序+数据+文档,程序是按事先设计的功能和性能需求执行的指令序列,数据是程序能正常操纵信息的数据结构,文档是与程序开发、维护和使用有关的图文材料双重作用:一方面是一种产品,另一方面是开发其他软件产品的工具软件危机:在计算机软件的开发和维护过程中所遇到的一系列严重问题客观原因:软件本身特点,逻辑部件,规模庞大主观原因:不正确的开发方法,忽视需求分析,错误认为:软件开发=程序编写,轻视软件维护软件工程的定义:(1)应用系统化的、学科化的、定量化的方法,来开发、运行和维护软件,即将工程应用到软件。
2023-07-09 10:56:42
3835
6
原创 【计算机网络】期末考试复习提纲——电子科技大学2023期末考试
仅为复习提纲,更全面内容可以参考此篇文章:https://blog.youkuaiyun.com/spicy_chicken123/article/details/131604412?应用题复习:https。
2023-07-07 21:08:31
2400
1
原创 【计算机网络】期末考试应用题题型整理+完整解答——电子科技大学2023期末考试
如下图所示,源主机和目的主机之间有N段链路,每段链路长度均为m。链路的传输速率为R,信号的传播速率为C。现从源主机向目的主机发送P个长度为L的分组。试分析并给出所有分组到达目的主机所耗费的总时延(忽略排队时延和处理时延)。所有分组到达目的主机所耗费总时延,即为最后一个分组到达目的主机时所花费的总时间。设最后一个分组为X:(1)在X进入链路前,要等待之前的P-1个分组进入链路,它们的总传输时延为(P-1)L/R;
2023-07-07 21:06:13
3946
5
原创 【软件测试与质量保证】期末考试总复习——电子科技大学2023期末考试
考试真题可以看这篇文章:https://blog.youkuaiyun.com/spicy_chicken123/article/details/131498010。
2023-07-07 20:49:41
994
1
原创 【数据库原理与应用】期末知识点总结——电子科技大学2023期末考试总复习
数据库原理与应用考试知识点总结,将其中的数据库管理一章拆分成了事务管理和安全管理,文章重点针对电子科技大学2023期末考试,对其他学校的考试应该也有所帮助
2023-06-22 11:10:22
3532
4
原创 【操作系统原理与实践】期中考试考点整理与复习(OS引论,进程管理,处理机调度与死锁)——电子科技大学2023期中考试
操作系统考点整理与总结,覆盖课本前三章,方便考前复习
2023-04-19 12:00:00
1771
原创 【计算机组成原理】计算机中的信息表示
介绍数值型数据的进位计数制,带符号数的表示(重点为原码和补码),小数点的表示(定点数、浮点数、IEEE754)
2023-04-11 20:45:22
1798
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人