- 博客(92)
- 资源 (17)
- 收藏
- 关注
原创 LLM大模型开发的一般流程
绝大部分大模型应用都是采用的特定数据库 + Prompt + 通用大模型的架构,构建从用户输入到应用输出的全流程贯通,推荐基于langchain框架开发,提供较多的工具、供大家适用,将开发以大语言模型为功能核心、通过大语言模型的强大理解能力和生成能力、结合特殊的数据或业务逻辑来提供独特功能的应用称为大模型开发。优质的prompt 对大模型能力具有较大影响,我们需要逐步迭代构建优秀的prompt来提升性能,确定应用的核心功能,然后衍生出设计功能的上下游功能,开发的应用场景、目标人群、核心价值,
2024-06-13 17:31:24
509
原创 入门--六个免费学习chatgpt系列课程
由DeepLearningAI和OpenAI为开发者提供的关于ChatGPTPrompt工程的。DeepLearningAI在2019年推出,是一个4周的,0基础的系统课程,94万人报名。面向所有人的AI入门课程,包括非技术人员。在这短短的1.5小时课程中,他和@isafulf会教您如何使用大型语言模型。4月25日推出时效性很强为ML新手,使用python语言的工程师准备的。(LLM)快速构建应用程序,以及这样做的最佳实践。包含60多个内容模块的提示工程综合课程。Google的免费机器学习入门课程。
2024-03-20 17:20:32
646
原创 C++中利用哈希表实现快速的匹配和查找 :std::unordered_map 或 std::unordered_set 的区别
C++中利用哈希表实现快速的匹配和查找
2023-05-22 15:10:34
1523
原创 (前期准备工作2)白嫖Replit的免费云服务器搭建属于自己的应用
Replit(原来是https://repl.it)是一个基于浏览器的云端协同开发平台,可用于构建开发环境、实时协作、托管网络应用等。Replit提供可创建动态或者静态网站的容器,并会自动生成免费https域名(格式为:项目名.用户名.http://repl.co)。这代表着任何人都可以试用Replit的云服务器创建自己的网站,或者是其他的服务,而且这一切,都是免费的。Replit官方文档:https://docs.replit.com/
2023-05-18 19:01:55
3438
2
原创 (前期准备工作1) Ubuntu python3.10 安装详细教程(并更新python,pip默认指向为python3.10)
Ubuntu安装python3.10,并更新python,pip默认指向为python3.10, pip3。
2023-05-18 17:09:07
4792
原创 软件定义汽车SDN的五大技术挑战--软件定义汽车产业生态创新白皮书发布
软件定义汽车是大势所趋,在业界已经形成基本共识。但如何落地,落地过程中需要解决哪些关键问题?是每一个参与企业需要首先面对、认清和解决的难题。
2022-11-14 21:59:27
429
原创 C++中(封闭)类的定义及使用特性---知识要点篇1
定义一个类,本质上是定义一个数据类型的蓝图public :类定义是以关键字 class 开头,后跟类的名称。类的主体是包含在一对花括号中。关键字 public 确定了类成员的访问属性。
2022-11-07 19:12:17
1892
原创 利用多线程和queue实现生产-消费者模式--消息队列
生产者消费者模式也是一种常见的设计模式,而消息队列是较好的实现方式之一,解耦和支持并发,还有其他不同的方式来实现消息队列,后面再继续补充。
2022-11-02 19:59:56
1300
转载 python-schedule模块(定时运行任务)基本用法
python中的轻量级定时任务调度库:schedule,可以完成每分钟,每小时,每天,周几,特定日期的定时任务。因此十分方便我们执行一些轻量级的定时任务。库的安装还是最简单的pip install schedule,使用起来也是很容易理解。...
2022-08-11 11:22:25
8913
原创 【kafka微服务实践】手把手教你搭建一个基于docker的kafka的微服务
Kafka最初于2011年在LinkedIn开发,自那时起经历了很多改进,后来捐献给Apache基金,如今发展成为一个完整的平台,采用Scala和Java开发的开源流处理软件。Kafka是我工作多年使用最多的消息中间件,特点是拥有巨大吞吐量(数百万/秒),作为当下最流行的分布式,可水平扩展,可容错的“消息系统”。.........
2022-08-02 11:56:11
1438
2
原创 docker中运行python文件,报错PermissionError: [Errno 13] Permission denied: ‘./data/xx.pkl‘
进入容器时未给与root权限,运行python文件时在读取文件时未权限,
2022-07-25 17:31:43
2088
原创 Git代码版本管理命令和团队协作规范---实践版
在使用Git的过程中如果没有清晰流程和规划,否则每个人都提交一堆杂乱无章的commit,项目很快就会变得难以协调和维护。Git版本管理同样需要一个清晰的流程和规范。以下是基于VincentDriessen提出的GitFlow流程图(非常清晰,图片上的英文可以翻译一下便于理解)主分支分为master分支和develop分支,是所有开发活动的核心分支。所有的开发活动产生的输出物最终都会反映到主分支的代码中,...
2022-07-25 16:24:58
834
转载 【开源可信隐私计算框架 “隐语”】蚂蚁宣布面向全球开发者正式开源
基于在隐私计算各个方向上的沉淀和积累,结合开源共建的目标,蚂蚁能够确保开源的“隐语”是一个高质量、可扩展的技术框架,也希望能够吸引更多的优质的开发者和用户能够加入到隐语的空间中。更重要一点,它安全性和性能的判断,一方面要有理论的验证,其次具体实现是不是跟理论有差距,从这个角度来说,闭源的情况下技术做到什么程度是很难判断的,将带来更多的损失。主要承担了两方面的职责。隐语的开发过程,经历了多年技术上的沉淀,对技术有了非常深刻的理解之后,才知道哪些东西是通用的、不变的,是需要去沉淀、抽象的东西。...
2022-07-15 10:28:32
606
1
转载 【网络安全管理】未来安全领导者从CISO到CIRO的核心价值是什么?
首席信息安全官(CISO)的职责更多体现在组织的安全技术建设和风险事件处置方面。然而,时代在改变,组织对未来安全领导人的要求也正在发生变化,CISO的角色定位需要更加广泛和复杂。为了应对不断变化的数字化发展风险,CISO不仅需要对网络安全有深刻的理解,还需要具备强大的业务头脑,并牢牢把控影响业务成败的关键因素。因此,一些大型组织机构已经将负责这些更广泛安全职能的领导者重新命名为“首席信息化风险官”(Chief Information Risk Officer, CIRO)...
2022-07-14 15:40:43
282
原创 对web3发展的几点思考
Web3这个名字确实火了,需要我们重新去思考它的概念、内涵、定位和未来发展。取一个好的名字往往就等于成功了一半。“Web3”并非如此,却在2021年12月9日美国国会举办了一场关于加密数字货币的听证会之后,因被视作互联网的未来而突然爆火起来。但无论怎样,思考这个问题,首先要对概念的双方有一个相对清晰的界定。基于上述的概念回顾,这个问题答案很明显选择“是,也不是”。“创新是成功的源泉。”互联网在取得巨大成就的同时,互联网社群始终没有放松对自己的要求,反而是不断寻找新的颠覆式创新。............
2022-06-08 15:01:42
765
原创 从零到一构建CI/CD的DevOps自动化流水线,需要考虑的开源项目
如果你是 DevOps 新人,请查看这 5 个步骤来构建你的第一个 DevOps 流水线。
2022-06-07 11:35:05
2754
原创 面向对象编程的5个原则--python实例
面向对象编程的5个原则--python实例面向对象的五个基本原则1、立杆见影的单一职责原则2、让代码稳定性飞升的开放封闭原则和依赖倒置原则3、挑肥拣瘦的接口隔离原则5、轻装上阵的合成复用原则作为一名开发工程师或者测试开发来说,掌握程序设计、编程技能已经是基本要求了,但如果你想进阶更高的层次,或者你想成为一名合格的测试架构师,除了要掌握如何实现以外,还得要学会如何实现好! 因为掌握功能编码的实现并不代表你能写出或者设计出“好”的代码、好的架构。想成为一名优秀的测试架构师,在程序设计这块需要掌握的一些开发技
2022-04-03 15:30:20
595
1
原创 五种常用设计模式的python实现:单例、工厂、构建者、代理、观察模式
这里写自定义目录标题前言单例模式第 1 种,重写 __new__ 方法第 2 种,闭包定义装饰器工厂模式第 1 种,简单工厂第 2 种,工厂方法第 3 种,抽象工厂构建者模式代理模式观察者模式总结前言在很多人的印象里,Python 作为一款动态编程语言,在日常开发中也很少涉及到设计模式事实上,任何一个编程语言都可以使用设计模式,它可以保证代码的规范性,只是每一种语言的实现方式略有不同而已今天就来看看经常使用的五种设计模式,它们是:单例模式、工厂模式、构建者模式、代理模式、观察者模式单例模式单例模
2022-03-09 12:54:03
465
原创 python编程中装饰器常被忽视的用法:staticmethod 、 classmethod、self和cls的区别
文章目录场景一、直奔主题--区别二、@staticmethod 静态方法三、@classmethod 类方法总结四、建议场景灵魂拷问:你真的会使用 staticmethod 和 classmethod 吗?前几天,有一个小伙伴过来问我,Python 中的 @staticmethod、@classmethod、self、cls 分别代表什么意思,自己平时光顾着用,不知道具体的含义?事实上,由于 Python 语言的灵活性,这部分内容在日常编码过程中,很容易被忽略掉一、直奔主题–区别下面总结一下
2022-03-08 18:33:28
1145
1
转载 机器学习理论与实践——“特征降维“的常见思路
数据挖掘——特征工程之特征降维在业界广泛流传着一句话:数据和特征决定了机器学习的上限,而模型和算法只是逼近这个上限而已。由此可见,数据和特征是多么的重要,而在数据大多数场景下,数据已经就绪,不同人对于同样的数据处理得到的特征却千差万别,最终得到的建模效果也是高低立现。从数据到特征这就要从特征工程说起了…0.特征工程首先介绍下特征工程是什么:利用数据领域的相关知识来创建能够使机器学习算法达到最佳性能的特征的过程[1.wiki]。特征工程是一个较大领域,它通常包括特征构建、特征提取和特征选择这三个子模
2022-02-18 16:22:28
279
原创 机器学习理论——吃瓜系列之4:神经网络
神经网络1、神经元模型2.1 感知机2.2 多层网络3、误差逆传播算法(BP算法)4、深度学习5、其他常见的神经网络RBF网络ART网络SOM网络级联相关网络Elman网络Boltzmann机1、神经元模型定义:神经网络是由具有适应性的简单单元组成的广泛并行互连的网络,它的组织能够模拟生物神经系统对真实世界体所作出的交互反应。在机器学习中谈论神经网络时指的是”神经网络学“或者说是机器学习与神经网络这两个学科领域的交叉部分。基本组成:神经元模型在M-P神经元模型中,神经元接收到其他n个神经元传递过来的
2022-01-24 19:15:49
1725
原创 机器学习理论_吃瓜系统之3:决策树模型
决策树模型一、简介一、决策树的原理二、剪枝与缺失值处理1.剪枝2.缺失值处理三、多变量决策树决策树的增量学习总结参考文章:一、简介 决策树是对数据进行分类的一种算法。对数据的特征一一判断,从而得出该数据属于哪一个类别。基于树结构来进行决策的,其目的是为了产生一颗泛化能力强、即处理未见示例能力强的决策树,其基本流程遵循简单且直观的“分而治之”的策略。一、决策树的原理决策树分类器是基于数据集建立起来的,通过对数据集的分析,计算各种划分方式的信息增益,确定一个最优的划分顺序。决策树的生成是递归
2022-01-20 16:57:28
789
原创 工业互联网安全标准体系(2021年)及对应标准建设方向正式发布
2021年12月底,在工业和信息化部网络安全管理局指导下,工业互联网产业联盟、工业信息安全产业发展联盟、工业和信息化部商用密码应用推进标准工作组共同发布《工业互联网安全标准体系(2021年)》。为深入贯彻落实《国务院深化“互联网+先进制造业”发展工业互联网的指导意见》《加强工业互联网安全工作的指导意见》《工业互联网创新发展行动计划(2021-2023年)等文件要求,系统推进工业互联网安全标准体系研究,加快基础共性、关键技术、典型应用等产业亟需标准制定,编制形成《工业互联网安全标准体系(2021年)》。工业
2022-01-19 22:04:35
4931
原创 机器学习理论_吃瓜系统之2:线性模型
西瓜书可谓国内机器学习近年最优秀的专业书籍之一。本文以及本系列是笔者阅读南京大学周志华先生所著《机器学习》一书及书中提到的论文所做的每章总结与归纳。
2022-01-17 19:24:43
694
原创 AIEngine 下一代可编程的开源网络入侵检测系统,
概述AIEngine是下一代交互式/可编程Python/Ruby/Java/Lua和Go网络入侵检测系统引擎,具有学习能力 无需任何人工干预、DNS 域分类、垃圾邮件检测、网络收集器、网络取证等等。AIEngine 还帮助网络/安全专业人员识别流量并开发 用于在 NIDS、防火墙、流量分类器等上使用它们的签名。主要功能:支持在引擎运行时与用户交互/编程。支持 PCRE JIT 进行正则表达式匹配。支持正则表达式图(复杂的检测模式)。支持六种类型的 NetworkStacks(lan、mobi
2022-01-12 17:47:13
4141
原创 机器学习理论_切瓜系列之1: 概念解析
机器学习正是这样一门学科,它致力于研究如何通过计算的手段,利用经验来玫善系统自身的性能在计算机系统中,“经验"通常以"数据"形式存在,因此?机器学习所研究的主要内容,是关于在计算机上从数据中产生"模型” (model) 的算法,...
2022-01-10 17:50:39
444
原创 网络工程师技能知识图谱,超全超细致,值得收藏
技术推动了时代变革,互联网则加速了这场变革。随着行业技术的迭代周期越来越短,IP与计算机网络新技术层出不穷,更加需要我们及时更新升级自身的技术储备。经过多方努力,我们极(sang)度(xin)克(bing)制(kuang)的发布了网络知识技能图谱(文后可下载图片后再打开更清晰)。技能知识图谱概览:下面为各部分的涉及到知识结构,1、基础网络协议2、交换技术3、路由技术4、无线技术5、数据中心技术6、QoS7、组播8、MPLS VPN 技术9、安全技术10、SDN/
2022-01-06 23:02:46
5005
原创 selenium中操作数据滚动条方法汇总 :解决报错selenium.common.exceptions Message: element not interactable
在操作selenium时,UI自动化中经常会遇到元素识别不到,找不到的问题,原因有很多,比如不在iframe里,xpath或id写错了等等;但有一种是在当前显示的页面元素不可见,拖动下拉条后元素就出来了。错误背景:函数在前八次调用均找到,在第九次时报错,如下Traceback (most recent call last): File "d:/works/codes/practice-code/BC_requires/windows_filter/webui-new.py", line 131, i
2021-12-30 19:02:34
814
转载 互联网软件架构 Restful API解读
RESTful架构,就是目前最流行的一种互联网软件架构。它结构清晰、符合标准、易于理解、扩展方便,所以正得到越来越多网站的采用。但是,到底什么是RESTful架构,并不是一个容易说清楚的问题。下面,我就谈谈我理解的RESTful架构。背景:越来越多的人开始意识到,网站即软件,而且是一种新型的软件。这种"互联网软件"采用客户端/服务器模式,建立在分布式体系上,通过互联网通信,具有高延时(high latency)、高并发等特点。网站开发,完全可以采用软件开发的模式。但是传统上,软件和网络是两个不同的领域
2021-12-22 10:52:10
232
转载 网络安全入门之渗透测试思路分享1
渗透测试信息收集步骤、网站、工具分享工作之前,我以为渗透测试是盯着一个网站挖掘漏洞。工作后我知道渗透测试需要收集资产信息,扩大测试面,从目标弱点入手。参加完这次活动之后,我又领悟到了——只要锁定目标,路径其实无所谓。废话不多说,记录自己总结的渗透测试信息收集的流程,网站和工具,刚刚入门,如有错误希望大佬们指点!针对单个系统(网站):网站信息收集:操作系统,服务器,后台语言,数据库类型尽可能全端口扫描,检测端口运行的服务敏感信息收集,源码备份目录信息收集,robots.txt、web.xml等等
2021-12-16 10:35:43
541
原创 windows系统利用WSL2安装的linux系统报错bash: xxx: command not found,
问题背景:在使用windows系统带的WSL2安装kali-linux时,使用常用的命令均报错,如:主机扫描 # nmap 10.10.15.42 bash: nmap: command not found查询大量资料,有如下几种原因:1、path没有添加路径,2、工具没有安装3、kali系统为最小集,需要增量安装default的解决途径:原因1 :添加PATH环境变量,第1种方法:[root@lx_web_s1 ~]# export PATH=/usr/local/webserve
2021-12-16 09:26:35
1753
转载 【转载】Python第三方库资源合集
Python语言提供超过15万个第三方库,Python库之间广泛联系、逐层封装。汇总整理了常用的第三方库。Python社区:**https://pypi.org/**
2021-12-15 11:52:12
1713
原创 Windows系统借助WSL2可使用Linux系统开发
一、起源 Windows 10 2004 发布后,WSL2 也可以在正式版 Windows 10 中使用,相比于 macOS,WSL2 是一个原生 Linux 环境而非类 unix 环境,甚至可以在 App 商店中选择所需要的发行版。而相比于 WSL1,WSL2 采用了 HyperV 虚拟机的方式,解决了 WSL1 不能安装 Docker 等问题。 相比
2021-12-09 09:44:41
896
原创 github等网站访问不稳定的几种改善办法
在使用github的时候又登不上去了,挂着NPV都没用。据说是某些不可描述的有关组织机构对该网站的DNS污染或者随机丢包造成的。什么是DNS污染呢?本来很多域名对应的IP地址都是由上游可信赖的服务器提供的,这样可以降低网络上的流量压力。但是对于有些攻击来说,他就去污染可信赖服务器里数据包,这样我一请求github,都给我登上了错误的服务器或服务器的网址。这样的DNS攻击让我打不开还算好的,一旦让我打开些不可描述的网站,那在公共场合不得社死github解决办法但是自己很多项目都存在github,登不上
2021-11-30 15:16:54
11772
3
原创 python脚本中如何从外部传递参数的处理方法
我们写的 python 脚本需要修改参数,当我们将脚步上传到服务器或者给不会编程的人用时,会比较不方便,如果直接可以在外部指定参数,会非常方便,今天介绍的就是 Python 外部指定参数的几种方法。1. 流文本处理这种方法适用于修改一下文件中的内容,配合 linux 命令非常方便,举一个例子,我们需要从一个 binlog 文件中找到该里面最大的事物,我们要配合 mysqldump 来做:mysqlbinlog -v --base64-output=decode-row ./mysql-bin.0000
2021-11-17 09:22:07
1177
原创 python模块导入出现ModuleNotFoundError: No module named ‘XXX‘的问题终极办法
想要解决上面的问题,我们需要明确import导入本质,才好从根上去解决问题。import导入本质通常情况下,当使用 import 语句导入模块后,Python 会按照以下顺序查找指定的模块文件:在当前目录,即当前执行的程序文件所在目录下查找;到 PYTHONPATH(环境变量)下的每个目录中查找;到 Python 默认的安装目录下查找。以上所有涉及到的目录,都保存在标准模块 sys 的 sys.path 变量中,通过此变量我们可以看到指定程序文件支持查找的所有目录。换句话说,如果要导入的模块
2021-11-03 14:25:52
9535
1
转载 配置文件写法——常用数据格式TOML,JSON和YAML对比
本文将帮助您了解如何通过不同的数据格式构建数据。坦率地说,在我开始与Hugo TOML合作之前,我感到羞耻是一个需要发现的新领域,但我对YAML和JSON非常熟悉。您可以 将所有这三种数据格式用于配置,前置事项和自定义数据 但TOML是用于整个项目的推荐格式。首先我想简单介绍一下每种数据格式,然后再进入规范和比较。TOML(Tom’s Obvious,Minimal Language)TOML显然是由Tom - Tom Preston-Werner编写的 - 确切地说。这是一个在麻省理工学院授权的
2021-10-29 11:49:02
4359
转载 python操作xls文件,读取、写入、调整
1、读取excelimport xlrdimport xlwtfrom datetime import date,datetime# 打开文件workbook = xlrd.open_workbook(r"D:\python_file\request_files\excelfile.xlsx", formatting_info=False)# 获取所有的sheetprint("所有的工作表:",workbook.sheet_names())sheet1 = workbook.sheet_
2021-10-18 11:38:46
15535
转载 Git 版本管理常用命令汇总
Git是什么?Git是目前世界上最先进的分布式版本控制系统(没有之一)。Git有什么特点?简单来说就是:高端大气上档次!那什么是版本控制系统? GIT 业界主流!1、创建一个GIT仓库初始化一个Git仓库,使用git init命令。添加文件到Git仓库,分两步:1、使用命令git add < file >,注意,可反复多次使用,添加多个文件;2、使用命令git commit -m < message >完成。2、GIT本地仓库查询命令要随时掌握工作区的状态
2021-06-19 00:35:24
865
边缘计算助力新基建—中兴MEC+X发展白皮书.pdf
2020-05-17
电子实验室常用仪器使用.pdf
2019-11-09
车辆自动紧急刹车系统研究_余蒙.caj
2019-10-15
Python大师修炼之路.zip
2019-08-10
2_机器学习实战:利用AI揭秘影评中的爱恨情仇_Ivan.pdf
2019-07-16
2_Python学习材料(基础+进阶+考试+答案).rar
2019-07-16
小白入门必读-Python爬虫.pdf
2019-07-16
【机器学习】SVR支持向量机回归原理解析.pdf
2019-07-12
《美团机器学习实践》高清PDF+思维导图.rar
2019-07-05
基于深度学习与特征后处理的支持向量机铣刀磨损预测模型_戴稳.caj
2019-07-05
动力电池包试验心得.pdf
2019-06-28
ABAQUS多步骤分析
2019-04-03
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人