python 学习笔记

零、文件

[文件读写](https://blog.51cto.com/pmghong/1349978)

一、函数

**1、匿名函数**

lambda x: x+1
lambda <参数>:<返回值>
lambda只能有一个返回值

应用:

func = lambda x: x+1
func(10)

2.函数尾调用
在函数执行的最后一步调用另一个函数。
尾递归调用优化:
在函数调用的最后一步进行递归调用
3.高阶函数
高阶函数:函数的传入参数/返回值是一个函数名
(1)map函数
依次处理列表中的每一个元素

def test(func, args):
	ret  = []
	for i in args:
		ret.append(func(args))
	return ret
test(lambda x:x+1, args)

map的第一个参数为函数对象(匿名函数或函数名均可),第二个参数为可迭代对象,返回结果为一个list,迭代器,只能迭代一次。

res = map(lambda x:x+1, num_l)
print(res)

(2)filter函数
获取符合条件的数据,返回值为True的值

res = map(lambda x:x.endswith('sb'), num_l)

(3)reduce函数
将整体的数据进行压缩(处理一个序列,对序列进行合并操作)
from functools import reduce
reduce(lambda x,y:xy,num_list)
reduce(lambda x,y:x
y,num_list, start_num)

4.内置函数
在这里插入图片描述
eval()提取字符串中的数据结构
可hash的即为不可变数据类型
zip()拉链 将两个序列组成元组序列。如果两个序列长度不等,则根据最小长度的学列进行返回。
max()可以指定方法
list = [{‘name’:‘xx’,‘age’:30},{‘name’:‘yy’,‘age’:34}]
max(list,key= lambda dict: dict[‘age’])

### 使用 AutoGPTQ 库量化 Transformer 模型 为了使用 `AutoGPTQ` 对 Transformer 模型进行量化,可以遵循如下方法: 安装所需的依赖包是必要的操作。通过 pip 安装 `auto-gptq` 可以获取最新版本的库。 ```bash pip install auto-gptq ``` 加载预训练模型并应用 GPTQ (General-Purpose Tensor Quantization) 技术来减少模型大小和加速推理过程是一个常见的流程。下面展示了如何利用 `AutoGPTQForCausalLM` 类来进行这一工作[^1]。 ```python from transformers import AutoModelForCausalLM, AutoTokenizer from auto_gptq import AutoGPTQForCausalLM model_name_or_path = "facebook/opt-350m" quantized_model_dir = "./quantized_model" tokenizer = AutoTokenizer.from_pretrained(model_name_or_path) model = AutoModelForCausalLM.from_pretrained(model_name_or_path) # 加载已经量化的模型或者创建一个新的量化器对象用于量化未压缩过的模型 gptq_model = AutoGPTQForCausalLM.from_pretrained(quantized_model_dir, model=model, tokenizer=tokenizer) ``` 对于那些希望进一步优化其部署环境中的模型性能的人来说,`AutoGPTQ` 提供了多种配置选项来自定义量化参数,比如位宽(bit-width),这有助于平衡精度损失与运行效率之间的关系。 #### 注意事项 当处理特定硬件平台上的部署时,建议查阅官方文档以获得最佳实践指导和支持信息。此外,在实际应用场景之前应该充分测试经过量化的模型以确保满足预期的质量标准。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值