scipy相关知识笔记

SciPy 与 Matlab 交互

SciPy 的 scipy.io 模块提供了很多函数来处理 Matlab 的数组

from scipy import io

arr_A = np.arange(10)
arr_B = np.ones((3,2))

# savemat() 将数据保存为Matlab格式
# 给arr_A数据指定一个变量名/键名A，给arr_B数据指定一个变量名/键名B
# 计算机目录中会保存一个名为 "arr.mat" 的文件
io.savemat('arr.mat', {"A": arr_A, "B": arr_B})  

# loadmat() 可以导入 Matlab 格式数据
mydata = io.loadmat('arr.mat')
print(mydata)
print(mydata['A'])
print(mydata['B'])

# 输入的arr_A是一维数组，但是输出的mydata['A']是二维数组，加入参数squeeze_me=True会实现输出一维数组
mydata1 = io.loadmat('arr.mat', squeeze_me=True)
print(mydata1)
print(mydata1['A'])

---

scipy 优化器

scipy.optimize.minimize()用来寻找函数的最小值，是常用的非线性规划求极值工具。

import scipy.optimize as opt
res = opt.minimize(fun=cost_function, x0=theta, args=(X, Y), method='TNC', jac=gradient)
final_theta = res.x
print(final_theta)

1. fun指定想要最小化的函数，cost_function函数计算给定参数下的代价或损失。
2. 在minimize优化器中，同时使用了代价函数和求梯度函数，要求两个函数的形参必须完全一样(类型，数量，位置)；X0为随机初始化的参数初始取值，X0意为第一个参数，即代价函数和求梯度函数的第一个参数必须放置参数初始取值；传给X0的参数初始取值必须是一维的。
3. args=(X, Y)：是一个元组，包含了cost_function函数需要的其他参数。X通常是特征数据集，Y是目标值。
4. method=‘TNC’：这是指定优化方法。'TNC’代表一个特定的优化算法，它是一种信赖域算法，适用于无约束问题。
5. jac=gradient：代价函数的雅可比矩阵（Jacobian matrix），如果提供，优化算法可以使用它来更高效地计算梯度；这里的jac由gradient函数提供。

---

scipy.optimize.minimize优化器对目标函数形参的要求

scipy.optimize.minimize()用来寻找函数的最小值，是常用的非线性规划求极值工具。

在minimize优化器中，同时使用了代价函数和求梯度函数，要求两个函数的形参必须完全一样(类型，数量，位置)；X0为随机初始化的参数初始取值，X0意为第一个参数，即代价函数和求梯度函数的第一个参数必须放置参数初始取值。

例如：

def cost(params, X, y_onehot):
  ......
  
def gradient(params, X, y_onehot):
  ......

from scipy.optimize import minimize
fmin = minimize(fun=cost, x0=params, args=(X, y_onehot), method='TNC', jac=gradient)

cost() 和 gradient() 的形参是完全对齐的；在minimize优化器中，params是传给X0的参数初始取值，params在 cost() 和 gradient()中均位于第一个形参位置。

---