SciPy 与 Matlab 交互
SciPy 的 scipy.io 模块提供了很多函数来处理 Matlab 的数组
from scipy import io
arr_A = np.arange(10)
arr_B = np.ones((3,2))
# savemat() 将数据保存为Matlab格式
# 给arr_A数据指定一个变量名/键名A,给arr_B数据指定一个变量名/键名B
# 计算机目录中会保存一个名为 "arr.mat" 的文件
io.savemat('arr.mat', {"A": arr_A, "B": arr_B})
# loadmat() 可以导入 Matlab 格式数据
mydata = io.loadmat('arr.mat')
print(mydata)
print(mydata['A'])
print(mydata['B'])
# 输入的arr_A是一维数组,但是输出的mydata['A']是二维数组,加入参数squeeze_me=True会实现输出一维数组
mydata1 = io.loadmat('arr.mat', squeeze_me=True)
print(mydata1)
print(mydata1['A'])
scipy 优化器
scipy.optimize.minimize()用来寻找函数的最小值,是常用的非线性规划求极值工具。
import scipy.optimize as opt
res = opt.minimize(fun=cost_function, x0=theta, args=(X, Y), method='TNC', jac=gradient)
final_theta = res.x
print(final_theta)
- fun指定想要最小化的函数,cost_function函数计算给定参数下的代价或损失。
- 在minimize优化器中,同时使用了代价函数和求梯度函数,要求两个函数的形参必须完全一样(类型,数量,位置);X0为随机初始化的参数初始取值,X0意为第一个参数,即代价函数和求梯度函数的第一个参数必须放置参数初始取值;传给X0的参数初始取值必须是一维的。
- args=(X, Y):是一个元组,包含了cost_function函数需要的其他参数。X通常是特征数据集,Y是目标值。
- method=‘TNC’:这是指定优化方法。'TNC’代表一个特定的优化算法,它是一种信赖域算法,适用于无约束问题。
- jac=gradient:代价函数的雅可比矩阵(Jacobian matrix),如果提供,优化算法可以使用它来更高效地计算梯度;这里的jac由gradient函数提供。
scipy.optimize.minimize优化器对目标函数形参的要求
scipy.optimize.minimize()用来寻找函数的最小值,是常用的非线性规划求极值工具。
在minimize优化器中,同时使用了代价函数和求梯度函数,要求两个函数的形参必须完全一样(类型,数量,位置);X0为随机初始化的参数初始取值,X0意为第一个参数,即代价函数和求梯度函数的第一个参数必须放置参数初始取值。
例如:
def cost(params, X, y_onehot):
......
def gradient(params, X, y_onehot):
......
from scipy.optimize import minimize
fmin = minimize(fun=cost, x0=params, args=(X, y_onehot), method='TNC', jac=gradient)
cost() 和 gradient() 的形参是完全对齐的;在minimize优化器中,params是传给X0的参数初始取值,params在 cost() 和 gradient()中均位于第一个形参位置。