np.linalg.norm的使用

np.liealg.norm函数用来计算所谓的范数，可以输入一个vector，也可以输入一个matrix，我想记录，当输入为matrix的时候，可以更快速的计算cost function。

L2范数

我们最常见的范数，恐怕就是一个vector的长度，这属于2阶范数，对vector中的每个component平方，求和，再开根号。这也被称为欧几里得范数（Euclidean norm）。

>>> import numpy as np
>>> a = np.arange(10).reshape(10,1)
>>> np.linalg.norm(a)
16.881943016134134
>>> np.linalg.norm(a)**2
285.00000000000006
>>> dd = 0
>>> for i in range(10):
...   dd += i**2
...
>>> dd
285
>>> np.sqrt(285)
16.881943016134134

在没有别的参数的情况下，np.linalg.norm输入一个vector，就是计算vector的长度：vector的每个component的平方相加后开根号。

当输入是一个matrix的时候，在没有其他参数的情况下，np.linalg.norm的动作就是将此matrix的每一个参数的平方相加后开根号，相当于求所有column vector的长度的平方和，然后开根号。

在神经网络计算cost function的时候（quadratic），cost表示成了所有vector长度的平方和，此时如果你的代码充分利用了matrix的计算优点，就不会一个个计算vector的长度，然后平方后再求和；而是将所有vector拼接成一个大的matrix，使用np.linalg.norm函数计算所有entry平方和开根号的特点。这两个计算是等效的，而且matrix-based计算可以更加快速！

>>> np.linalg.norm(np.hstack((a,a,a,a)))**2
1140.0000000000002
>>> 285*4
1140

这是代码计算上的一个取巧，可以节省不少生命......

补充一段参考代码：

>>> a
array([[ 0,  1,  2,  3,  4],
       [ 5,  6,  7,  8,  9],
       [10, 11, 12, 13, 14],
       [15, 16, 17, 18, 19]])
>>> b
array([[1.],
       [1.],
       [1.],
       [1.]])
>>> np.linalg.norm(a-b, axis=0)
array([17.1464282 , 18.70828693, 20.34698995, 22.04540769, 23.79075451])
>>> np.argmax(np.linalg.norm(a-b, axis=0))
4
>>> np.argmin(np.linalg.norm(a-b, axis=0))
0

np.linalg.norm中的axis=0，表示的含义是第一个维度，行，但不是按行，而是让行变，即按列计算！

L1范数

vector中每个元素的绝对值之和。

>>> a
array([[0],
       [1],
       [2],
       [3],
       [4],
       [5],
       [6],
       [7],
       [8],
       [9]])
>>> np.linalg.norm(a,1)
45.0
>>> np.linalg.norm(np.hstack((a,a,a,a,a)),1)
45.0
>>> np.linalg.norm(np.vstack((a,a,a,a,a)),1)
225.0
>>> 45*5
225

貌似L1范数对matrix不起作用，以后再深入研究。

-- EOF --

相关文章

• numpy的基本操作
• 如何将numpy全是True和False的array转换成1和0？
• ndarray中的条件判断
• 查看numpy的数据类型
• 用numpy计算协方差（covariance）
• numpy创建array的方法汇总
• 打印很大的numpy.array
• np.concatenate函数
• np.transpose转置函数
• 获取ndarray最大最小N个index
• numpy.random的常用接口
• numpy.ndarray基本概念
• 用numpy计算均值，方差，标准差
• np.array的stack操作
• 用numpy构建Hadamard Matrix
• 如果np.test有失败...
• 如何遍历numpy.array？
• 用numpy计算Pearson相关系数