【问题思考】为什么SVM中的w和超平面是垂直的?【SVM】【gemini生成】
理解 w 为什么与超平面垂直,是理解 SVM 几何性质的关键。我们可以从数学和直观两个角度来解释。
1. 直观理解
你可以把超平面想象成一面墙,而 w 是从墙上向外伸出的一个方向向量。无论你在这面墙上怎么移动,你始终是在墙的表面上。任何沿着墙面方向的移动,都与从墙上垂直向外伸出的方向是正交(垂直)的。
超平面方程可以看作是:
w⋅x+b=0w \cdot x + b = 0w⋅x+b=0
这个方程的含义是,所有位于超平面上的点 x,其与向量 w 的内积加上 b 都是0。当 b 固定时,内积 w⋅xw \cdot xw⋅x 是一个常数。在几何上,如果一个向量(x)与另一个固定向量(w)的内积是一个常数,那么所有这些向量 x 的终点都在一个与 w 垂直的平面上。
2. 数学证明
我们可以用微积分的方法来证明 w 的法向量性质。
假设超平面上的两个不同点是 xAx_AxA 和 xBx_BxB。它们都满足超平面方程:
w⋅xA+b=0w \cdot x_A + b = 0w⋅xA+b=0
w⋅xB+b=0w \cdot x_B + b = 0w⋅xB+b=0
将这两个方程相减,我们得到:
(w⋅xA+b)−(w⋅xB+b)=0(w \cdot x_A + b) - (w \cdot x_B + b) = 0(w⋅xA+b)−(w⋅xB+b)=0
w⋅(xA−xB)=0w \cdot (x_A - x_B) = 0w⋅(xA−xB)=0
向量 (xA−xB)(x_A - x_B)(xA−xB) 是一个从点 xBx_BxB 到点 xAx_AxA 的向量,它完全位于超平面内。
根据内积的定义,如果两个非零向量的内积为0,那么它们是**正交(垂直)**的。
因为 w⋅(xA−xB)=0w \cdot (x_A - x_B) = 0w⋅(xA−xB)=0,这意味着向量 w 与超平面内的任意向量 (xA−xB)(x_A - x_B)(xA−xB) 都是垂直的。
因此,w 向量就是超平面的法向量,它与超平面是垂直的。
总的来说,通过假设超平面上任意两个点,可以得到,w和超平面是完全垂直的。
但是我还是有点搞不明白,为什么大于0就一定都在一侧,小于0就一定都在另一侧。。。