一直对线性非线性没有很准确的定义认识,今天特意查了查,特此记录下。

怎样区分线性和非线性

1.线性Line，是指量与量之间按照比例成直线关系，在数学上可理解为一阶导数是个常数；

   非线性non-line则指不按照比例不成直线关系，一节导数不为常数。

2.线性可以认为是1次曲线，比如比如y=ax+b ，即成一条直线

    非线性可认为是2次以上的曲线，比如y=ax^2+bx+c，（x^2是x的2次方），即不为直线的即可。

3.两个变量之间的关系是一次函数的关系图像是直线，这样的两个变量之间就是“线性关系”

   如果不是一次函数关系，图像不是直线，就是“非线性关系”。

4.线性与非线性，常用于区别函数y = f （x）对自变量x的依赖关系。线性函数即一次函数，其图像为一条直线。其它函数则为非线性函数，其图像不是直线。

5.在数学上，线性关系是指自变量x与因变量yo之间可以表示成y=ax+b ，（a，b为常数），即说x与y之间成线性关系。

　　不能表示成y=ax+b ，（a，b为常数），即非线性关系，非线性关系可以是二次，三次等函数关系，也可能是没有关系。

线性模型和非线性模型的区别

　误区

　　1、线性和非线性的区别是是否可以用直线将样本划分开（这个观点是对的）

　　2、和同学讨论到logistics模型是线性还是非线性的，很难理解！（logistics模型是广义线性模型）

　　3、区分一下回归和分类问题，线性模型是可以用来曲线拟合（回归）的，但是线性模型模型的分类一定是一条直线的，例如logistics模型。

线性模型和非线性模型区别

　　1、线性模型可以是用曲线拟合样本，但是分类的决策边界一定是直线的，例如logistics模型

　　2、区分是否为线性模型，主要是看一个乘法式子中自变量x前的系数w，如果w只影响一个x，那么此模型为线性模型。或者判断决策边界是否是线性的

        3、举例

画出y和x是曲线关系，但是它是线性模型，因为x1*w1中可以观察到x1只被一个w1影响

此模型是非线性模型，观察到x1不仅仅被参数w1影响，还被w5影响，如果自变量x被两个以上的参数影响，那么此模型是非线性的！

　4、其实最简单判别一个模型是否为线性的，只需要判别决策边界是否是直线，也就是是否能用一条直线来划分

　　神经网络是非线性

　　虽然神经网络的每个节点是一个logistics模型，但是组合起来就是一个非线性模型。

　　此处我们仅仅考虑三层神经网络

　第一层的表达式

　第二层的表达式

将第一层的表达式带入第二层表达式中，可以观察到x1变量不仅仅被w1影响还被k2影响，所以此模型不是一个线性模型，是个非线性模型。