线性代数的定义

对于线性代数中的线性理解一直比较模糊。大学数学学科,线性代数是最为抽象的一门课。

从中学的初等数学和初等物理一路走来,很少人去怀疑一门数学学科是不是自然规律,当学习微积分、概率统计时也从来没有怀疑过,唯独线性代数它的各种符号和运算规则太抽象太奇怪,完全对应不到生活经验。

线性代数可以理解为一门工具,通过建立的一套模型并通过符号系统完成语法和语义的映射,方便解决线性空间的几何问题。实际上,向量、矩阵、运算规则的语法和语义都是人为的设计,这和一门语言中的各种概念性质相同,它是一种创造,但是前提是必须满足语言契约。

不像初等数学,概率论,微积分都包含着一种自然现象。从应用的角度看,线性代数是一种人为设计的领域特定语言(DSL).

线性代数好在哪里?线性代数的核心:向量模型。

1
2
3
我们在初等数学中学习的坐标系属于笛卡尔所提出的解析模型,这个模型很有用,但同时也有很大的缺点。坐标系是人为加上的虚拟参考系,但是我们要解决的问题,比如求面积,图形旋转、拉伸等应用都是和坐标系无关的,建立一个虚拟的坐标系往往无助于解决问题,刚才三角形面积的例子就是这样。

向量模型很好地克服了解析模型的缺点,如果说解析模型代表了某种“绝对性”的世界观,那么向量模型就代表了某种“相对性”的世界观,我推荐把向量模型和解析模型看作对立的两种模型。

向量模型中定义了向量和标量的概念。向量具有大小和方向,满足线性组合法则;标量是只有大小没有方向的量(注:标量的另一种更深刻的定义是在旋转变换下保持不变的量)。向量模型的优点之一是其坐标系无关性,也就是相对性,它在定义向量和运算规则的时候从一开始就抛开了坐标系的束缚,不管你坐标轴怎么旋转,我都能适应,向量的线性组合、内积、叉积、线性变换等等运算全部都是坐标系无关的。注意,所谓坐标系无关性不是说就没有坐标系了,还是有的,刚才三角形例子的顶点就是用坐标表示的,只是在解决问题的时候不同的坐标系不会构成影响。用一个比喻,Java号称平台无关,不是说Java就是空中楼阁,而是说你用Java编程时底层是Linux还是Windows往往对你没有影响。

学术界严格的定义线性

线性关系

L(x)具有以下两个性质:
可加性: { L(x+t)=L(x)+L(t)} { L(x+t)=L(x)+L(t)}
一次齐次性: { L(mx)=mL(x)} { L(mx)=mL(x)}

线性,通俗地说,就是变量只有两种运算,数乘与加减。数乘就是kx,把x放缩为原来的k倍;加减就是x±y±z,不能有x²,xy或者sin(x)这种花里胡哨的形式。因此,线性组合的定义,就是ax+by+cz+…,其中abc…为常数,xyz…为变量。

什么是线性和非线性 线性与非线性的区别

什么是线性和非线性 线性与非线性的区别

在数学上,线性关系是指自变量x与因变量yo之间可以表示成y=ax+b ,(a,b为常数),即说x与y之间成线性关系。
不能表示成y=ax+b ,(a,b为常数),即非线性关系,非线性关系可以是二次,三次等函数关系,也可能是没有关系。

机器学习中线性模型和非线性的区别

机器学习中线性模型和非线性的区别

线性模型与非线性模型判别

【神经网络】线性模型非线性模型,感知机与神经网络 神经网络是非线性的解释

线性模型可以是用曲线拟合样本,但是分类的决策边界一定是直线的,例如logistics模型

区分是否为线性模型:最简单判别一个模型是否为线性的,只需要判别决策边界是否是直线,也就是是否能用一条直线来划分

区分是否为线性模型,主要是看一个乘法式子中自变量x前的系数w,如果w只影响一个x,那么此模型为线性模型。或者判断决策边界是否是线性的

神经网络是非线性

浅谈机器学习中的非线性

程序观点下的线性代数