机器学习-（手推）线性回归1-最小二乘法（矩阵表达）、几何意义
创始人
2024-02-16 11:16:45
0次
一、最小二乘法（矩阵表达）误差平均分散每个样本
如下数学推到过程（手推！！！）：
数据介绍：
D{(x1,y1),(x2,y2),......(xn,yn)，
Xi（P维列向量）-默认列向量
Yi-属于实数（i=1,2,3，.......n）
X数据集-矩阵表示
Y数据集-矩阵表示
最小二乘法的推到过程（手推！！！）
备注：L(w)每一项算出来的都是实数，所以后面推到中间两项可以合并的
目标：求w的最优解使得L(w)最小。（涉及到矩阵求导）
二、最小二乘法（几何解释）误差分布在p个维度上
下面是拟合回归直线方程
解释：Y向量与Xi 形成的P维空间（x1，x2.......xn）。我们的目标是在P维空间找到一条离Y最近的一个向量（个人理解就是Y在P维空间上的投影，而这个投影其实就是x1......xn的线性组合）
垂直于Xi 形成的P维空间的向量为：（Y-xβ）与投影向量垂直
即：
（备注：如下）
总结：从两个不同的角度对误差进行分析，得到的最终目标w和β的值一模一样，而所求的值就是最终的值即可以使目标得到最优解的值。
上一篇：说一个人驴是什么意思
下一篇： 自我介绍六年级作文
相关内容
热门资讯
关于环保的标语
关于环保的标语 1、世界变成大花园，垃圾分类是关键。 2、同处蓝天下共栖地球上让我们的世界更...
指导教师评语短
指导教师评语短 引导学生培养坚强毅力的评语，下面小编整理的指导教师评语短，欢迎来参考！ 1、该生...
金公子珠宝的广告词
金公子珠宝的广告词 1、珠宝亦有价，真情乃无价。 创意说明：金银珠宝首饰一般价格比较高昂，愿意买...
师傅对徒弟的评价评语
师傅对徒弟的评价评语 篇一：师傅对徒弟综合评价 20XX年8月，学校来了一批新教师。9月10日，...
文明行为规范标语
文明行为规范标语（精选115句） 无论是身处学校还是步入社会，大家对标语都再熟悉不过了吧，标语不但...
进入高三励志标语
进入高三励志标语（精选180句） 在日常的学习、工作、生活中，大家最不陌生的就是标语了吧，标语在一...
大学毕业班级鉴定评语
大学毕业班级鉴定评语（精选120条） 无论是身处学校还是步入社会，大家都有写评语的经历，对评语很是...
中考横幅标语大全
1.春播秋收近十载，一朝收获终有成。 2.不论你在什么时候开始，重要的是开始之后不要停止。 ...
学校六一活动标语
学校六一活动标语（精选50句） 在现实生活或工作学习中，大家对标语都再熟悉不过了吧，标语以其时间性...
家装实木高档油漆门广告语
家装实木高档油漆门广告语 1、一“门”心思只为您。 2、打开木门，开启幸福。 3、独门工艺，专...
厕所文明标语
厕所文明标语（通用185句） 在现实生活或工作学习中，大家都对那些朗朗上口的标语很是熟悉吧，标语是...
宣传稿格式
宣传稿格式 一、宣传稿的介绍 首先，新闻宣传稿要重视宣传的本身意义和作用。 其次，要懂得如何在...
校园文明标语
校园文明标语 在学习、工作、生活中，大家都接触过比较经典的标语吧，标语的作用是便于“造势”，形成一...
打折促销标语
打折促销标语大全 XX真情回馈理惠X折 终极X小时终极抄底价 心动,不如行动! 不做不休用暴...
最新学习小组口号
最新学习小组口号 在日常的学习、工作、生活中，大家都经常接触到口号吧，口号作为意识的表现形式之一，...
垃圾分类标语
垃圾分类标语（精选140句） 在平时的学习、工作或生活中，大家最不陌生的就是宣传语了吧，宣传语具有...
安全生产横幅标语口号
安全生产横幅标语口号大全 ●安全人人抓，幸福千万家 ●安全生产 人人有责 ●安全生产 重在预防...
迎新的标语
迎新的标语（精选150句） 在日常学习、工作和生活中，大家都接触过比较经典的标语吧，标语不但折射着...
2022年村委会普法宣传简报
2022年村委会普法宣传简报 一、村委会相关介绍 村委会的全称为村民委员会，为中国大陆地区乡（镇...
广告公司广告语
广告公司广告语大全 广告公司广告语大全广告语指通过各种传播媒体和招贴形式向公众介绍商品、文化、娱乐...