机器学习中的数学原理——多项式回归
创始人
2024-04-02 10:50:54
0

这个专栏主要是用来分享一下我在机器学习中的学习笔记及一些感悟,也希望对你的学习有帮助哦!感兴趣的小伙伴欢迎私信或者评论区留言!这一篇就更新一下《白话机器学习中的数学——多项式回归》!

目录

一、什么多项式回归

二、算法分析

三、总结


一、什么多项式回归

多项式回归是线性回归的一种特殊情况,其中我们在数据上拟合了多项式方程,目标变量和自变量之间具有曲线关系。 在曲线关系中,目标变量的值相对于预测变量以不均匀的方式变化。

二、算法分析

首先我们看一次函数解析式

f_{\Theta }(x) = \Theta _{0}+\Theta _{1}x

我们引入了两个变量,\Theta 0\Theta 1,它的图像是一条直线:

 之前我们用微分求出了这个函数的斜率截距,但是从我们的数据点上来看,其实曲线比 直线拟合得更好。

我们将fθ(x)定义为二次函数,添加一个二次项,就能用它来表示这条曲线了。

f_{\Theta }(x) = \Theta _{0}+\Theta _{1}x+\Theta _{2}x^2

或者我们用更高次次数的表达式也可以。这样就能表示更复杂的曲线了。

f_{\Theta }(x) = \Theta _{0}+\Theta _{1}x+\Theta _{2}x^2+\Theta _{3}x^3+...+\Theta _{n}x^n

 所以我们在不断尝试之后决定f_{\Theta }(x)是什么样的函数,但是要注意,并不是函数次数越大拟合得越好。次数过大,难免会出现过拟合的情况。首先我们先看加入\Theta 2这个新的函数。接下来我们写出\Theta 2更新表达式的推导方法。

和之前一样,设u = E(θ)、v = fθ(x),然后试着用 u 对 θ2偏微分,求出更新表达式。u 对 v 微分的部分是一样的,所以我们只要求 v 对 θ2 的微分就行了。

那么即使增加参数,比如有 θ3、θ4 等,我们依然可以用同样的方法求出它们的更新表达式,像这样增加函数中多项式的次数,然后再使用函数的分析方法就被称为多项式回归

三、总结

多项式回归在原有的基础上引入了更高次的变量,我们要求出更高次参数的更新表达式,这一部分可以看之前写的梯度下降法更新参数。只要求出参数就能求得表达式了。

相关内容

热门资讯

颐和园英文导游词 颐和园英文导游词精选  Hello, welcome you to Beijing Summer P...
黄山云海导游词 黄山云海导游词范文(精选10篇)  作为一名专门引导游客、助人为乐的导游,总归要编写导游词,导游词可...
宜春明月山导游词 宜春明月山导游词  宜春是个出美景的好地方。小编下面为大家收集整理了宜春明月山导游词,欢迎阅读!  ...
河南导游词 河南导游词  作为一位出色的导游人员,常常要写一份好的导游词,导游词具有极强的实用性,涉及的知识十分...
民居导游词六百字 民居,也是特色的景点之一。以下是PINCAI小编整理的关于导游词的相关内容,欢迎阅读和参考!民居导游...
英文导游词欢迎词 篇一:英文导游欢迎词范文Ladies and gentlemen:Welcome to ______...
介绍青岛的导游词 介绍青岛的导游词  作为一名专门引导游客、助人为乐的导游,往往需要进行导游词编写工作,导游词的主要特...
介绍山西普救寺导游词 介绍山西普救寺导游词  作为一无名无私奉献的导游,时常要开展导游词准备工作,导游词是导游员在游览时为...
孔府导游词 >孔府导游词颜宇欣 各位游客: 大家好!欢迎大家来到孔府游玩,孔府导游词。我是今天的导游颜宇欣,大家...
乔家大院简介导游词 乔家大院简介导游词  导游词是导游人员引导游客观光游览时的讲解词,是导游员同游客交流思想,向游客传播...
乐山大佛导游词 乐山大佛导游词500字五篇  作为一位尽职的导游,有必要进行细致的导游词准备工作,导游词是导游员同游...
湖北武当山紫霄宫导游词 湖北武当山紫霄宫导游词各位朋友们:  紫霄到了,你们看前面半天云里山峰是否像一面展开的旗帜,这就是展...
明十三陵概况及神道导游词 明十三陵概况及神道导游词  明十三陵位于北京市昌平区北部天寿山下,因明代迁都北京后,有十三位皇帝埋葬...
九华山导游词作文400字 九华山导游词作文400字  以下是九华山的导游词作文400字范文,希望对大家有帮助!  篇一:九华山...
绍兴兰亭风景区导游词 绍兴兰亭风景区导游词  作为一名乐于助人的导游,常常需要准备导游词,导游词具有极强的实用性,涉及的知...
天下第一宫—黄帝... 天下第一宫—黄帝宫游览区导游词  作为一位兢兢业业的旅游从业人员,总不可避免地需要编写导游词,导游词...
导游词之大九湖 导游词之大九湖  我们今天游览的是被称其为湖北的“呼伦贝尔”的大九湖风景区,大九湖并非湖,而是一片沼...
上饶三清山导游词 上饶三清山导游词(通用9篇)  作为一名乐于助人的导游,通常需要用到导游词来辅助讲解,导游词具有形象...
洪崖丹井导游词 洪崖丹井导游词3篇  作为一名尽职尽责的导游,编写导游词是必不可少的,导游词具有注重口语化、精简凝练...
沈阳新乐遗址导游词 关于沈阳新乐遗址导游词范文  新乐文化遗址位于沈阳市皇姑区黄河北大街北运河北岸黄土高台之上,1977...