1.极限与连续-——“机器学习中的数学”
创始人
2024-01-16 02:51:50
0

1.通过集合相等来讲解什么是映射关系

上面问的这个问题(2N+ = N2)说明了什么?

——两个无穷集合,如果能找到一种对应关系(映射关系),那么我们就可以说这两个集合是等价的。

  数列的极限就是趋势

极限就是无限接近,但是不等于

下面这是一个数列的极限,当n趋近于正无穷,数列趋近于自然数e

\LARGE \lim _{n \rightarrow+\infty}\left(1+\frac{1}{n}\right)^n=\mathrm{e}

用画图表示就是这样,无限逼近于自然数e

 洛必达法则

若函数f(x)和g(x)满足下列条件:

随着x逼近a, 本身f(x)和g(x)都是逼近于正无穷的,但是通过f(x)和g(x)做比,可以得出这个“比”趋近于某个数A。如果A大于1,比如说A等于2,说明f(x)比g(x)趋近于正无穷的速度快。A表示的是一种趋近速度。

        (1)随着x不断向a逼近,如果f(x)和g(x)是趋近于一个常数,那么A越大,f(x)的收敛速度越快。

        (2)随着x不断向a逼近,如果f(x)和g(x)趋近于无穷,那么A越大,f(x)发散的速度越快

 像我们做机器学习追求的就是“单调有界收敛”,像下面这个图,

        单调:从小于e到逼近e这个方向走,说明这个数据是有规律的。如果方向一会增,一会减就是无规律的,就是噪声。

        有界:收敛的过程中,走了一段时间,和e的差距小于某个值,epsilon,比如0.1

和单调有界收敛相反的是“无界发散”,其实就是噪声

夹逼准则

假设一个函数是c,这个c介于a和b之间。这个函数c的极限不好求,我去求c所在区间的两个端点的极限值,进而推出c的极限值。这个过程可以叫做双参设计

 上夹逼趋近于c,下夹逼也趋近于c。上夹逼和下夹逼不断逼近c,离c越来越近,直到我们找到上夹逼或者下夹逼中的一个更加贴近c,我们就把这个夹逼拿出来作为c的近似函数。这个无限接近的过程就是我们所所的“拟合“。

        过拟合就是上夹逼和下夹逼趋近到最中间了(我认为不对)

        欠拟合就是,上下夹逼距离我们的的拟合目标c距离太远了。

函数的极限

什么是函数?

函数表达式 是为了以数学符号的形式 表示函数图像。

函数起源于信号学里面的函数图像。(1)比如一个函数图像像下面这样,每一次我们给别人说我们讨论一下下面这样的一个函数的时候,我们都得把这个函数的图像画一遍。每次都要画图真的很累,于是这帮专家发现我们可以用sin(x)这样一个简单的函数表达式来表示下面这张图,所以才有了函数表达式的广泛应用。(2)只有把函数图像转换成数学表达式以后,就可以使用丰富多彩的数学工具,运用过去数学家积累的一些定理和推论。单单拿过一张函数图像,我们是没有工具来处理和分析的。

函数的间断点

一个连续的函数,它一直走,走着走着,到一个点,它忽然断了,后面有继续连续走下去。对于这种间断点,我们该如何处理呢?

(a)这个间断点叫缺失值。因为他是和左右两侧的趋势是相同的。这种情况,如何填充这个缺失值呢?让这个点继续保持左右两点的趋势,就得出缺失值的预测值了。

(b)缺失的值是异常值outlier。这个值反映不出整体趋势,应该舍弃掉这个值,否则会影响到我们模型对于数据的拟合。

(c)这种间断,间断的两侧,属于不同的cluster。这种数据,适合用聚类。

因此我们得出结论,如果数据能够保持连续、没有间断点的话,它的泛化能力很大可能性是不错的(比如上面这个b情况,这种有间断点的情况,如果把间断点再引入进来,训练出来模型泛化性就不好)

介值定理

        介值定理的定义:如果定义域为[a,b]的连续函数f,那么在区间内的某个点,它可以在f(a)和f(b)之间取任何值,也就是说,介值定理是在连续函数的一个区间内的函数值肯定介于最大值和最小值之间。

        我的理解::对于定义域为[a,b]的连续函数f。我们可以拿到函数f的最大值最小值。对于函数值y介于这个最大值和这个最小值之间,一定发 能找到至少一个对应的自变量x的取值范围介于[a,b]之间。

利普希茨连续性

 这个性质将(a-b)这个问题,转换成了f(a)-f(b)的问题。f(a)-f(b)始终"小于等于"K(a-b)体现的就是f(a-b)逼近K(a-b).

\large |f(a)-f(b)|- K|a-b| \leq 0

我们可以把利普西斯连续性的公式移项,得到上面这个式子。我们可以发现,K|a-b|是我们的目标|f(a) - f(b)|无限的逼近于K|a - b|。实际上这个逼近的程度,可以用0这么小,我们自己是可以调整的,比如小于\large \epsilon,比如0.1,0.01这样一个人为可控的小量。


本文来自于,笔者收听“点头教育”的课程《机器学习数学基础》过程中记录的笔记。为了尊重教学视频的版权,这里列举一下点头教育的联系方式。

点头教育官网:

https://www.diantouedu.cn/index

《机器学习数学基础》

相关内容

热门资讯

个人空间伤感个性签名 个人空间伤感个性签名  随着社交网络的普及,越来越多人钟情于在线上更换个性签名,不同时期,不同环境,...
女人微信名字 女人微信名字  微信的聊天工具也开始慢慢的超越了qq,现在大多数人都喜欢用微信发朋友圈、聊天。下面小...
心痛个性签名 心痛个性签名70条  1、爱上一个人并不难,难的是看清楚了一个人却仍然爱着他。  2、迷失了自己一次...
qq个性签名繁体字超拽 qq个性签名繁体字超拽  随着社交网络开始流行,越来越多人习惯于在线上发布自己的个性签名,使用个性签...
经典伤感签名 经典伤感签名15篇经典伤感签名1  1、简单到时间一冲就淡,还算什么爱情  2、女人应该笑的甜美。纵...
甜蜜恩爱情侣网名 甜蜜恩爱情侣网名  两个人在一起时,总会做一些最幸福,最浪漫的事情,因为这样会很有诗意很美好,就是因...
好心态阳光微信昵称 好心态阳光微信昵称  好心态阳光微信昵称(精选500个)  微信名字是在使用微信时的一个代号,有的人...
优秀教师座右铭 优秀教师座右铭大全  教育就是使每个人都可以在自己生存的空间做个顶天立地的人。下面我们来看看优秀教师...
特奥蒂瓦坎是谁建造的 特奥蒂瓦坎是谁建造的埋葬在地下的古代墨西哥最具轰动效应的大都市特奥蒂瓦坎早在阿兹特克人时期就已经是一...
个性签名 个性签名120条  1、也许说太多是因为怕错过,可惜你并不怕错过我。  2、在这个大世界里,我丢失了...
传奇个性行会名字400个 传奇个性行会名字400个  传奇霸气行会名字取名技巧  1、使用一些带有霸气含义的词语  想要取个霸...
2021最新版微信网名大全 2021最新版微信网名大全  一、网名的特征  象征性,网名和自己的名字一样,也是身份的象征(如右图...
经典个性签名 经典个性签名(精选15篇)  随着社交网络和信息技术的飞速发展,越来越多人会在网上发布个性签名,用以...
座右铭简短 座右铭大全简短  导语 :除了无法达成心愿之外,就数心愿达成了最伤感。以下是小编为你介绍的座右铭大全...
成熟高雅的微信名字 成熟高雅的微信名字  微信有个好听名字会让人容易记住,留下好的印象,因此在签名和头像以外微信的名字怎...
经典哲理的个性签名 关于经典哲理的个性签名  ■ 爱情里,年龄不是差距,性别决定问题  ■ 男人因为烟酒而加深友谊,女人...
和平精英名字 和平精英名字  名字的作用  姓名诱导性格倾向  不同的姓名诱导着不同特点的的性格。给宝宝取好名字可...
qq个性幸福签名 qq个性幸福签名  随着线上的、虚拟的社交的迅猛发展,越来越多人喜欢设置个性签名,借助个性签名可以让...
电力安全生产座右铭 电力安全生产座右铭  1、您不想让自己的生命和国家财产遭受损失吧?请提高安全意识!  2、人车分离,...
2022两字高冷网名 2022两字高冷网名  2022两字高冷网名(精选500个)  字数少的网名往往比字数多的更能显示出...