深度学习（python）——神经网络(Artificial Neural Networks)激活函数代码
创始人
2024-01-16 22:04:07
0次
目录
1.概述
2.激活函数
（1）基本概念
（2）sigmoid函数（常用）
代码(sigmoid)
（3）阶跃函数
代码（阶跃函数）
（4）ReLU函数（目前常用）
代码（ReLU函数）
1.概述
在感知机中，权重w是由人工输入的，而神经网络可以自动地从数据中学习到合适的权重参数。可以理解为，神经网络从数据中抓取数据的特征而得到权重，最后由权重来识别陌生数据。
神经网络结构图如下：
上图为3层神经网络，是最为简单的神经网络结构，其中中间层，有时我们也称作“隐藏层”。与感知机类似，在神经网络中我们输入数据样本作为输入信号，再通过隐藏层获取数据的特征计算得到权重，最后在输出层得到需要的输出结果。
2.激活函数
（1）基本概念
首先我们先来看一下感知机的公式:
将感知机的公式简化为
其中h(x)：
由此可以得到
a=b+w1x1+w2x2
y=h(a)
其中h(a)就是激活函数。其结构如下：
（2）sigmoid函数（常用）
公式：
其中exp(-x)表示e的-x平方。（这个公式不用记，只是一种计算方法）
代码(sigmoid):
def sigmoid(x):return 1 / (1 + np.exp(-x))（3）阶跃函数
阶跃函数和sigmoid函数都是非线性函数，但是与sigmoid不一样的是，sigmoid函数是一条平滑的曲线，而阶跃函数则是急剧下降或上升的曲线。
其函数曲线比较如下：
代码（阶跃函数）
def step_function(x):y = x > 0return y.astype(np.int)（4）ReLU函数（目前常用）
目前使用较多的是ReLU函数，其公式如下：
代码（ReLU函数）：
def relu(x):return np.maximum(0, x)相关内容
热门资讯
结训典礼主持词
结训典礼主持词范文 主持词是主持人在节目进行过程中用于串联节目的串联词。在当今中国社会，各种集会中...
集团董事长新年的经典致辞
集团董事长新年的经典致辞（通用13篇） 在平平淡淡的学习、工作、生活中，大家对致辞都不陌生吧，致辞...
郭德纲于谦相声《李菁表妹》台...
郭德纲于谦相声《李菁表妹》台词 郭德纲，1973年1月18日出生于天津，华语相声演员，电视、电影演...
教师节学生主持稿
教师节学生主持稿 教师“不仅仅是一份工作、一个职业，而是一项需要用一生的情感去拥抱的事业，更是一种...
主持词开场白夏天
主持词开场白夏天（精选5篇） 在现实社会中，很多情况下我们都需要用到开场白，独具匠心的开场白，才能...
幼儿园家长会全过程主持词
幼儿园家长会全过程主持词 主持词要把握好吸引观众、导入主题、创设情境等环节以吸引观众。在当今不断发...
播音主持岗位实践报告范文8篇
播音主持岗位实践报告范文 第一篇时间过的很快，转眼间，我到临沂银雀山汉墓竹筒博物馆工作，已经快一年的...
爱国活动主持词
爱国活动主持词范文 主持人在台上表演的灵魂就表现在主持词中。我们眼下的社会，主持词在各种活动中起到...
“我的祖国”演讲比赛主持词
“我的祖国”演讲比赛主持词 主持词要注意活动对象，针对活动对象写相应的主持词。在当下这个社会中，越...
舞蹈节目主持词串词
舞蹈节目主持词串词范文（精选8篇） 主持词需要富有情感，充满热情，才能有效地吸引到观众。在当下的社...
我是歌手歌唱比赛主持词
我是歌手歌唱比赛主持词 小歌手主持词篇一 A：尊敬的各位领导 B：敬爱的老师，亲爱的同学们 ...
中秋节联欢晚会主持词
中秋节联欢晚会主持词（精选11篇） 主持词要注意活动对象，针对活动对象写相应的主持词。我们眼下的社...
初中新生开学欢迎词
初中新生开学欢迎词2017各位初一年全体同学石狮二中敞开胸怀迎接你们，真诚地欢迎你们加入这个大家庭，...
品鉴会主持词
品鉴会主持词 借鉴诗词和散文诗是主持词的一种写作手法。随着中国在不断地进步，各种集会的节目都通过主...
新年半台词
新年三句半台词 三句半是一种中国民间群众传统曲艺表演形式。每段内容有三长句一半句。一般由4人演出，...
消夏文艺晚会的主持词
消夏文艺晚会的主持词（精选11篇） 主持词是主持人在节目进行过程中用于串联节目的串联词。在各种集会...
英雄联盟经典台词
英雄联盟经典台词 英雄联盟经典台词 1、正义，要么靠法律，要么靠武力! 2、你迷失在黑暗之中，...
小学元旦节的主持词
小学元旦节的主持词（精选16篇） 主持词是主持人在台上表演的灵魂之所在。在当今不断发展的世界，各种...
婚纱走秀主持词
婚纱走秀主持词三篇 篇一：婚纱走秀演出主持词 当您披上洁白的婚纱，点亮您一生中最美丽的日子，您是...
医者仁心台词
医者仁心台词大全 1. 钟立行对丁祖望：我们都在努力做一个能够被人怀念的人。 2.罗雪樱旁白：从...