反向传播时sigmoid函数的梯度计算实现
创始人
2024-06-01 20:13:22
0

sigmoid类实现如下:

import math

class sigmoid:

def forward(self,input):

self.out=1/(1+ math.exp(-input))

return self.out

def backward(self,doutput):

self.grad=doutput*(1-self.out)*self.out#sigmoid函数的导数为y*(1-y)。y就是本层正向传播的输出。

return self.grad

sigmoid函数的导数为y*(1-y) ,因为反向传播的输入就是损失函数对上层的正向传播时输入的导数。那就直接用dout直接与本层的导数相乘,就得到了,损失函数对本层的正向输入时x的导数,同时也就是反向传播时下层的输入。

相关内容

热门资讯

武隆天生三桥导游词 武隆天生三桥导游词范文  重庆武隆天生三桥风景区位于重庆市的武隆区城区东南20千米处,武隆至仙女山高...
长城导游词四年级作文 长城导游词四年级作文  作为一名导游,通常需要准备好一份导游词,导游词由引言、主体和结语三部分构成。...
介绍贵州导游词 介绍贵州导游词  作为一名导游,往往需要进行导游词编写工作,导游词可以帮助旅游者欣赏景观,以达到游览...
记金华的双龙洞导游词 记金华的双龙洞导游词  作为一名导游,有必要进行细致的导游词准备工作,导游词是导游员进行实地口语导游...
南京夫子庙的导游词 南京夫子庙的导游词  导语:南京夫子庙,即南京孔庙、南京文庙,位于南京市秦淮区秦淮河北岸贡院街。下面...
重庆北温泉公园简介导游词 重庆北温泉公园简介导游词  北温泉公园位于北碚区,北濒嘉陵江,南倚缙云山。其前身为温泉寺,初建于南朝...
北山公园的导游词 关于北山公园的导游词  吉林北山地理位置在吉林城区西北,面积是一百二十八万平方米,主峰西峰海拔高度为...
美丽的校园导游词 美丽的校园导游词(精选3篇)  作为一名导游,总不可避免地需要编写导游词,导游词是我们引导游览时使用...
白帝城导游词 白帝城导游词  各位朋友们:  大家好!大家辛苦了!首先请允许我代表我们朝阳旅行社欢迎各位朋友来本地...
新昌大佛寺导游词 新昌大佛寺导游词  大佛寺,又名大佛禅寺,位于浙江省新昌县城南明街道,始建于东晋。下面是小编为大家整...
骊山导游词介绍 骊山导游词介绍  骊山是我国古今驰名的风景游览胜地,因系西周时骊戎国国地,因此称为骊山,唐时临潼名昭...
江苏扬州个园导游词 江苏扬州个园导游词  个园位于扬州古城东北隅,盐阜东路10号,曾荣获第三批“全国重点文物保护单位”和...
天坛导游词 天坛导游词  各位游客,我们今天所要参观的就是以前皇帝祭天的地方——天坛,天坛导游词。  明朝永乐皇...
贵州凉都六盘水导游词 贵州凉都六盘水导游词  作为一名具备丰富知识的导游,通常会被要求编写导游词,导游词具有极强的实用性,...
唐山南湖公园的导游词 唐山南湖公园的导游词  唐山南湖公园导游词一  大家好,我是你们的南湖导游。  现在大家来到了南湖公...
南京玄武湖导游词讲解 南京玄武湖导游词讲解  作为一名优秀的旅游从业人员,通常会被要求编写导游词,导游词事实上是一种对旅游...
介绍武侯祠的导游词 介绍武侯祠的导游词  导游词是导游人员引导游客观光游览时的讲解词,是导游员同游客交流思想,向游客传播...
云南昆明大观公园导游词 云南昆明大观公园导游词大观公园位于昆明市西郊约3公里的滇池畔。它近吞波光浩渺的滇池,远与太华山遥遥相...
海南三亚天涯海角导游词 海南三亚天涯海角导游词各位朋友,大家好!  一曲《请到天涯海角来》以其优美的旋律、欢快的节奏和火热的...
大觉山概况导游词 大觉山概况导游词  大觉山是资溪县首屈一指的游览胜地。俗话说:“大觉山水冠武夷,武夷山水大觉奇。”大...