码迷,mamicode.com
首页 > 其他好文 > 详细

单输出感知机及其梯度

时间:2020-01-29 01:04:28      阅读:100      评论:0      收藏:0      [点我收藏+]

标签:http   normal   tap   定义网络   nes   使用   mic   oss   span   

单层的感知机结构可写成以下公式:

y=XW+b(y = Σxi*wi+b)

技术图片

 

 

这里单层感知机的激活函数改成使用现代化的sigmoid激活函数

# 定义网络结构
x=tf.random.normal([1,3])
w=tf.ones([3,1])
b=tf.ones([1])
y = tf.constant([1])


with tf.GradientTape() as tape:

    tape.watch([w, b])
    logits = tf.sigmoid(x@w+b) 
    loss = tf.reduce_mean(tf.losses.MSE(y, logits))

grads = tape.gradient(loss, [w, b])
print(w grad:, grads[0])

print(b grad:, grads[1])

技术图片

 

单输出感知机及其梯度

标签:http   normal   tap   定义网络   nes   使用   mic   oss   span   

原文地址:https://www.cnblogs.com/zdm-code/p/12239217.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!