Python基于numpy灵活定义神经网络结构的方法
发布时间 - 2026-01-11 02:52:15 点击率:次本文实例讲述了Python基于numpy灵活定义神经网络结构的方法。分享给大家供大家参考,具体如下:

用numpy可以灵活定义神经网络结构,还可以应用numpy强大的矩阵运算功能!
一、用法
1). 定义一个三层神经网络:
'''示例一''' nn = NeuralNetworks([3,4,2]) # 定义神经网络 nn.fit(X,y) # 拟合 print(nn.predict(X)) #预测
说明:
输入层节点数目:3
隐藏层节点数目:4
输出层节点数目:2
2).定义一个五层神经网络:
'''示例二''' nn = NeuralNetworks([3,5,7,4,2]) # 定义神经网络 nn.fit(X,y) # 拟合 print(nn.predict(X)) #预测
说明:
输入层节点数目:3
隐藏层1节点数目:5
隐藏层2节点数目:7
隐藏层3节点数目:4
输出层节点数目:2
二、实现
如下实现方式为本人(@hhh5460)原创。 要点: dtype=object
import numpy as np
class NeuralNetworks(object):
''''''
def __init__(self, n_layers=None, active_type=None, n_iter=10000, error=0.05, alpha=0.5, lamda=0.4):
'''搭建神经网络框架'''
# 各层节点数目 (向量)
self.n = np.array(n_layers) # 'n_layers必须为list类型,如:[3,4,2] 或 n_layers=[3,4,2]'
self.size = self.n.size # 层的总数
# 层 (向量)
self.z = np.empty(self.size, dtype=object) # 先占位(置空),dtype=object !如下皆然
self.a = np.empty(self.size, dtype=object)
self.data_a = np.empty(self.size, dtype=object)
# 偏置 (向量)
self.b = np.empty(self.size, dtype=object)
self.delta_b = np.empty(self.size, dtype=object)
# 权 (矩阵)
self.w = np.empty(self.size, dtype=object)
self.delta_w = np.empty(self.size, dtype=object)
# 填充
for i in range(self.size):
self.a[i] = np.zeros(self.n[i]) # 全零
self.z[i] = np.zeros(self.n[i]) # 全零
self.data_a[i] = np.zeros(self.n[i]) # 全零
if i < self.size - 1:
self.b[i] = np.ones(self.n[i+1]) # 全一
self.delta_b[i] = np.zeros(self.n[i+1]) # 全零
mu, sigma = 0, 0.1 # 均值、方差
self.w[i] = np.random.normal(mu, sigma, (self.n[i], self.n[i+1])) # # 正态分布随机化
self.delta_w[i] = np.zeros((self.n[i], self.n[i+1])) # 全零
下面完整代码是我学习斯坦福机器学习教程,完全自己敲出来的:
import numpy as np
'''
参考:http://ufldl.stanford.edu/wiki/index.php/%E7%A5%9E%E7%BB%8F%E7%BD%91%E7%BB%9C
'''
class NeuralNetworks(object):
''''''
def __init__(self, n_layers=None, active_type=None, n_iter=10000, error=0.05, alpha=0.5, lamda=0.4):
'''搭建神经网络框架'''
self.n_iter = n_iter # 迭代次数
self.error = error # 允许最大误差
self.alpha = alpha # 学习速率
self.lamda = lamda # 衰减因子 # 此处故意拼写错误!
if n_layers is None:
raise '各层的节点数目必须设置!'
elif not isinstance(n_layers, list):
raise 'n_layers必须为list类型,如:[3,4,2] 或 n_layers=[3,4,2]'
# 节点数目 (向量)
self.n = np.array(n_layers)
self.size = self.n.size # 层的总数
# 层 (向量)
self.a = np.empty(self.size, dtype=object) # 先占位(置空),dtype=object !如下皆然
self.z = np.empty(self.size, dtype=object)
# 偏置 (向量)
self.b = np.empty(self.size, dtype=object)
self.delta_b = np.empty(self.size, dtype=object)
# 权 (矩阵)
self.w = np.empty(self.size, dtype=object)
self.delta_w = np.empty(self.size, dtype=object)
# 残差 (向量)
self.data_a = np.empty(self.size, dtype=object)
# 填充
for i in range(self.size):
self.a[i] = np.zeros(self.n[i]) # 全零
self.z[i] = np.zeros(self.n[i]) # 全零
self.data_a[i] = np.zeros(self.n[i]) # 全零
if i < self.size - 1:
self.b[i] = np.ones(self.n[i+1]) # 全一
self.delta_b[i] = np.zeros(self.n[i+1]) # 全零
mu, sigma = 0, 0.1 # 均值、方差
self.w[i] = np.random.normal(mu, sigma, (self.n[i], self.n[i+1])) # # 正态分布随机化
self.delta_w[i] = np.zeros((self.n[i], self.n[i+1])) # 全零
# 激活函数
self.active_functions = {
'sigmoid': self.sigmoid,
'tanh': self.tanh,
'radb': self.radb,
'line': self.line,
}
# 激活函数的导函数
self.derivative_functions = {
'sigmoid': self.sigmoid_d,
'tanh': self.tanh_d,
'radb': self.radb_d,
'line': self.line_d,
}
if active_type is None:
self.active_type = ['sigmoid'] * (self.size - 1) # 默认激活函数类型
else:
self.active_type = active_type
def sigmoid(self, z):
if np.max(z) > 600:
z[z.argmax()] = 600
return 1.0 / (1.0 + np.exp(-z))
def tanh(self, z):
return (np.exp(z) - np.exp(-z)) / (np.exp(z) + np.exp(-z))
def radb(self, z):
return np.exp(-z * z)
def line(self, z):
return z
def sigmoid_d(self, z):
return z * (1.0 - z)
def tanh_d(self, z):
return 1.0 - z * z
def radb_d(self, z):
return -2.0 * z * np.exp(-z * z)
def line_d(self, z):
return np.ones(z.size) # 全一
def forward(self, x):
'''正向传播(在线)'''
# 用样本 x 走一遍,刷新所有 z, a
self.a[0] = x
for i in range(self.size - 1):
self.z[i+1] = np.dot(self.a[i], self.w[i]) + self.b[i]
self.a[i+1] = self.active_functions[self.active_type[i]](self.z[i+1]) # 加了激活函数
def err(self, X, Y):
'''误差'''
last = self.size-1
err = 0.0
for x, y in zip(X, Y):
self.forward(x)
err += 0.5 * np.sum((self.a[last] - y)**2)
err /= X.shape[0]
err += sum([np.sum(w) for w in self.w[:last]**2])
return err
def backward(self, y):
'''反向传播(在线)'''
last = self.size - 1
# 用样本 y 走一遍,刷新所有delta_w, delta_b
self.data_a[last] = -(y - self.a[last]) * self.derivative_functions[self.active_type[last-1]](self.z[last]) # 加了激活函数的导函数
for i in range(last-1, 1, -1):
self.data_a[i] = np.dot(self.w[i], self.data_a[i+1]) * self.derivative_functions[self.active_type[i-1]](self.z[i]) # 加了激活函数的导函数
# 计算偏导
p_w = np.outer(self.a[i], self.data_a[i+1]) # 外积!感谢 numpy 的强大!
p_b = self.data_a[i+1]
# 更新 delta_w, delta_w
self.delta_w[i] = self.delta_w[i] + p_w
self.delta_b[i] = self.delta_b[i] + p_b
def update(self, n_samples):
'''更新权重参数'''
last = self.size - 1
for i in range(last):
self.w[i] -= self.alpha * ((1/n_samples) * self.delta_w[i] + self.lamda * self.w[i])
self.b[i] -= self.alpha * ((1/n_samples) * self.delta_b[i])
def fit(self, X, Y):
'''拟合'''
for i in range(self.n_iter):
# 用所有样本,依次
for x, y in zip(X, Y):
self.forward(x) # 前向,更新 a, z;
self.backward(y) # 后向,更新 delta_w, delta_b
# 然后,更新 w, b
self.update(len(X))
# 计算误差
err = self.err(X, Y)
if err < self.error:
break
# 整千次显示误差(否则太无聊!)
if i % 1000 == 0:
print('iter: {}, error: {}'.format(i, err))
def predict(self, X):
'''预测'''
last = self.size - 1
res = []
for x in X:
self.forward(x)
res.append(self.a[last])
return np.array(res)
if __name__ == '__main__':
nn = NeuralNetworks([2,3,4,3,1], n_iter=5000, alpha=0.4, lamda=0.3, error=0.06) # 定义神经网络
X = np.array([[0.,0.], # 准备数据
[0.,1.],
[1.,0.],
[1.,1.]])
y = np.array([0,1,1,0])
nn.fit(X,y) # 拟合
print(nn.predict(X)) # 预测
更多关于Python相关内容可查看本站专题:《Python数学运算技巧总结》、《Python数据结构与算法教程》、《Python函数使用技巧总结》、《Python字符串操作技巧汇总》及《Python入门与进阶经典教程》
希望本文所述对大家Python程序设计有所帮助。
# Python
# numpy
# 定义
# 神经网络结构
# Python利用numpy实现三层神经网络的示例代码
# Numpy实现卷积神经网络(CNN)的示例
# numpy实现神经网络反向传播算法的步骤
# 纯用NumPy实现神经网络的示例代码
# Python使用numpy实现BP神经网络
# numpy创建神经网络框架
# 正态分布
# 一遍
# 斯坦福
# 进阶
# 均值
# 相关内容
# 还可以
# 数据结构
# 给大家
# 随机化
# 更多关于
# 所述
# 程序设计
# 使用技巧
# 五层
# 前向
# 后向
# 操作技巧
# 敲出
# 迭代
相关栏目:
【
网站优化151355 】
【
网络推广146373 】
【
网络技术251813 】
【
AI营销90571 】
相关推荐:
Laravel怎么集成Vue.js_Laravel Mix配置Vue开发环境
高端企业智能建站程序:SEO优化与响应式模板定制开发
Laravel怎么实现模型属性的自动加密
PHP 500报错的快速解决方法
如何在阿里云通过域名搭建网站?
Laravel如何实现登录错误次数限制_Laravel自带LoginThrottles限流配置【方法】
Firefox Developer Edition开发者版本入口
Laravel怎么上传文件_Laravel图片上传及存储配置
网站建设要注意的标准 促进网站用户好感度!
Java垃圾回收器的方法和原理总结
Laravel怎么写单元测试_PHPUnit在Laravel项目中的基础测试入门
如何用腾讯建站主机快速创建免费网站?
黑客如何通过漏洞一步步攻陷网站服务器?
HTML透明颜色代码怎么让下拉菜单透明_下拉菜单透明背景指南【技巧】
Laravel怎么配置.env环境变量_Laravel生产环境敏感数据保护与读取【方法】
Laravel怎么实现模型属性转换Casting_Laravel自动将JSON字段转为数组【技巧】
如何快速建站并高效导出源代码?
成都网站制作公司哪家好,四川省职工服务网是做什么用?
Python面向对象测试方法_mock解析【教程】
Laravel如何使用集合(Collections)进行数据处理_Laravel Collection常用方法与技巧
EditPlus中的正则表达式 实战(2)
UC浏览器如何设置启动页 UC浏览器启动页设置方法
Laravel怎么实现搜索高亮功能_Laravel结合Scout与Algolia全文检索【实战】
JavaScript中如何操作剪贴板_ClipboardAPI怎么用
在线制作视频的网站有哪些,电脑如何制作视频短片?
宙斯浏览器视频悬浮窗怎么开启 边看视频边操作其他应用教程
Laravel如何使用Sanctum进行API认证?(SPA实战)
作用域操作符会触发自动加载吗_php类自动加载机制与::调用【教程】
国美网站制作流程,国美电器蒸汽鍋怎么用官方网站?
详解ASP.NET 生成二维码实例(采用ThoughtWorks.QRCode和QrCode.Net两种方式)
Android自定义控件实现温度旋转按钮效果
如何自定义建站之星模板颜色并下载新样式?
谷歌浏览器下载文件时中断怎么办 Google Chrome下载管理修复
Python自动化办公教程_ExcelWordPDF批量处理案例
如何做网站制作流程,*游戏网站怎么搭建?
如何用y主机助手快速搭建网站?
详解Huffman编码算法之Java实现
HTML5建模怎么导出为FBX格式_FBX格式兼容性及导出步骤【指南】
Laravel Pest测试框架怎么用_从PHPUnit转向Pest的Laravel测试教程
INTERNET浏览器怎样恢复关闭标签页_INTERNET浏览器标签恢复快捷键与方法【指南】
Laravel事件和监听器如何实现_Laravel Events & Listeners解耦应用的实战教程
香港代理服务器配置指南:高匿IP选择、跨境加速与SEO优化技巧
美食网站链接制作教程视频,哪个教做美食的网站比较专业点?
英语简历制作免费网站推荐,如何将简历翻译成英文?
网站制作怎么样才能赚钱,用自己的电脑做服务器架设网站有什么利弊,能赚钱吗?
昵图网官网入口 昵图网素材平台官方入口
如何制作新型网站程序文件,新型止水鱼鳞网要拆除吗?
C++用Dijkstra(迪杰斯特拉)算法求最短路径
如何在自有机房高效搭建专业网站?
Windows10电脑怎么设置虚拟光驱_Win10右键装载ISO镜像文件

