基于深度学习的python速通(六)-与学习相关的技巧
基于深度学习的python速通(一)基于深度学习的python速通(七)基于深度学习的python速通(三)基于深度学习的python速通(二)基于深度学习的python速通(五)基于深度学习的python速通(六)基于深度学习的python速通(六)-与学习相关的技巧 与学习相关的技巧概述本章围绕多层神经网络训练中的关键工程技巧展开:权重初始化、批归一化(Batch Normalization)、Dropout、权重衰减(L2 正则)、学习率与调度、早停与验证集、超参数优化等。它们从不同侧面改善梯度传递与泛化能力,使训练更稳定更高效。 本文沿用前文的层化实现(forward/backward)思想,在纯 Python/NumPy 环境下给出完整可运行的代码示例,辅以严谨的数学推导。 环境与依赖示例统一使用 NumPy: 1import numpy as np 权重初始化策略深层网络中,若权重初始化不当会导致激活的方差在层间指数式增长或衰减,从而引发“梯度爆炸/消失”。合理初始化的目标是在层间保持激活与梯度的方差稳定。 Xavier...
基于深度学习的python速通(七)
基于深度学习的python速通(一)基于深度学习的python速通(七)基于深度学习的python速通(三)基于深度学习的python速通(二)基于深度学习的python速通(五)基于深度学习的python速通(六)基于深度学习的python速通(六)-与学习相关的技巧 误差反向传播法概述误差反向传播法(Backpropagation, BP)是训练多层神经网络的核心算法。它基于计算图与链式法则,将损失对输出的梯度沿网络结构反向传播到每一层参数,实现高效的梯度计算与参数更新。 本章目标: 从计算图与局部导数出发,推导反向传播的数学原理; 以“层(Layer)”为抽象,构建可复用的前向/反向模块; 实现两层神经网络的完整反向传播与梯度校验; 使用Softmax+交叉熵进行分类训练,并给出代码示例。 环境与依赖本文示例基于 NumPy,需先导入: 1import numpy as np 计算图与链式法则计算图(Computational...
Python程序设计作业
1. Python 3.x 的 range() 函数返回一个( ) 答:range 对象(不可变序列、可迭代)。 2. 表达式 [3] in [1, 2, 3, 4] 的值为( ) 答:False。 说明:右侧列表元素是整数,左侧是列表 [3],类型不同,元素不相等。 3. 列表对象的 sort() 方法用于原地排序,其返回值为( ) 答:None。 4. 列表对象的( )方法删除首次出现的指定元素,不存在则抛出异常 答:remove()。 说明:若元素不存在,抛出 ValueError。 5. 已知 a_list = [3,4,5,6,7,9,11,13,15,17],切片 a_list[3:7] 的值是( ) 答:[6, 7, 9, 11]。 6. 在 Python 中,字典和集合都用一对( )作为界定符;字典的每个元素由两部分组成,即( ),其中( )不允许重复 答:{};键:值;键。 7. 使用字典对象的( )方法返回“键-值”对;( )方法返回“键”;( ...
无标题
张量数组与张量Pytorch将Numpy数组的语法金属吸收,作为自己处理张量的基本语法,且运算速度从使用CPU的数组进步到使用GPU的张量 Numpy和Pytorch的基础语法几乎一致,具体表现为 np对应 torch 数组 array对应张量 tensor Numpy的n维数组对应Pytorch的n阶张量,数组与张量之间可以互相转换 数组 arr转为张量 ts;ts = torch.tensor(arr) 张量 ts转为数组 arr;arr = np.array(ts) 从数组到张量Pytorch修正的Numpy函数或方法 位置 Numpy的函数 Pytorch的函数 用法区别 1.1 数据类型 .astype() .type() 无 2.4 随机数组 np.random.random() troch.rand() 无 2.4 随机数组 np.random.randint() torch.randint() 不接纳一维张量 2.4 随机数组 np.random.normal() torch.normal() 不接受一维张量 2.4...
电路与电子技术基础
1.3——电压和电流的参考方向 参考方向——如何判断电压与电流的参考方向相同或相反 下图展示了一个基本的电路图,包含电流方向和正负极标记: 电路图说明: 电流 i 的方向用箭头表示 电阻用锯齿形符号表示 + 和 − 分别表示正极和负极 这是分析电压和电流参考方向的基础电路 备选方案 - 使用Mermaid语法的简化电路图: 1234graph LR A[+] -->|i| B[电阻R] B --> C[-] A -.电压U.- C ASCII艺术版本的电路图: 123456 ──────→ i ──────○ ○+ -│ │└────────────────┘ 期间 欧姆定律 U、I参考方向相同 $\frac{U}{I}=R$ U、I参考方向相反 $$ U=-IR ...
基于深度学习的python速通(三)
基于深度学习的python速通(一)基于深度学习的python速通(七)基于深度学习的python速通(三)基于深度学习的python速通(二)基于深度学习的python速通(五)基于深度学习的python速通(六)基于深度学习的python速通(六)-与学习相关的技巧 Matplotlib数据可视化Matplotlib是Python中最重要的数据可视化库之一,它提供了类似MATLAB的绘图接口,可以创建各种静态、动态和交互式的图表。在深度学习中,Matplotlib常用于可视化训练过程、数据分布、模型结果等。 基础导入与设置导入Matplotlib时,通常使用pyplot模块,并给其一个简短的别名: 123456import matplotlib.pyplot as pltimport numpy as np# 设置中文字体支持(可选)plt.rcParams['font.sans-serif'] = ['SimHei'] #...
基于深度学习的python速通(二)
基于深度学习的python速通(一)基于深度学习的python速通(七)基于深度学习的python速通(三)基于深度学习的python速通(二)基于深度学习的python速通(五)基于深度学习的python速通(六)基于深度学习的python速通(六)-与学习相关的技巧 数组基础导入Numpy时,通常给其一个别名,即import numpy as np 数据类型整数型数组与浮点型数组为克服列表的缺点,一个Numpy数组只容纳一种数据类型,以节约内存。方便起见,可将Numpy数组简单分为整数型数组与浮点型数组。 12345678import numpy as np# 创建整数型数组arr1 = np.array([1, 2, 3])# 创建浮点型数组(内含浮点数则为浮点型)arr2 = np.array([1.0, 2.0, 3.0])# 查看数组数据类型print(arr1.dtype) # int32print(arr2.dtype) #...
python程序设计
感知机感知机是神经网络(深度学习)的起源算法,学习感知机的构造是理解神经网络和深度学习的第一步。 感知机是什么?感知机接收多个输入信号,输出一个输出信号。信号只有“流/不流”(1/0)两种取值。 [{"url":"https://lstyimgbed.cn/PicGo/Snipaste_2025-10-07_20-29-15.png","alt":"感知机","title":""}] **$x_1, x_2$**:输入信号 **$y$**:输出信号 **$w_1, w_2$**:权重($w$ 为 weight 的首字母) **$\theta$**:阈值 神经元计算传送过来的信号的总和,当这个总和超过某个界限值时,才会输出“1”,这也称为“神经元被激活”。这个界限值称为阈值,用符号 $\theta$ 表示。 上述概念可以用数学公式表示: $$ y = \begin{cases} 0 & (w_1x_1 + w_2x_2 \le \theta) \ 1 & (w_1x_1 + w_2x_2 > \theta)...
基于深度学习的python速通(一)
基于深度学习的python速通(一)基于深度学习的python速通(七)基于深度学习的python速通(三)基于深度学习的python速通(二)基于深度学习的python速通(五)基于深度学习的python速通(六)基于深度学习的python速通(六)-与学习相关的技巧 深度学习相关库 NumPy——为python加上了关键的数组变量类型 Pandas——在Numpy数组的基础上添加了与Excel类似的行列标签 Matplotlib——借鉴Matlab,使Python具备了绘图能力 Scikit-learn——机器学习库,内含分类、回归、聚类、降维等多种算法 Pytorch——Facebook的深度学习框架 变量类型与输出语句Python是动态输入类型的语言,类似Matlab,变量类型动态推断,静态类型的C语言需声明变量类型int a = 1,Python为a =...
Hexo 框架 LaTeX 数学公式支持解决方案
Hexo 框架 LaTeX 数学公式支持解决方案问题描述当前 Hexo 框架的默认 Markdown 渲染器不支持 LaTeX 数学公式语法,导致文章中的数学公式无法正确渲染显示。 解决方案概览本文档提供三种主要解决方案: MathJax 集成方案(推荐) KaTeX 集成方案(性能更好) 更换渲染器方案(彻底解决) 方案一:MathJax 集成方案(推荐)1.1 安装 hexo-math 插件1npm install hexo-math --save 1.2 配置 _config.yml在站点根目录的 _config.yml 文件中添加: 12345678910math: engine: 'mathjax' # 或者 'katex' mathjax: src: https://polyfill.io/v3/polyfill.min.js?features=es6 config: tex: inlineMath: [['$', '$'],...
娜迦Agent
娜迦Agent挖个坑先,研究一下怎么个事
N天慢通计算机图形学
GAMES101-现代计算机图形学入门-闫令琪 LECTURE-2 线性代数简单总结复习下基础 向量的点乘12345678910if (dot(v1, v2) > 0) { // 向量v1和v2指向同一个方向 // 计算向量v1和v2的夹角 float angle = acos(dot(v1, v2) / (v1.length() * v2.length()));}else { // 向量v1和v2指向相反方向 // 计算向量v1和v2的夹角 float angle = acos(-dot(v1, v2) / (v1.length() * v2.length()));} 向量的叉乘新向量方向的判断右手螺旋定则如a×b=c,四指从a的方向向b的方向握紧,大拇指指向的就是c的方向向量的叉乘满足结合律a×(b×c)=(a×b)×c向量的叉乘满足分配律a×(b+c)=a×b+a×c向量的叉乘满足 distributive...










