-
单神经元梯度下降实验
背景最近在着手学习深度学习相关的知识。准备用C语言实现一个 MLP 网络实现手写数字的识别。在学习梯度下降的过程中，遇到了梯度爆炸的问题。于是写篇博客记录一下。 模型与推导考虑如下这样一个十分简单的函数： 我们假设训练集只有这样的一个样本： , 。不难发现我们所期望的 应该为3。 损失用均方误差（MSE）： 用链式法则求梯度（中间变量为误差 ）： 更新规则（学习率 ）： ... -
printf 格式占位符速查
printf 的完整格式： 1%[标志][最小宽度][.精度][长度]转换符 除转换符外均为可选。 转换符 转换符 作用 示例 %d / %i 有符号整数 printf("%d", -5) → -5 %u 无符号整数 printf("%u", -1) → 4294967295（按补码解释） %x / %X 十六进... -
大小端字节序与 magic number：union 实验与文件读取
在开发机上读取 MNIST idx 文件（大端格式）时涉及字节序与文件格式识别问题，记录如下。 定义多字节数据在内存或文件中的字节排列顺序称为字节序，分两种： 大端（big-endian）：高位字节在前 小端（little-endian）：低位字节在前 以 0x12345678 为例，4 个字节从前到后的排列： 字节序 第1字节 第2字节 第3字节 第4字节 大端 12 34... -
Hello World
Welcome to Hexo! This is your very first post. Check documentation for more info. If you get any problems when using Hexo, you can find the answer in troubleshooting or you can ask me on GitHub. Qu...
1