建站者的编程笔记

专注于前端开发、React、Vue 和现代 Web 技术的个人博客。分享我的学习心得、项目经验和技术见解。

我的技术栈

博客文章

深度学习激活函数详解:从Sigmoid到Swish的实战指南
前端
深度学习激活函数详解:从Sigmoid到Swish的实战指南 2026/4/27 0:02:09

深度学习激活函数详解:从Sigmoid到Swish的实战指南

1. 激活函数在深度学习中的核心作用第一次接触神经网络时,我对着全连接层的矩阵运算百思不得其解——为什么简单的线性变换堆叠就能实现复杂功能?直到理解了激活函数这个"非线性开关"的作用,才算真正入门深度学习。激活函数决定了神…

AdaGrad算法解析:自适应梯度下降优化原理与实践
前端
AdaGrad算法解析:自适应梯度下降优化原理与实践 2026/4/27 0:02:10

AdaGrad算法解析:自适应梯度下降优化原理与实践

1. 梯度下降与AdaGrad算法解析在机器学习领域,优化算法是模型训练的核心引擎。传统梯度下降算法虽然简单有效,但在面对不同维度曲率差异较大的目标函数时,固定学习率的设定往往成为性能瓶颈。想象一下,你在山区徒步时,…

订阅我的博客更新

第一时间获取我的最新文章、技术分享和项目更新。你的邮箱将受到保护。

我尊重你的隐私,绝不会向第三方分享你的信息。

首页 博客 项目 关于我 联系