https://taffyboys.github.io/tags/autoencoder/Recent content in Autoencoder on 📝Mocong's BlogsHugozh-cnMon, 10 Aug 2026 00:00:00 +0000https://taffyboys.github.io/posts/%E4%BB%8E%E7%BA%BF%E6%80%A7%E8%87%AA%E7%BC%96%E7%A0%81%E5%99%A8%E5%88%B0%E5%8E%BB%E5%99%AA%E8%87%AA%E7%BC%96%E7%A0%81%E5%99%A8/Mon, 10 Aug 2026 00:00:00 +0000https://taffyboys.github.io/posts/%E4%BB%8E%E7%BA%BF%E6%80%A7%E8%87%AA%E7%BC%96%E7%A0%81%E5%99%A8%E5%88%B0%E5%8E%BB%E5%99%AA%E8%87%AA%E7%BC%96%E7%A0%81%E5%99%A8/<h1 id="从线性自编码器到去噪自编码器发展脉络与公式推导">从线性自编码器到去噪自编码器：发展脉络与公式推导</h1> <blockquote> <p>本文按四章梳理自编码器（Autoencoder）家族的发展主线，每章包含定义、数学推导与设计动机。</p> </blockquote> <h2 id="引言一条主线">引言：一条主线</h2> <p>自编码器家族的发展可以概括为一条主线：</p> <p><strong>不断提高表达力 → 防止过拟合 → 学会真正有用的特征</strong></p> <pre tabindex="0"><code class="language-mermaid" data-lang="mermaid">flowchart LR A[线性自编码器&lt;br/&gt;单层 + 线性&lt;br/&gt;等价于 PCA] --&gt; B[Deep Autoencoder&lt;br/&gt;多层 + 非线性&lt;br/&gt;表达力更强] B --&gt; C{训练更易过拟合} C --&gt; D[Sparse Autoencoder&lt;br/&gt;稀疏约束 → 可解释特征] C --&gt; E[Denoising Autoencoder&lt;br/&gt;噪声重建 → 鲁棒特征] </code></pre><table> <thead> <tr> <th>阶段</th> <th>解决什么问题</th> <th>引入什么</th> </tr> </thead> <tbody> <tr> <td>线性自编码器</td> <td>基础降维</td> <td>编码器 / 解码器 / 瓶颈结构</td> </tr> <tr> <td>Deep Autoencoder</td> <td>只能线性、表达力不足</td> <td>多层结构 + 非线性激活</td> </tr> <tr> <td>Sparse Autoencoder</td> <td>特征不清晰、不可解释</td> <td>稀疏性约束（L1 / KL 散度）</td> </tr> <tr> <td>Denoising Autoencoder</td> <td>特征不鲁棒、容易过拟合</td> <td>输入噪声 + 重建原版</td> </tr> </tbody> </table> <hr> <h2 id="第-1-章线性自编码器linear-autoencoder">第 1 章　线性自编码器（Linear Autoencoder）</h2> <h3 id="11-定义">1.1 定义</h3> <p>编码器与解码器都<strong>不含激活函数</strong>，只有线性变换（矩阵乘法 + 偏置）：</p>