标签 "LinearModel" 下的文章

本文旨在从线性代数的角度解释机器学习中的核心模型——线性回归与主成分分析（PCA）。通过几何与代数双重视角揭示它们背后的结构、优化原理与直觉意义。1. 线性代数与机器学习的内在联系机器学习模型几乎都建立在线性代数的框架之上：数据集由矩阵 $X \in \mathbb{R}^{n\times d}$ 表示，行对应样本，列对应特征参数或模型权重是向量 $w \in \mathbb{R}^d$学习目标通...

线性模型 是机器学习中最基础、最直观、也最广泛应用的一类模型。尽管形式简单，但通过特征工程与正则化，它们在实践中表现优异，且具有良好的可解释性。一、线性回归（Linear Regression）1.1 问题定义任务类型：监督学习 → 回归目标：预测连续值输出 $y \in \mathbb{R}$模型假设：输入 $\mathbf{x} \in \mathbb{R}^d$ 与输出 $y$ 之间存在线性...