基础概念与张量操作1. PyTorch中的Tensor与NumPy数组的主要区别是什么？# 主要区别： # 1. Tensor可以在GPU上运行，NumPy数组只能在CPU上 # 2. Tensor支持自动求导（autograd） # 3. Tensor有更丰富的API用于深度学习 import torch import numpy as np # 相互转换 numpy_array = np.ar...
线性模型 是机器学习中最基础、最直观、也最广泛应用的一类模型。尽管形式简单，但通过特征工程与正则化，它们在实践中表现优异，且具有良好的可解释性。一、线性回归（Linear Regression）1.1 问题定义任务类型：监督学习 → 回归目标：预测连续值输出 $y \in \mathbb{R}$模型假设：输入 $\mathbf{x} \in \mathbb{R}^d$ 与输出 $y$ 之间存在线性...
一、SVM 是什么？支持向量机（Support Vector Machine, SVM） 是一种监督学习算法，主要用于分类（也可用于回归，称为 SVR）。其核心思想是：在特征空间中找到一个最优的超平面（decision boundary），使得不同类别的样本被尽可能清晰地分开，并且分类边界到最近样本点的距离（即“间隔”）最大化。SVM 属于判别模型，追求结构风险最小化（而非经验风险最小化），具有良...
一、XGBoost 是什么（一句话）XGBoost（eXtreme Gradient Boosting）是一个高性能的梯度提升库，提供了基于树的 GBDT/DART 与（历史上的）线性模型接口，具备稀疏感知、正则化、早停、分布式/多 GPU、类别特征等特性，适合结构化数据的分类、回归与排序任务。官方文档入口与导航在此。 (docs.xgboost.com.cn)二、核心工作原理（你需要知道的几个“...
模块/主题核心类/函数/操作主要用途/说明Tensor操作torch.tensor(), torch.randn(), view(), reshape(), to(device)创建张量、改变形状、设备转换自动微分requires_grad=True, backward(), grad, torch.no_grad()设置梯度追踪、计算梯度、清空梯度、禁用梯度计算数据加载与处理Dataset, D...