【计算机网络】

计算机网络是将一个个分散的、具独立功能的计算机系统，利用通信设备、物理线路连接起来，并由功能完善的软件所实现的能够资源共享与信息传递的系统

在计算机网络的不同发展阶段，对计算机网络的定义也不同，可分为以下三类：

References：

• 贝叶斯网络，看完这篇我终于理解了(附代码)！
• 概率图模型之贝叶斯网络
• 机器学习之贝叶斯网络
• 贝叶斯网络(Bayesian Network)

【概述】

在贝叶斯网络训练好后即可进行查询（Query），即通过某些特征的观测值来推测其他特征的取值，这样通过已知特征观测值来推测预测值的过程称为推断（Inference），其中已知观测值称为证据（Evidence）

References：

• 贝叶斯网络，看完这篇我终于理解了(附代码)！
• 概率图模型之贝叶斯网络
• 机器学习之贝叶斯网络
• 贝叶斯网络(Bayesian Network)

【贝叶斯网络的学习】

在网络结构已知，即特征间的依赖关系已知的情况下，贝叶斯网络只需要对训练样本进行统计，估计出每个结点的条件概率表即可

References：

• 贝叶斯网络，看完这篇我终于理解了(附代码)！
• 概率图模型之贝叶斯网络
• 机器学习之贝叶斯网络
• 贝叶斯网络(Bayesian Network)

【贝叶斯网络】

贝叶斯网络（Bayesian Network）借助 DAG 来刻画特征间的依赖关系，并使用条件概率表（Conditional Probability Table，CPT）来描述特征的联合概率分布

【概述】

概率图模型（Probabilistic Graphical Model）是一类用图来表达变量相关关系的概率模型

概率图模型以图为表示工具，用一个结点表示一个或一组随机变量，结点之间的边表示变量间的概率相关关系，即变量关系图

References:

• [ML] 支持向量回归 | SVR | SVM
• SVR（Support Vactor Regression）支持向量回归机

【引入】

支持向量机是针对二分类问题提出的，其通过最大化间隔来找到一个分离超平面，使得绝大多数样本点位于两个决策边界的外侧

References：

• 非线性支持向量机（SVM）解析 | 统计学习方法学习笔记 | 数据分析 | 机器学习
• 核方法、核技巧和核函数

【引入】

软隔支持向量机是用来解决训练集近似线性可分情况的二分类模型，但其无法处理线性不可分的情况

References:

• 对核函数(kernel)最通俗易懂的理解
• 机器学习笔记029 | 核函数
• 核方法、核技巧和核函数
• 【ML系列】“非线性”二元分类

【Cover 定理】

在实际应用中，分类问题有许多是线性不可分的

References：

• 【机器学习】支持向量机 SVM（非常详细）
• 机器学习笔记（五）：支持向量机（SVM）
• 支持向量机（SVM）——原理篇

【引入】

硬间隔支持向量机是用来解决训练集完全线性可分情况的二分类模型，但在实际应用中，由于实际获取的真实样本往往会存在噪声，使得训练数据不是清晰线性可分的，又或者即使找到了一个可以使不同类样本完全分开的超平面，也很难确定这个线性可分的结果是不是由于过拟合导致的

【概述】

序列最小最优化（Sequential Minimal Optimization，SMO）算法，是用于快速求解凸二次规划问题的算法，其主要针对于支持向量机的对偶问题

对于凸优化问题：