Siyu Chen

这一篇整理监督学习里最基础的几类模型：linear regression、logistic regression 和 KNN。它们看起来简单，但很多后面的模型都能从这里找到影子：线性模型关心如何用特征加权得到预测，logistic regression 把线性打分变成概率，KNN 则完全依赖样本之间的距离。 1. 线性回归（linear regression）：用线性函数做预测Linear reg

上一篇笔记里把机器学习看成一个从数据中学习 prediction function 的过程。这篇继续往下看：模型到底是怎么被训练出来的。 训练过程可以先抓住一条主线： Loss 定义“错在哪里”，gradient 定义“往哪里改”，learning rate 定义“每次改多少”，regularization 限制模型不要为了降低训练误差而变得过度复杂。 这几个概念连起来，基本就是传统机器学习和

这篇笔记整理机器学习最基础的一层框架：机器学习到底在学什么，一个模型从数据到预测结果之间经历了什么，以及为什么训练集表现好并不等于模型真的好。 可以先把 machine learning 理解成： 从已有数据中学习一个可以泛化到未来数据的 prediction function。 两个关键词：学习 和 泛化。学习指的是模型通过数据调整自己的参数；泛化指的是模型不只是记住训练样本，而是能在没见过