prml专题

机器学习圣经PRML作者Bishop推出重磅教材

图1 书籍《Pattern Recognition and Machine Learning》 只要学人工智能的人,必然学机器学习。 只要学机器学习的人,必然看PRML。 PRML为何物? PRML全名《Pattern Recognition and Machine Learning》,一部机器学习领域的内功心法,流行于早期的人工智能江湖。可谓是,天下智林人士无人不知,谁人不晓。 此

PRML读书笔记(2)——Probability Distribution

2 Probability Distributions \qquad本章主要介绍了机器学习中常用的一些分布,以及分布的性质,包括:二元变量分布、多元变量分布、高斯分布、指数族以及非参方法(核密度方法以及最近邻方法)。 2.1 伯努利分布 \qquad设二元变量 x∈0,1 x∈{0,1}服从伯努利分布,则有伯努利分布: Bern[x|u]=ux(1−u)1−x Bern

PRML读书笔记(1)——introduction

\qquad1.1主要是简介机器学习与模式识别,1.2.1-1.2.4是概率论相关基础,不是本书重点,掌握即可,因此略过不总结。之后的章节主要内容有:线性回归的重新审视,模型选择,维度灾难,决策理论基础以及信息论基础。以下分别作出总结。 1.1 线性回归的重新审视 \qquad假设数据服从均值为 y(x,w) y(x,w),方差为 β β的高斯分布,那么我们可以写出如下的概率公式:

简单的PRML阅读笔记

chapter1 绪论 chapter1.1 多项式拟合 离散标签叫做分类,连续标签叫做回归在多项式拟合的问题中,随着阶数的变大,参数 M∗ M^* 通常会变得非常大,造成过拟合现象,因此,通过正则化(regulation)可以降低 M M的参数大小,这样的技术在统计学中叫收缩(shrinkage),在神经网络中称之为权重衰减(weight decay)chapter1.2.5 重新考虑曲

【PRML】第一章绪论学习笔记

第一章 绪论 1. 模式识别问题与机器学习问题 例子: 手写数字识别 --> 分类问题 --> y=f(x) --> y 属于[0,9]之间 2.基本概念 训练集:由N个数字{x1,x2,...xN}组成的大的集合 测试集:新的目标集 泛化:正确分类与训练集不同的新样本的能力 有监督学习:训练数据的样本包含输入向量以及对应的目标向量

[PRML]马尔可夫随机场

从《有向图》和《条件独立》中,我们已经了解有向图形模型(directed graphical models)指定了一组变量上的联合分布的因式分解为局部条件分布(local conditional distributions)的乘积。它们还定义了一组条件独立属性( conditional independence properties),必须满足根据图进行因式分解的任何分布。 现在我们来看第二类主

概率论PRML

1.2 概率论 加法率: P(X)=∑YP(X,Y) P(X)=∑YP(X,Y) 乘法率: P(X,Y)=P(Y|X)P(X)=P(Y,X)=P(X|Y)P(Y) P(X,Y)=P(Y|X)P(X)=P(Y,X)=P(X|Y)P(Y) 由乘法率可得 Bayes 公式: P(Y|X)=P(X|Y)P(Y)P(X) P(Y|X)=P(X|Y

PRML阅读笔记(三)

CH3 Linear models for regression回归的线性模型 3.1线性基函数模型 回归的最简单模型 y ( x , w ) = w 0 + w 1 x 1 + … + w D x D y(\boldsymbol x,\boldsymbol w)=w_0+w_1x_1+\ldots+w_Dx_D y(x,w)=w0​+w1​x1​+…+wD​xD​ 其中 x = ( x

PRML读书会第三章 Linear Models for Regression

大家好,我负责给大家讲讲 PRML的第3讲 linear regression的内容,请大家多多指教,群主让我们每个主讲人介绍下自己,赫赫,我也说两句,我是 applied mathematics + computer science的,有问题大家可以直接指出,互相学习。大家有兴趣的话可以看看我的博客: http://t.qq.com/keepuphero/mine,当然我给大家推荐一个好朋友的

PRML读书会第二章 Probability Distributions

PRML读书会第二章 Probability Distributions 开始吧,先不要发言了,先讲PRML第二章Probability Distributions。今天的内容比较多,还是边思考边打字,会比较慢,大家不要着急,上午讲不完下午会接着讲。 顾名思义,PRML第二章Probability Distributions的主要内容有:伯努利分布、 二项式 –beta共轭分布、多项式分布

PRML读书会第一章 Introduction

大家好,我是likrain,本来我和网神说的是我可以作为机动,大家不想讲哪里我可以试试,结果大家不想讲第一章。估计都是大神觉得第一章比较简单,所以就由我来吧。我的背景是统计与数学,稍懂些计算机,大家以后有问题可以讨论。 今天我们来讲一下PRML第一章,这一章的内容是基于一些简单的例子对于机器学习中的基本概念给与介绍。这是为后续章节的介绍给一个铺垫。我今天讲的内容包括以下几个部分: