发表于 | 分类于 | 阅读次数 Generating
| 字数统计 1538 | 阅读时长 7

必要的前置知识

  1. 最大似然估计（MLE）：找出一组参数(模型中的参数)，使得似然函数（模型的输出概率）的值最大。
  2. 贝叶斯算法估计：从先验概率和样本分布情况来计算后验概率的一种方式。
  3. 最大后验概率估计（MAP）：求 $\theta$ 使 $P(x|\theta)P(\theta)$ 的值最大，这也就是要求 $\theta$ 值不仅仅是让似然函数最大，同时要求 $\theta$ 本身出现的先验概率也得比较大。
  4. Jensen 不等式：如果函数 $f$ 为凸函数，那么存在公式$f(\theta x + (1-\theta)y) \leq \theta f(x) + (1-\theta) f(y)$，进一步推论得到若 $\theta_1,…\theta_k \geq 0$ 且$\theta_1+\theta_2+…+\theta_k = 1 $，则有 $f(\theta_1 x_1 + … + \theta_k x_k) \leq \theta_1 f(x_1) + … + \theta_k f(x_k)$。这里会在后续 EM 的公式推导中使用到，证明可以看这里。
阅读全文 »

发表于 | 分类于 | 阅读次数 Generating
| 字数统计 1095 | 阅读时长 5

配置安装步骤详情请看这里呀，使用 bash vim/install.sh 的脚本就好了。这个文章会持续更新，主要记录的是当前配置内容，以及一些常用命令。

阅读全文 »

发表于 | 分类于 | 阅读次数 Generating
| 字数统计 2738 | 阅读时长 13

前言

自从进入了研究生以后，时间就开始严重不够用了。虽然已经把玩游戏，刷微博看八卦这种纯粹浪费时间的事情全部去掉了，但是每天仍然被做不完的事情所充斥着。

阅读全文 »