摘要：EM算法 Jensen不等式 其实Jensen不等式正是我们熟知的convex函数和concave函数性质，对于convex函数，有 $$ \lambda f(x) + (1 \lambda)f(y)\ge f(\lambda x + (1 \lambda)f(y)),\ where\ 0\le\l 阅读全文

摘要：梯度与梯度下降（上升）算法 方向导数与偏导数 设函数$z=f(x,y)$在点$P(x,y)$的某一领域$U(P)$内有定义。自点$P$引射线$l$。设$x$轴正向到射线$l$的转角为$\varphi$，并设$P'(x+\Delta x, y + \Delta y)$为$l$上的另一点且$P'\in 阅读全文

摘要：Hinge Loss Function Hinge Loss 函数一种目标函数，有时也叫max margin objective。 在Trans系列中，有一个 $$ \max(0,f(h,r,t) + \gamma f(h',r,t')) $$ 这样的目标函数，其中$\gamma 0$。为了方便理解 阅读全文