机器学习笔记(19.4): pFedMe

可能更好的阅读体验 Jeefy's Blog: pFedMe

pFedMe.pdf

建模，依旧标准建模 + 正则化（采用的是 Moreau Envelope 形式化）：

\[\min \sum F_i(\omega) = \min \sum \min_{\theta_i} f_i(\theta_i) + \frac \lambda 2 \| \theta_i - \omega \|^2 \]

其中 \(\xi_i\) 表示数据分布。

几个假设：

1. L-smooth
2. Bounded variance. 基于随机数据的随机梯度在每个端上是有限的
3. Bounded diversity. 全局梯度和端梯度的距离是有界的

关键性质：

1. \(f_i\) 光滑 \(\implies\) \(F_i\) 光滑
2. \(f_i\) 强凸 \(\implies\) \(F_i\) 强凸