摘要： 
最近导师让我做分布式多任务学习方面的工作，我开始着手阅读这方面的论文并归纳一个大致的速览。首先，我们看看什么是多任务学习，然后我们主要聚焦于基于正则化的多任务学习方法（这也是目前学术界主要的并行对象），并在此基础上讨论如何分布式并行。类似于迁移学习，多任务学习也运用了知识迁移的思想，即在不同任务间泛化知识。但二者的区别在于：迁移学习可能有多个源域；而多任务学习没有源域而只有多个目标域；且迁移学习注重提升目标任务性能，并不关心源任务的性能（知识由源任务→目标任务；而多任务学习旨在提高所有任务的性能(知识在所有任务间相互传递)。 阅读全文
最近导师让我做分布式多任务学习方面的工作，我开始着手阅读这方面的论文并归纳一个大致的速览。首先，我们看看什么是多任务学习，然后我们主要聚焦于基于正则化的多任务学习方法（这也是目前学术界主要的并行对象），并在此基础上讨论如何分布式并行。类似于迁移学习，多任务学习也运用了知识迁移的思想，即在不同任务间泛化知识。但二者的区别在于：迁移学习可能有多个源域；而多任务学习没有源域而只有多个目标域；且迁移学习注重提升目标任务性能，并不关心源任务的性能（知识由源任务→目标任务；而多任务学习旨在提高所有任务的性能(知识在所有任务间相互传递)。 阅读全文