ML - AutoML（自动化机器学习）

1 - AutoML

AutoML（自动化机器学习）是将机器学习应用于现实问题的自动化端到端过程。

  • 安装一个程序库/使用一个web接口
  • 将程序库/接口指向数据
  • 自动在数据上训练模型，无需调整参数/深入了解驱动它的算法

AutoML定义

简单来说就是一种自动化任务的方法：

  • 预处理并清理数据。
  • 选择并构建适当的功能。
  • 选择合适的模型系列。
  • 优化模型超参数。
  • 后处理机器学习模型。
  • 批判性地分析所获得的结果。

AutoML优点

  • 自动化重复的任务，如管道创建和超参数调整等，让数据科学家在实际中可以能够更多地关注业务问题而不是模型
  • 自动化ML管道中的步骤，在只需最少人力的情况下仍保持模型的性能，有助于避免可能因手动引入的错误
  • 不同知识背景的人都能使用机器学习的功能来解决复杂的场景

简而言之，AutoML降低进入机器学习和深度学习的门槛，能够以最小的领域知识或实际数据来应用算法和训练模型，只需很少的努力即可实现最先进的性能。

automl.org

2 - auto-sklearn

auto-sklearn基于sklearn库，具备专业并强大的模型库和数据/特征预处理库。
熟悉sklearn的开发者很容易切换到Auto-Sklearn。
通常被用于回归和分类任务，计算量较少，因此实现成本较低。

auto-sklearn与常规ML framework的对比

常规 ML framework主要的环节包括 ：导入数据---》数据清洗---》特征工程---》分类器--》输出预测值
auto-sklearn增加的部分：

  • 自动学习样本数据：meta-learning，学习样本数据，自动推荐合适的模型。
  • 自动调超参：贝叶斯优化（Bayesian optimizer）
  • 自动模型集成：build-ensemble，模型集成，多个模型组合成一个更强更大的模型，提高预测准确性。

auto-sklearn一些特性

  • 支持设置单次训练时间和总体训练时间，使得工具既能限制训练时间，又能充分利用时间和算力。
  • 支持切分训练/测试集的方式，也支持使用交叉验证。从而减少了训练模型的代码量和程序的复杂程度。
  • 支持加入扩展模型以及扩展预测处理方法。

一些说明：

  • 暂不支持深度学习
  • 耗时较长，计算时长往往一个小时以上
  • 在数据清洗环节，还需要人为参与，目前对非数值型数据不友好

auto-sklearn官网信息

3 - H2O简介

H2O是一个开源分布式内存机器学习平台，核心优势在于其紧密集成的高性能ML组件。

其中开源的产品主要包括:H2O、H2O Sparkling Water、H2O4GPU。
H2O

  • 开源的分布式内存机器学习平台，具有线性可扩展性。
  • 支持最广泛使用的统计和机器学习算法，并且还具有AutoML功能。
  • 核心代码是由Java编写的，REST API允许从外部程序或脚本访问H2O的所有功能。
  • 包括用于R、Python、Scala、Java、JSON和CoffeeScript / JavaScript的接口，以及内置的Web界面。

H2O Sparkling Water

  • Sparkling Water允许用户将快速、可扩展的H2O机器学习算法与Spark的功能相结合。
  • Sparkling Water非常适合需要管理大型集群以满足其数据处理需求并希望将数据从Spark传输到H2O（或反向传输数据）的用户。

H2O4GPU

  • 开源的GPU加速机器学习包，包含Python和R中的API，允许任何人利用GPU构建高级机器学习模型。

官网信息

H2O-3

The H2O open source platform works with R, Python, Scala on Hadoop/Yarn, Spark, or your laptop

H2O

Quick Start

H2O Software Stack

Driverless AI

Automatic Machine Learning for the Enterprise. Driverless AI automates feature engineering, model building, visualization and interpretability.

  • 企业级机器学习框架、开源的预测引擎，提供了一站式自动建模平台DAI（Driverless AI）。
  • 实际上是通过增加一个专有超参数调整和功能工程层 Driverless AI，从而使性能得到提升。
  • 商业程序，价格昂贵，目前提供试用期：（Driverless AI 21-Day Free Trial）。

Driverless AI

4 - 参考信息

posted @ 2019-06-04 00:10  Anliven  阅读(1339)  评论(0)  编辑  收藏  举报