auto-sklearn采用了贝叶斯优化作为超参数寻优算法。这是比较常见的黑盒优化算法，本章主要介绍这部分的原理

使用背景：

  • f是一个黑盒函数，形式未知，f的梯度 df/dX 未知
  • lf(X) 计算代价非常昂贵（费时、费资源）
  • lf(X) 每次计算出的值是有偏差的