如何高效调参?

老师,面试被问到如何高效调参?grid search是最慢的,random search会好一点吗?还有其它高效调参的方法吗?

嗯是的, 可以用random search来加速hyper-parameter tuning的过程,它是比较常用的方法。 Bayesian Optimization作为调参策略的思路是介于random search 和 grid search 之间: