编者按:本文来自微信公众号“机械鸡”(ID:jixieji2017)。
Google的计算机科学家创建了一个AI来烘焙美味的饼干。这个领先的机器学习算法,被称为Google Vizier。为了测试它,研究人员参考了一种常规的指标:食堂的饼干标准。
这个算法非常强大,但它们还不完全成熟,需要通过有效的方式,手动进行微调。
算法需要详细设置“超参数”:预先设定的适应于手头问题的参数。这不容易,因为机器学习算法是“黑匣子”:即使你已经做到了,你也不能完全确定算法如何获得最佳的结果。一个常见的调整方法为 “梯度下降”:基本上,你需要通过梯度下降优化参数,让算法运行。
Google Vizier通过自动优化机器学习模型的超参数,缩短了繁琐的手动任务。据Google研究人员介绍,该算法已经在整个公司内使用。
他们在本周发布的一篇论文(文末链接)中写道,“ Google研究人员”使用Vizier执行超参数调优研究,并进行了数百万次试验研究...如果没有有效的黑盒优化,该研究项目是不可能的”。
Google Vizier中使用的另一项技术是“迁移学习”,主要是从经验中学习。使用先前研究的数据作为指导,Vizier算法可以为新算法提出最佳超参数。该方法进行了大量研究被证明是最有效的,即使当数据相对较少时也运行良好。
除了帮助研究之外,Google Vizier还在公司内部应用,研究人员表示:“这个算法对许多Google产品的开发模式表现出显著的改进,为十多亿人提供了可观的更好的用户体验”。
这些改进包括对Google网站功能的自动化A / B测试,包括字体、颜色和搜索结果的优化。例如,使用Google地图时,算法可用于优化特定搜索的相关性与用户距离之间的权衡。
Google Vizier也可以用于解决凌乱的物理世界中的黑盒优化问题。
为了测试他们的算法,研究人员向在Google食堂制作饼干的承包商提供了饼干食谱。他们对结果进行了口味测试,并追踪了厨师为提高口味所做的任何改变。食谱是另一种算法,具有类似的黑盒子属性(因为你根本不知道为什么你的烤饼出错了)。
这项测试允许研究人员尝试迁移学习的方法:他们写道:“在开始大规模烘烤之前,我们在较小规模的过程中制作了一些烘焙食谱。” “这提供了有用的数据,我们可以从烘焙中大规模迁移学习。
然而偶尔也会略有错误——例如,当醒面时间过久时。研究人员说,经过几轮测试之后,饼干更好吃了。
面包、寿司、馅饼纷纷表示,想要被这个算法烘焙...