批量预测

BML在线服务中，同一API服务支持同时部署两个模型上线，并且可以自由的调节流量分配占比， 便于用户在调试之后根据效果选择更合适的模型上线使用。

BML平台的在线服务支持休眠策略，用户可以将闲时设置为休眠时间，从而减少不必要的支出。