AI在线服务 UAI-Service

AI 在线服务UAI-Service (UCloud AI online Service)是面向AI在线inference服务的大规模分布式计算平台。可提供海量AI在线服务节点,系统自动完成AI请求的负载均衡,并自动实行节点动态扩容和回收并按实际使用量计费。 UAI- Service完全基于UCloud云生态构建,提供了基于UCloud云平台的高可用性、高安全性和高功能性。UAI- Service可以满足图像识别、自然语言处理等多个AI领域的在线服务需求。

优势

面向AI开发

支持多种主流AI框架(Tensorflow,Keras, MXNet, Caffe),快速AI算法在线服务化。

海量计算资源

十万核级别计算资源池,充分保障计算资源需求。

按需使用、按量付费

按照实际计算资源消耗收费,无需担心资源闲置浪费。

弹性伸缩,快速扩容

随着业务的高峰和低峰,系统自动调整计算资源配比,自动对计算集群进行横向扩展和回缩。

服务高可用

计算节点集群化,提供可用区级别的容灾保障,无需担心单点错误。

用户隔离,安全可靠

多用户存储、网络、计算资源隔离,安全可靠。

简单易用

操作简单上手,并支持可视化业务管理和监控。


使用场景

任何基于Uai-Service支持的深度学习框架编写的人工智能预测程序。如:

  • 视频图像识别
  • 自然语言处理
  • 语音处理

功能

自动化部署工具

提供自动化部署工具,一键从本地部署到UAI-Service集群。

服务管理

支持在线新增、更新、删除、启动、停止、恢复AI服务。

版本管理

支持同一服务多版本部署,灰度切换,流量控制,版本回滚。

日志查询

支持在线查询服务版本发布情况,服务运行情况。

监控报警

支持对服务运行异常状态及时报警。


文档与更新



立刻体验,即可享受30余款产品免费套餐

立即体验