北京灵奥科技打造大模型中间件

2024年06月27日

北京灵奥科技基于亚马逊云科技的生成式AI、数据库和容器等云服务,打造大模型中间件,将基础模型优势和企业业务数据无缝结合,打通企业AI应用落地的最后一公里。灵奥科技现已服务全球超过30,000家用户,广泛覆盖电商、金融、法律、房地产、教育和能源等行业。

Vanus大模型中间件平台基于亚马逊云科技而构建,应用亚马逊云科技在计算、网络、存储、数据库和生成式AI等方面服务,实现了多个方面的好处。利用托管容器服务Amazon Elastic Kubernetes Service(Amazon EKS)的弹性扩展能力,Vanus可根据业务流量平滑伸缩,助力企业轻松应对流量洪峰,平均成本降低30%,性价比提高20%;在提高可用性和可靠性方面,利用亚马逊云科技全托管文档数据库服务Amazon DocumentDB多可用区、多副本的特性,Vanus可轻松实现数据跨区存储,实现无感灾难恢复,可用性达到99.99%;在降低延时方面,Vanus借助对象存储服务Amazon Simple Storage Service(Amazon S3)及数据库的高并发数据查询能力,结合亚马逊云科技全球网络节点加速能力,缩短基础模型上下文加载时间,将AI Agent回复系统延时降低40%;此外,Vanus借助全托管的生成式AI服务Amazon Bedrock提供的Claude系列模型,提升AI Agent的语言理解和逻辑推理能力,打造更加智能的服务体验。目前,Vanus大模型中间件已在电商、金融、法律、房地产、教育等多个行业的业务场景中得到广泛应用。


中国日报网版权说明:凡注明来源为“中国日报网:XXX(署名)”,除与中国日报网签署内容授权协议的网站外,其他任何网站或单位未经允许禁止转载、使用,违者必究。如需使用,请与010-84883777联系;凡本网注明“来源:XXX(非中国日报网)”的作品,均转载自其它媒体,目的在于传播更多信息,其他媒体如需转载,请与稿件来源方联系,如产生任何问题与本网无关。
版权保护:本网登载的内容(包括文字、图片、多媒体资讯等)版权属中国日报网(中报国际文化传媒(北京)有限公司)独家所有使用。 未经中国日报网事先协议授权,禁止转载使用。给中国日报网提意见:cdoffice@chinadaily.com.cn
中文 | English