亚马逊云科技宣布,Meta刚刚发布的新一代Llama模型现已在Amazon Bedrock和Amazon SageMaker中提供。客户也可以在基于Amazon Trainium和Amazon Inferentia自研芯片的Amazon Elastic Cloud Compute(Amazon EC2)实例中部署这些模型。Llama 3.1模型是一系列预训练和指令微调的大语言模型(LLMs),支持8B、70B和405B三种尺寸,适用于广泛的使用场景。开发人员、研究人员和企业可以用此模型进行文本摘要和分类、情感分析、语言翻译和代码生成。
Meta表示,Llama 3.1 405B是目前最优秀和最大的开源基础模型(foundation models, FMs)之一,为生成式AI能力设立了新标准。它特别适用于合成数据生成和模型蒸馏,这能在后续训练中提升较小尺寸Llama模型的性能。Llama 3.1 405B还在通用知识、数学、工具使用和多语言翻译方面有出色的表现。
过去十年间,Meta一直致力于为开发人员提供工具,并促进开发人员、研究人员和企业之间的合作共赢。Llama模型提供各种参数尺寸,允许开发人员选择最适合其需求和推理预算的模型。亚马逊云科技上的Llama模型打开了充满无限可能的新世界,开发人员无需再担心扩展性或基础设施管理等问题。亚马逊云科技提供了一种简单的开箱即用的方式来使用Llama。