Meta Llama 3基础模型现已在亚马逊云科技正式可用

北京——2024年4月19日 亚马逊云科技发布，Meta方才宣布的两款Llama 3根底模子Llama 3 8B和Llama 3 70B现已在Amazon SageMaker JumpStart中供应。这两款模子是一系列经由预锻炼和微调的天生文本模子，上下文长度为8k，可以或许支撑普遍的用例，并在推理、代码天生和指令追随等方面有所改良。客户能够在Amazon SageMaker JumpStart中轻松发明、安排Llama 3根底模子，并运转推理。

Llama 3供应两种参数巨细的模子——8B和70B，上下文长度为8k，可以或许支撑普遍的用例。Llama 3使用了仅含解码器的Transformer架构，以及高达128k范围的新型分词器，极大提升了模子的功能。另外，Meta改良的锻炼后处理步伐大幅降低了误拒率，提高了模子呼应的一致性和多样性。

Amazon SageMaker JumpStart供应预锻炼的模子、内置算法和预构建的解决计划，赞助客户倏地开端项目。Amazon SageMaker JumpStart可以或许赞助客户从普遍的地下可用根底模子中举行抉择，并将根底模子安排到公用的SageMaker实例中，这些实例置于网络断绝的环境，并可以应用SageMaker举行模子锻炼和安排。

客户当初能够在Amazon SageMaker Studio中经由过程几回点击或经由过程SageMaker Python SDK编程体式格局发明并安排Llama 3模子，还可以应用SageMaker Pipelines、SageMaker Debugger或容器日记等功能，晋升模子功能并实行MLOps操纵。另外，该体式格局安排的模子一直处在亚马逊云科技的平安环境下，由客户的VPC操纵，以确保数据平安。

Meta Llama 3根底模子现已在Amazon SageMaker Studio的美东(北弗吉尼亚州)、美东(俄亥俄州)、美西(俄勒冈州)、欧洲(爱尔兰)和亚太(东京)地区供应安排和推理办事。