AWS于2024年10月21日宣布,Amazon Bedrock自定义模型导入功能现已正式推出。该功能允许客户通过单一的统一API,导入并使用他们的定制模型,与现有的基础模型一起操作。
用户现在可以为多种支持的模型架构(如Meta Llama 3.2和Mixtral 8x7B)导入自定义权重,且无需担心模型生命周期和基础设施管理。
通过这一功能,客户可以按需无服务器方式访问其导入的自定义模型,无需管理实例。用户可以将这些导入的模型无缝集成到原生的Bedrock工具和功能中,例如Agents、知识库、保护措施和提示流程等,从而加速生成式AI应用的开发。
Amazon Bedrock自定义模型导入功能目前在美国东部(弗吉尼亚北部)和美国西部(俄勒冈州)的AWS区域中正式上线。客户可以在Amazon Bedrock控制台的自定义模型页面启动模型导入流程。