En esta publicación, te mostraré cómo usar Roca Amazónica—con su API bajo demanda totalmente administrada—con su Amazon SageMaker maniquí entrenado o oportuno.
Amazon Bedrock es un servicio totalmente administrado que ofrece una selección de modelos básicos (FM) de stop rendimiento de empresas líderes en inteligencia industrial como AI21 Labs, Anthropic, Cohere, Meta, Mistral AI, Stability AI y Amazon a través de una única API, inmediato con un amplio conjunto de capacidades para crear aplicaciones de IA generativa con seguridad, privacidad e IA responsable.
Anteriormente, si deseaba utilizar sus propios modelos personalizados y ajustados en Amazon Bedrock, tenía que autoadministrar su infraestructura de inferencia en SageMaker o entrenar los modelos directamente interiormente de Amazon Bedrock, lo que requiere un costoso rendimiento aprovisionado.
Con Importación de modelos personalizados de Amazon Bedrockpuede utilizar modelos nuevos o existentes que hayan sido entrenados o ajustados interiormente de SageMaker usando Inicio rápido de Amazon SageMaker. Puede importar las arquitecturas admitidas a Amazon Bedrock, lo que le permite ingresar a ellas a pedido a través de la API del maniquí de invocación totalmente administrada de Amazon Bedrock.
Descripción universal de la posibilidad
Al momento de escribir este artículo, Amazon Bedrock admite importar modelos personalizados de las siguientes arquitecturas:
- Mistral
- Flan
- Meta Claridad 2 y Claridad 3
Para esta publicación, utilizamos un Abrazando la cara Flan-T5 Saco maniquí.
En las siguientes secciones, le explicaré los pasos para entrenar un maniquí en SageMaker JumpStart e importarlo a Amazon Bedrock. Luego podrás interactuar con tu maniquí personalizado a través de los parques infantiles de Amazon Bedrock.
Requisitos previos
Ayer de comenzar, verifique que tenga una cuenta de AWS con Amazon SageMaker Estudio y paso a Amazon Bedrock.
Si aún no tiene una instancia de SageMaker Studio, consulte Inicie Amazon SageMaker Studio para obtener instrucciones para crear uno.
Entrenar un maniquí en SageMaker JumpStart
Complete los siguientes pasos para entrenar un maniquí de Flan en SageMaker JumpStart:
- Broa la Consola de filial de AWS y vaya a SageMaker Studio.
- En SageMaker Studio, elija Emprender en el panel de navegación.
Con SageMaker JumpStart, los profesionales del estudios espontáneo (ML) pueden designar entre una amplia selección de FM disponibles públicamente utilizando soluciones de estudios espontáneo prediseñadas que se pueden implementar con unos pocos clics.
- Averiguación y elige el Abrazando la cara Flan-T5 Saco
En la página de detalles del maniquí, puede revisar una breve descripción del maniquí, cómo implementarlo, cómo ajustarlo y en qué formato deben estar sus datos de entrenamiento para personalizar el maniquí.
- Nominar Tren para comenzar a ajustar el maniquí en sus datos de entrenamiento.
Cree el trabajo de entrenamiento usando la configuración predeterminada. Los títulos predeterminados completan el trabajo de capacitación con la configuración recomendada.
- El ejemplo de esta publicación utiliza un conjunto de datos de ejemplo previamente completado. Cuando utilice sus propios datos, introduzca su ubicación en el Datos sección, asegurándose de que cumpla con requisitos de formato.
- Configure los ajustes de seguridad como Diligencia de paso e identidad de AWS (IAM) rol, montón privada posible (VPC) y criptográfico.
- Tenga en cuenta el valía de Ubicación del artefacto de salida (URI de S3) para usar más tarde.
- Envíe el trabajo para comenzar a capacitarse.
Puede monitorear su trabajo seleccionando Capacitación en el Empleos menú desplegable. Cuando el estado del trabajo de capacitación se muestra como Terminadoel trabajo ha terminado. Con la configuración predeterminada, el entrenamiento dura unos 10 minutos.
Importar el maniquí a Amazon Bedrock
Una vez que el maniquí haya completado el entrenamiento, puede importarlo a Amazon Bedrock. Complete los siguientes pasos:
- En la consola de Amazon Bedrock, elija Modelos importados bajo Modelos de cimentacion en el panel de navegación.
- Nominar Importar maniquí.
- Para Nombre del maniquíingrese un nombre reconocible para su maniquí.
- Bajo Configuración de importación de maniquíelegir Maniquí de Amazon SageMaker y seleccione el retoño de radiodifusión al flanco de su maniquí.
- Bajo Acercamiento al servicioelegir Crear y utilizar un nuevo rol de servicio e ingrese un nombre para el rol.
- Nominar Importar maniquí.
- La importación del maniquí se completará en unos 15 minutos.
- Bajo Parques infantiles en el panel de navegación, elija Texto.
- Nominar Preferir maniquí.
- Para Categoríadesignar Modelos importados.
- Para Maniquídesignar flan-t5-afinado.
- Para Rendimientodesignar Bajo demanda.
- Nominar Aplicar.
Ahora puede interactuar con su maniquí personalizado. En la ulterior captura de pantalla, utilizamos nuestro maniquí personalizado de ejemplo para resumir una descripción sobre Amazon Bedrock.
Fregar
Complete los siguientes pasos para purificar sus capital:
- Si no vas a seguir usando SageMaker, elimine su dominio SageMaker.
- Si ya no desea prolongar los artefactos de su maniquí, eliminar el depósito de Amazon Simple Storage Service (Amazon S3) donde se almacenan los artefactos de su maniquí.
- Para eliminar su maniquí importado de Amazon Bedrock, en el Modelos importados página en la consola Amazon Bedrock, seleccione su maniquí y luego elija el menú de opciones (tres puntos) y seleccione Borrar.
Conclusión
En esta publicación, exploramos cómo la función Importación de maniquí personalizado en Amazon Bedrock le permite utilizar sus propios modelos personalizados entrenados o ajustados para realizar inferencias rentables y bajo demanda. Al integrar las capacidades de capacitación de modelos de SageMaker con la infraestructura escalable y totalmente administrada de Amazon Bedrock, ahora tiene una guisa perfecta de implementar sus modelos especializados y hacerlos accesibles a través de una API simple.
Ya sea que prefiera la consola SageMaker Studio realizable de usar o la flexibilidad de las computadoras portátiles SageMaker, puede entrenar e importar sus modelos a Amazon Bedrock. Esto le permite centrarse en el explicación de aplicaciones y soluciones innovadoras, sin la carga de administrar una infraestructura de estudios espontáneo compleja.
A medida que las capacidades de los grandes modelos de verbo continúan evolucionando, la capacidad de integrar modelos personalizados en sus aplicaciones se vuelve cada vez más valiosa. Con la función Importación de modelos personalizados de Amazon Bedrock, ahora puede desbloquear todo el potencial de sus modelos especializados y ofrecer experiencias personalizadas a sus clientes, mientras se beneficia de la escalabilidad y la rentabilidad de un servicio totalmente administrado.
Para profundizar en el ajuste fino de SageMaker, consulte Ajuste de instrucciones para FLAN T5 XL con Amazon SageMaker Jumpstart. Para obtener más experiencia actos con Amazon Bedrock, consulte nuestra Construyendo con Amazon Bedrock taller.
Sobre el autor
Jose Sadler es arquitecto de soluciones senior en el equipo del sector notorio mundial de AWS y se especializa en ciberseguridad y estudios espontáneo. Con experiencia en el sector notorio y privado, tiene experiencia en seguridad en la montón, inteligencia industrial, detección de amenazas y respuesta a incidentes. Su experiencia diversa lo ayuda a diseñar soluciones sólidas y seguras que utilizan tecnologías de vanguardia para asegurar sistemas de labor crítica.