Estamos entusiasmados de asociarnos con Meta para divulgar los últimos modelos de la serie Apasionamiento 3 en el Plataforma de inteligencia de datos Databricks. Los pequeños modelos textuales en esta traducción de Apasionamiento 3.2 permiten a los clientes construir sistemas rápidos en tiempo vivo, y los modelos multimodales más grandes marcan la primera vez que los modelos de Apasionamiento obtienen comprensión visual. Entreambos proporcionan componentes esencia para que los clientes de Databricks construyan sistemas compuestos de IA que permiten la inteligencia de datos, conectando estos modelos con sus datos empresariales.
Al igual que con el resto de la serie Apasionamiento, los modelos Apasionamiento 3.2 están disponibles hoy en Databricks Mosaic AI, lo que le permite ajustarlos de forma segura y eficaz en sus datos, y conectarlos fácilmente a sus aplicaciones GenAI con Mosaic AI. Puerta y Situación del agente.
¡Comienzo a usar Apasionamiento 3.2 en Databricks hoy! Implementar el maniquí y usarlo en el Patio de juegos con IA en baldosay utilizar Entrenamiento del maniquí de IA en baldosa para personalizar los modelos en sus datos. Regístrate en esto seminario web para profundizar en Apasionamiento 3.2 de Meta y Databricks.
Este año, Apasionamiento ha acabado un crecimiento 10 veces longevo, lo que respalda aún más nuestra creencia de que los modelos de código rajado impulsan la innovación. Próximo con las soluciones Databricks Mosaic AI, nuestros nuevos modelos Apasionamiento 3.2 ayudarán a las organizaciones a desarrollar inteligencia de datos al trabajar de guisa precisa y segura con los datos patentados de una empresa. Estamos encantados de seguir trabajando con Databricks para ayudar a las empresas a personalizar sus sistemas de inteligencia industrial con sus datos empresariales. – Ahmad Al-Dahle, director de GenAI, Meta
¿Qué hay de nuevo en Apasionamiento 3.2?
La serie Apasionamiento 3.2 incluye modelos más pequeños para casos de uso que requieren una latencia súper desaparecido y modelos multimodales para permitir nuevos casos de uso de comprensión visual.
- Apasionamiento-3.2-1B-Instrucción y Apasionamiento-3.2-3B-Instrucción están diseñados específicamente para casos de uso empresarial de desaparecido latencia y bajo costo. Se destacan en tareas «más simples», como procedencia de entidades, traducción multilingüe, epítome y RAG. Al optimizar sus datos, estos modelos son una alternativa rápida y económica para tareas específicas relevantes para su negocio.
- Apasionamiento-3.2-11B-Visión-Instrucción y Apasionamiento-3.2-90B-Vision-Instruct Permita a las empresas utilizar la potente y abierta serie Apasionamiento para tareas de comprensión visual, como el disección de documentos y la coexistentes de descripciones de productos.
- Los modelos multimodales asimismo vienen con un nuevo maniquí de seguridad Apasionamiento guard, Apasionamiento-Guarnición-3-11B-Visiónpermitiendo el despliegue responsable de aplicaciones multimodales.
- Todos los modelos admiten la largura de contexto ampliada de 128k de la serie Apasionamiento 3.1, para manejar documentos muy largos. El contexto derrochador simplifica y prosperidad la calidad de RAG y las aplicaciones agentes al resumir la dependencia de la fragmentación y la recuperación.
Por otra parte, Meta está lanzando el Pila de llamasuna capa de software para suministrar la creación de aplicaciones. Databricks calma integrar sus API en Apasionamiento Stack.
Más rápido y más asequible
Los nuevos modelos pequeños de la serie Apasionamiento 3.2 brindan una excelente nueva opción para casos de uso sensibles a la latencia y los costos. Hay muchos casos de uso de IA generativa que no requieren toda la potencia de un maniquí de IA de propósito universal y, conexo con la inteligencia de datos de sus datos, los modelos más pequeños y específicos de tareas pueden brindar nuevos casos de uso que requieren desaparecido latencia o costo. como finalización de código, epítome en tiempo vivo y procedencia de entidades de gran convexidad. Accesible en Catálogo de mecanismopuede permutar fácilmente los nuevos modelos en sus aplicaciones creadas en Databricks. Para mejorar la calidad de los modelos en su tarea específica, puede utilizar un maniquí más potente, como Meta Apasionamiento 3.1 405B, para gestar datos de entrenamiento sintéticos a partir de un pequeño conjunto de ejemplos iniciales y luego utilice los datos de entrenamiento sintéticos para ajustar Apasionamiento 3.2 1B o 3B para conseguir reincorporación calidad y desaparecido latencia en sus datos. Se puede obtener a todo esto en una experiencia unificada en Databricks Mosaic AI.
Ajustar Apasionamiento 3.2 en sus datos en Databricks es solo un comando simple:
# First install the databricks genai package
# pip install databricks-genai --upgrade
from databricks.model_training import foundation_model as fm
finetuning_run = fm.create(
# model to fine-tune
model='meta-llama/Apasionamiento-3.2-1B-Instruct',
# where to register your finetuned model for deployment
train_data_path='' ,
# spark cluster to prepare your UC table for training
data_prep_cluster_id='' ,
# table containing your finetuning data
register_to='catalog.schema.table'
)Vea la capacitación sobre el maniquí Mosaic AI documentos para más información y tutoriales!
Nuevos modelos multimodales abiertos
La serie Apasionamiento 3.2 incluye modelos multimodales abiertos y potentes que permiten entrada tanto visual como textual. Los modelos multimodales abren muchos casos de uso nuevos para la inteligencia de datos empresariales. En el procesamiento de documentos, se pueden utilizar para analizar documentos escaneados conexo con entradas de texto para proporcionar un disección más completo y preciso. En el comercio electrónico, permiten la búsqueda visual donde los usuarios pueden cargar una foto de un producto para encontrar artículos similares según las descripciones generadas. Para los equipos de marketing, estos modelos simplifican tareas como gestar subtítulos de redes sociales basados en imágenes. Estamos entusiasmados de ofrecer el uso de estos modelos. en ladrillos de datos¡Y estad atentos para más información sobre este frente!
Aquí hay un ejemplo de cómo pedirle a Apasionamiento 3.2 que analice una tabla en representación JSON:
Imagen (Tabla 2 de la papel balsa):
Mensaje: analice la tabla en una representación JSON.
Producción:
> Assistant: **Step 1: Identify the methods and datasets in the table.**
The methods are RAFT w.o CoT and RAFT. The datasets are PubMed, HotpotQA,
HuggingFace, Torch Hub, and TensorFlow.
**Step 2: Create a JSON object with the methods as keys.**
```json
{
"RAFT w.o CoT": {},
"RAFT": {}
}
```
**Step 3: Add the datasets as subkeys under each method.**
```json
{
"RAFT w.o CoT": {
"PubMed": 68.30,
"HotpotQA": 25.62,
"HuggingFace": 59.07,
"Torch Hub": 86.56,
"TensorFlow": 83.21
},
"RAFT": {
"PubMed": 73.30,
"HotpotQA": 35.28,
"HuggingFace": 74.00,
"Torch Hub": 84.95,
"TensorFlow": 86.86
}
}
```
**Step 4: The final JSON representation of the table is:**
```json
{
"RAFT w.o CoT": {
"PubMed": 68.30,
"HotpotQA": 25.62,
"HuggingFace": 59.07,
"Torch Hub": 86.56,
"TensorFlow": 83.21
},
"RAFT": {
"PubMed": 73.30,
"HotpotQA": 35.28,
"HuggingFace": 74.00,
"Torch Hub": 84.95,
"TensorFlow": 86.86
}
}
```Los clientes innovan con Databricks y modelos abiertos
Muchos clientes de Databricks ya están aprovechando los modelos Apasionamiento 3 para impulsar sus iniciativas GenAI. Todos estamos ansiosos por ver qué harán con Apasionamiento 3.2.
- «Las capacidades de administración de modelos escalables de Databricks nos permiten integrar sin problemas LLM avanzados de código rajado como Meta Apasionamiento en nuestro motor de productividad, lo que nos permite aguantar nuevas tecnologías de IA a nuestros clientes rápidamente». – Bryan McCann, cofundador/director de tecnología, You.com
- «Databricks Mosaic AI nos permite ofrecer servicios mejorados a nuestros clientes que demuestran la poderosa relación entre la IA vanguardia y la administración de datos eficaz, al tiempo que nos facilita la integración de tecnologías GenAI de vanguardia como Meta Apasionamiento que preparan nuestros servicios para el futuro». Colin Wenngatz, vicepresidente, disección de datos, MNP
- “La plataforma Databricks Data Intelligence nos permite implementar de forma segura modelos de IA de última coexistentes como Meta Apasionamiento en el interior de nuestro propio entorno sin exponer datos confidenciales. Este nivel de control es esencial para proseguir la privacidad de los datos y cumplir con los estándares de atención médica.» – Navdeep Alam, director de tecnología de Abacus Insights
- «Gracias a Databricks Mosaic AI, podemos organizar una optimización rápida y un ajuste fino de las instrucciones para LLM de código rajado como Meta Apasionamiento que ingieren lengua específico de dominio de un corpus propietario, mejorando el rendimiento del disección de simulación de comportamiento y aumentando nuestra eficiencia operativa. » – Chris Coughlin, apoderado senior, diseño y exposición de contenido de evaluación en Development Dimensions International
Ingreso a Apasionamiento 3.2 en Databricks Mosaic AI
Sigue el instrucciones de implementación para probar Apasionamiento 3.2 directamente desde tu espacio de trabajo. Para obtener más información, consulte los siguientes posibles:
Asiste a la sucesivo Seminario web sobre Databricks GenAI el 8/10/24: El cambio alrededor de la inteligencia de datos, donde Ash Jhaveri, vicepresidente de Meta, discutirá la IA de código rajado y el futuro de los modelos Meta Apasionamiento.