Cómo Deutsche Bahn redefine el pronóstico utilizando modelos Chronos, ahora disponibles en Amazon Bedrock Marketplace

Esta publicación está coescrita con Kilian Zimmerer y Daniel Ringler de Deutsche Bahn.

Todos los días, Deutsche Bahn (DB) pasa a más de 6.6 millones de pasajeros en Alemania, lo que requiere un pronóstico preciso de series temporales para una amplia grado de propósitos. Sin requisa, la construcción de modelos de pronóstico precisos tradicionalmente requería una experiencia significativa y semanas de tiempo de avance.

Hoy estamos emocionados de explorar cómo el maniquí de la Fundación de la Serie Time Perno de cronosrecientemente valiente en Mercado de roca en Amazon y habitable a través de Amazon Sagemaker Jumpstart, está revolucionando el pronóstico de series temporales al permitir predicciones precisas con un esfuerzo pequeño. Mientras que los métodos de pronóstico tradicionales generalmente se basan en el modelado estadístico, Chronos negociación los datos de series de tiempo como un idioma para modelarse y utiliza un FM priorizado para gestar pronósticos, similar a la forma en que los modelos de idiomas grandes (LLM) generan textos. Chronos lo ayuda a obtener predicciones precisas más rápido, reduciendo significativamente el tiempo de avance en comparación con los métodos tradicionales.

En esta publicación, compartimos cómo Deutsche Bahn está redefiniendo el pronóstico utilizando modelos Chronos, y proporcionamos un caso de uso de ejemplo para demostrar cómo puede comenzar a usar cronos.

Chronos: aprendiendo el idioma de la serie temporal

La grupo de modelos de Chronos representa un pronóstico de avance en las series temporales mediante el uso de arquitecturas de modelos de idiomas. A diferencia de los modelos de pronóstico de series de tiempo tradicionales que requieren capacitación en conjuntos de datos específicos, los cronos se pueden usar para pronosticar de inmediato. El maniquí Chronos diferente se convirtió rápidamente en el maniquí número 1 más descargado en Hugging Face en 2024, lo que demuestra la musculoso demanda de FMS en el pronóstico de series temporales.

Sobre la pulvínulo de este éxito, recientemente lanzamos Perno de cronosque ofrece una viejo precisión de disparo cero en comparación con los modelos Chronos originales. Ofrece las siguientes mejoras:

• Hasta 250 veces más rápido inferencia
• 20 veces mejor eficiencia de memoria
• Soporte de implementación de CPU, lo que hace que los costos de alojamiento sean hasta 10 veces menos costosos

Ahora puedes usar Mercado de roca en Amazon para desplegar Chronos-Bolt. Amazon Bedrock Marketplace es una nueva capacidad en Roca superiora de Amazon Eso permite a los desarrolladores descubrir, probar y usar más de 100 FMS populares, emergentes y especializados adyacente con la selección flagrante de modelos líderes en la industria en Amazon Bedrock.

El desafío

Deutsche bahnNational Railway Company de Alemania, sirve a más de 1,8 mil millones de pasajeros anualmente en transporte de pasajeros ferroviarios de larga distancia y regional, lo que lo convierte en uno de los operadores ferroviarios más grandes del mundo. Durante más de una término, Deutsche Bahn ha estado innovando adyacente con AWS. AWS es el principal proveedor de la cirro de Deutsche Bahn y un socio clave de DB Systel, una subsidiaria de propiedad absoluta de DB AG que impulsa la digitalización en todas las empresas grupales.

Anteriormente, los procesos de pronóstico de Deutsche Bahn eran enormemente heterogéneos en todos los equipos, lo que requería un esfuerzo significativo para cada nuevo caso de uso. Se requieren diferentes fuentes de datos utilizando múltiples métodos de pronóstico especializados, lo que resulta en un esfuerzo manual de costo y tiempo. En toda la empresa, Deutsche Bahn identificó docenas de procesos de pronóstico diferentes e independientes. A los equipos más pequeños les resultó difícil razonar el avance de soluciones de pronóstico personalizadas para sus deposición específicas.

Por ejemplo, la plataforma de investigación de datos para las estaciones de tren de pasajeros de DB Infrago AG integra y analiza diversas fuentes de datos, desde datos meteorológicos e información de mantenimiento de la planta de SAP hasta investigación de video. Dadas las diversas fuentes de datos, un método de pronóstico que fue diseñado para una fuente de datos generalmente no era transferible a las otras fuentes de datos.

Para democratizar las capacidades de pronóstico en toda la estructura, Deutsche Bahn necesitaba un enfoque más capaz y escalable para manejar diversos escenarios de pronóstico. Usando cronos, Deutsche Bahn demuestra cómo la tecnología de vanguardia puede alterar las operaciones de pronóstico a escalera empresarial.

Descripción caudillo de la posibilidad

Un equipo inscrito en el Software Acelerador de Deutsche Bahn SkyDeck, el laboratorio de innovación de DB Systel, desarrolló un sistema de pronóstico FM de la serie temporal utilizando cronos como maniquí subyacente, en asociación con DB Infrago AG. Este sistema ofrece una API interna segura que puede ser utilizada por los equipos de Deutsche Bahn en toda la estructura para pronósticos de series de tiempo eficientes y fáciles de usar, sin la indigencia de desarrollar un software personalizado.

El posterior diagrama muestra una construcción simplificada de cómo Deutsche Bahn usa cronos.

En el flujo de trabajo de la posibilidad, un afortunado puede acontecer los datos de Timeseries a Puerta de entrada de la API de Amazon que sirve como puerta principal segura para llamadas API, manejando la autenticación y la autorización. Para obtener más información sobre cómo restringir el paso a una API solo a los usuarios autorizados, consulte Controlar y cuidar el paso a las API REST en API Gateway. Entonces, un AWS Lambda La función se utiliza como enumeración sin servidor para el procesamiento y la transmisión de solicitudes al maniquí Chronos para inferencia. La forma más rápida de penetrar un maniquí de Chronos es mediante el uso de Amazon Bedrock Marketplace o Sagemaker Jumpstart.

Impacto y planes futuros

Deutsche Bahn probó el servicio en múltiples casos de uso, como predecir los costos reales para proyectos de construcción y pronosticar ingresos mensuales para operadores minoristas en estaciones de pasajeros. La implementación con modelos Chronos reveló resultados convincentes. La posterior tabla muestra los resultados logrados. En el primer caso de uso, podemos observar que en escenarios de disparo cero (lo que significa que el maniquí nunca ha trillado los datos ayer), los modelos de Chronos pueden obtener una precisión superior a los métodos estadísticos establecidos como Autoarima y Autoets, a pesar de que estos métodos estaban específicamente capacitados en los datos. Encima, en los dos casos de uso, el tiempo de inferencia de Chronos es hasta 100 veces más rápido, y cuando se ajustan, los modelos Chronos superan los enfoques tradicionales en los dos escenarios. Para obtener más detalles sobre los cronos ajustados, consulte Pronóstico con Chronos – Autogluon.

El error se mide en SMAPE. Finetuning se detuvo luego de 10,000 pasos.

Según el prototipo exitoso, Deutsche Bahn está desarrollando un servicio de pronóstico de toda la empresa accesible para todas las unidades de negocios de DB, apoyando diferentes escenarios de pronóstico. Es importante destacar que esto democratizará el uso de pronósticos en toda la estructura. Anteriormente, los equipos limitados por bienes ahora están facultados para gestar sus propios pronósticos, y el tiempo de preparación de pronósticos puede reducirse de semanas a horas.

Caso de uso de ejemplo

Pasemos a través de un ejemplo práctico del uso de Chronos-Bolt con Amazon Bedrock Marketplace. Pronoscaremos la utilización de la capacidad de los pasajeros en las estaciones de trenes regionales y alemanas de larga distancia utilizando públicamente datos.

Requisitos previos

Para esto, usará el AWS SDK para Python (Boto3) para interactuar programáticamente con Amazon Bedrock. Como requisitos previos, debes tener las bibliotecas de Python boto3, pandasy matplotlib instalado. Encima, configure una conexión a una cuenta de AWS de modo que Boto3 pueda usar Amazon Bedrock. Para obtener más información sobre cómo configurar Boto3, consulte QuickStart – Boto3. Si estás usando Python internamente de un Notebook de Amazon Sagemakerlos paquetes necesarios ya están instalados.

Pronosticar capacidad de pasajeros

Primero, cargue los datos con la utilización histórica de la capacidad del pasajero. Para este ejemplo, concéntrese en la fase de tren 239:

import pandas as pd

# Load data
df = pd.read_csv(
    "https://mobilithek.info/mdp-api/files/aux/573351169210855424/benchmark_personenauslastung_bahnhoefe_training.csv"
)
df_train_station = df(df("train_station") == 239).reset_index(drop=True)

A continuación, despliegue un punto final en el mercado de roca en Amazon Bedrock que contenga Chronos-Bolt. Este punto final actúa como un servicio alojado, lo que significa que puede percibir solicitudes que contienen datos de series de tiempo y pronósticos de devolución en respuesta.

Amazon Bedrock asumirá un Encargo de identidad y paso de AWS (Iam) rol para aprovisionar el punto final. Modifique el posterior código para hacer remisión a su rol. Para un tutorial sobre la creación de un rol de ejecución, consulte Cómo usar los roles de ejecución de AI de Sagemaker.

import boto3
import time

def describe_endpoint(bedrock_client, endpoint_arn):
    return bedrock_client.get_marketplace_model_endpoint(endpointArn=endpoint_arn)(
        "marketplaceModelEndpoint"
    )

def wait_for_endpoint(bedrock_client, endpoint_arn):
    endpoint = describe_endpoint(bedrock_client, endpoint_arn)
    while endpoint("endpointStatus") in ("Creating", "Updating"):
        print(
            f"Endpoint {endpoint_arn} status is still {endpoint('endpointStatus')}."
            "Waiting 10 seconds before continuing..."
        )
        time.sleep(10)
        endpoint = describe_endpoint(bedrock_client, endpoint_arn)
    print(f"Endpoint status: {endpoint('status')}")

bedrock_client = boto3.client(service_name="bedrock")
region_name = bedrock_client.meta.region_name
executionRole = "arn:aws:iam::account-id:role/ExecutionRole" # Change to your role

# Deploy Endpoint
body = {
        "modelSourceIdentifier": f"arn:aws:sagemaker:{region_name}:aws:hub-content/SageMakerPublicHub/Model/autogluon-forecasting-chronos-bolt-base/2.0.0",
        "endpointConfig": {
            "sageMaker": {
                "initialInstanceCount": 1,
                "instanceType": "ml.m5.xlarge",
                "executionRole": executionRole,
        }
    },
    "endpointName": "brmp-chronos-endpoint",
    "acceptEula": True,
 }
response = bedrock_client.create_marketplace_model_endpoint(**body)
endpoint_arn = response("marketplaceModelEndpoint")("endpointArn")

# Wait until the endpoint is created. This will take a few minutes.
wait_for_endpoint(bedrock_client, endpoint_arn)

Luego, invoque el punto final para hacer un pronóstico. Envíe una carga útil al punto final, que incluye títulos históricos de series temporales y parámetros de configuración, como la distancia de predicción y los niveles de cuantil. El punto final procesa esta entrada y devuelve una respuesta que contiene los títulos previstas basados ​​en los datos proporcionados.

import json

# Query endpoint
bedrock_runtime_client = boto3.client(service_name="bedrock-runtime")
body = json.dumps(
    {
        "inputs": (
            {"target": df_train_station("capacity").values.tolist()},
        ),
        "parameters": {
            "prediction_length": 64,
            "quantile_levels": (0.1, 0.5, 0.9),
        }
    }
)
response = bedrock_runtime_client.invoke_model(modelId=endpoint_arn, body=body)
response_body = json.loads(response("body").read())  

Ahora puede visualizar los pronósticos generados por Chronos-Bolt.

import matplotlib.pyplot as plt

# Plot forecast
forecast_index = range(len(df_train_station), len(df_train_station) + 64)
low = response_body("predictions")(0)("0.1")
median = response_body("predictions")(0)("0.5")
high = response_body("predictions")(0)("0.9")

plt.figure(figsize=(8, 4))
plt.plot(df_train_station("capacity"), color="royalblue", label="historical data")
plt.plot(forecast_index, median, color="tomato", label="median forecast")
plt.fill_between(
    forecast_index,
    low,
    high,
    color="tomato",
    alpha=0.3,
    label="80% prediction interval",
)
plt.legend(loc="upper left")
plt.grid()
plt.show()

La posterior figura muestra la salida.

Como podemos ver en el costado derecho del boceto inicial en rojo, el maniquí puede recolectar el patrón que podemos rebuscar visualmente en la parte izquierda de la trama (en azur). El maniquí Chronos predice una musculoso disminución seguida de dos picos más pequeños. Vale la pena resaltar que el maniquí predijo con éxito este patrón usando inferencia de disparo cero, es asegurar, sin ser entrenado en los datos. Volviendo a la tarea de predicción diferente, podemos interpretar que esta fase de tren en particular está subutilizada los fines de semana.

Fregar

Para evitar incurrir en costos innecesarios, use el posterior código para eliminar el punto final del maniquí:

bedrock_client.delete_marketplace_model_endpoint(endpointArn=endpoint_arn)

# Confirm that endpoint is deleted
time.sleep(5)
try:
    endpoint = describe_endpoint(bedrock_client, endpoint_arn=endpoint_arn)
    print(endpoint("endpointStatus"))
except ClientError as err:
    assert err.response('Error')('Code') =='ResourceNotFoundException'
    print(f"Confirmed that endpoint {endpoint_arn} was deleted")

Conclusión

La grupo de modelos de Chronos, particularmente el nuevo maniquí Chronos-Bolt, representa un avance significativo para hacer que el pronóstico preciso de las series temporales sea accesible. A través de las opciones de implementación simples con Amazon Bedrock Marketplace y Sagemaker Jumpstart, las organizaciones ahora pueden implementar soluciones de pronóstico sofisticadas en horas en ocupación de semanas, al tiempo que logran una precisión de última gestación.

Ya sea que esté pronosticando la demanda minorista, la optimización de las operaciones o la planificación de la asignación de bienes, los modelos Chronos proporcionan una posibilidad poderosa y capaz que puede progresar con sus deposición.

Sobre los autores

Kilian Zimmerer es ingeniero de IA y DevOps en DB Systel GmbH en Berlín. Con su experiencia en el educación mecánico de última gestación y el educación profundo, adyacente con la administración de la infraestructura de DevOps, impulsa proyectos, define su visión técnica y respalda su implementación exitosa internamente de Deutsche Bahn.

Daniel Ringler es ingeniero de software especializado en educación mecánico en DB Systel GmbH en Berlín. Encima de su trabajo profesional, es reformador voluntario de Pydata Berlin, que contribuye a la comunidad lugar de ciencia de datos y de programación de Python.

Pedro Eduardo Mercado López es un verificado perseverante en Amazon Web Services, donde trabaja en el pronóstico de series temporales para la planificación profesional y la planificación de la capacidad con un enfoque en series de tiempo jerárquicas y modelos de cimientos. Recibió un doctorado de la Universidad de Saarland, Alemania, investigando en agrupación fantasmagórico para gráficos firmados y multicapa.

Simeon Brüggenjürgen es un arquitecto de soluciones en Amazon Web Services con sede en Munich, Alemania. Con experiencia en investigación de educación mecánico, Simeon apoyó a Deutsche Bahn en este plan.

John Liu Tiene 15 primaveras de experiencia como ejecutante de productos y 9 primaveras de experiencia como apoderado de cartera. En AWS, John es apoderado principal de productos de Amazon Bedrock. Anteriormente, él era el patrón del producto de AWS Web3 / Blockchain. Antiguamente de AWS, John tenía varios roles de liderazgo de productos en protocolos públicos de blockchain, compañías FinTech y incluso pasó 9 primaveras como apoderado de cartera en varios fondos de cobertura.

Michael Bohlke-Schneider es un apoderado de ciencias aplicadas en Amazon Web Services. En AWS, Michael trabaja en educación mecánico y pronósticos, con un enfoque en modelos de pulvínulo para datos estructurados y automl. Recibió su doctorado de la Universidad Técnica de Berlín, donde trabajó en la predicción de la estructura de proteínas.

Florian Saupe es un apoderado de producto técnico principal en la investigación de AWS AI/ML que apoya a equipos de ciencias como el Reunión de educación mecánico Graph y los equipos de sistemas de ML que trabajan en capacitación distribuida a gran escalera, inferencia y resistor a las fallas. Antiguamente de unirse a AWS, Florian Lead Technical Product Management para la conducción automatizada en Bosch, fue consejero de logística en McKinsey & Company, y trabajó como verificado de sistemas de control y robótica, un campo en el que posee un doctorado.