A Mistral anunciou hoje o lançamento do Timestral, sua primeira família de modelos fundamentais para séries temporais. O modelo mais robusto, com apenas 209 milhões de parâmetros, se destacou como líder nos principais benchmarks públicos da área, como GIFT-Eval, TIME e fev-bench, superando modelos anteriores com apenas dois terços de seus parâmetros.

Timestral se destaca por oferecer previsões probabilísticas e multivariadas, além de suportar covariáveis conhecidas do passado e do futuro. A família de modelos foi otimizada em quatro tamanhos diferentes: 5M, 28M, 123M e 209M parâmetros, onde cada um equilibra precisão e eficiência. Os modelos menores são mais rápidos e econômicos, enquanto os maiores melhoram o desempenho das previsões. Todos compartilham a mesma arquitetura e receita de treinamento, posicionando-se na fronteira de Pareto da precisão em relação ao tamanho do modelo.

"Timestral é uma inovação no campo das previsões, combinando pré-treinamento sintético e atenção consciente de covariáveis, permitindo previsões mesmo em domínios com dados escassos", disse um porta-voz da Mistral. O modelo é capaz de realizar previsões em zero-shot, o que significa que ele pode prever dados que nunca viu antes, transferindo padrões aprendidos entre séries diferentes.

A importância das séries temporais nas empresas não pode ser subestimada, abrangendo desde telemetria de sensores até métricas de observabilidade. As previsões geradas a partir desses dados são vitais para decisões em planejamento de capacidade, cadeias de suprimento e gerenciamento de riscos.

A Mistral revelou que o Timestral foi otimizado para operar eficientemente em CPUs, sem a necessidade de GPUs durante a inferência. Em testes, a previsão de um dia à frente a partir de três semanas de dados de 15 minutos levou apenas 10 ms com o modelo de 5M, e 140 ms com o modelo de 209M. Isso demonstra a agilidade do modelo, sendo o de 28M cinco vezes mais rápido que o de 209M, com uma precisão muito próxima.

Um dos exemplos industriais que ilustram a aplicação do Timestral é uma planta com milhares de sensores. O modelo pode melhorar as previsões ao modelar séries relacionadas conjuntamente e ao prever um conjunto completo de quantis, permitindo que as equipes visualizem a incerteza e estabeleçam limites de alerta mais eficazes. Além disso, o modelo é capaz de lidar com covariáveis categóricas e conhecidas, como cronogramas de produção e previsões meteorológicas, melhorando a qualidade das previsões.

O Timestral também se destaca por sua capacidade de adaptação. Embora os benchmarks públicos avaliem o desempenho geral, os dados de produção podem variar significativamente. Com a Mistral Forge, as empresas têm a oportunidade de ajustar o modelo a dados específicos de seu domínio e continuar o treinamento conforme as distribuições mudam.

Para aqueles que desejam explorar o Timestral em seus próprios dados, a Mistral lançou um repositório no GitHub e um relatório técnico com resultados completos está previsto para ser publicado em breve. A empresa convida interessados a entrar em contato para colaborações em pesquisa ou para resolver problemas de previsão mais especializados.