Seis modelos num só lançamento

O Institute of Foundation Models, o laboratório de Abu Dhabi fundado pela MBZUAI em maio de 2025, publicou o K2 Horizon a 3 de setembro: seis modelos de 0,9, 3,7, 7 e 32 mil milhões de parâmetros em versão densa, mais dois modelos esparsos de mistura de especialistas, um de 36 mil milhões com cerca de 4 mil milhões de parâmetros activos e outro de 375 mil milhões com cerca de 23 mil milhões activos.

O IFM atribui uma função a cada tamanho em vez de os tratar como o mesmo modelo reduzido. O mais pequeno visa hardware de periferia, os intermédios agentes no dispositivo e alojamento local, e o de 375 mil milhões cargas de raciocínio e agentes de maior dimensão. Segundo as fichas dos modelos, têm uma janela de contexto de 524 288 tokens, e o IFM afirma que cada um foi pré-treinado com cerca de 20 biliões de tokens.

Os pesos e o código são Apache 2.0. Os conjuntos de dados mantêm as suas próprias licenças, incluindo ODC-BY quando a redistribuição o permite.

A afirmação que faz a diferença

Muitos laboratórios publicam pesos. O argumento do IFM é que os pesos por si só não são código aberto.

“Código aberto é muito mais do que pesos abertos”, disse Eric Xing, fundador do IFM. “A ciência funciona quando outros conseguem ver os dados, seguir o método, reproduzir o resultado e melhorá-lo.”

Prateleiras de um arquivo de biblioteca aberto cheias de livros
O argumento do IFM é que a reprodutibilidade exige os dados e o método, não apenas os pesos. Mario Spencer · pexels · Pexels License

O lançamento deverá incluir código de treino, configurações, pontos de controlo intermédios, registos detalhados, resultados de avaliação e os próprios dados de treino — substituídos por receitas de construção quando um conjunto não pode ser redistribuído. Hector Liu, que dirige o laboratório do IFM em Silicon Valley, resumiu a escala: “Em vez de lançar um único modelo, estamos a lançar uma frota inteira.”

É um compromisso claramente mais forte do que os lançamentos de pesos abertos a que o sector se habituou, e é a parte que convém verificar em vez de repetir.

O que foi realmente entregue no primeiro dia

A abertura é faseada. Depois de rever as fichas dos modelos, a CellCog relata que os modelos de 3,7 e 7 mil milhões chegaram com o pacote completo — pesos, dados e receitas, código e pontos de controlo intermédios — enquanto o modelo principal de 375 mil milhões e o modelo esparso de 36 mil milhões saíram apenas com os pesos, indicando as respectivas fichas que os pontos de controlo, os dados e o código de treino serão publicados. O de 32 mil milhões surge como ponto de controlo de primeira fase, com uma versão final pendente.

Assim, os modelos que a maioria dos investigadores gostaria de reproduzir são, por agora, aqueles com menos material publicado por trás. Não é uma promessa quebrada, é uma promessa ainda por cumprir, e a diferença só importa se o resto chegar.

O horizonte de Abu Dhabi com torres altas ao anoitecer
O K2 Horizon é o segundo grande programa de modelos abertos anunciado a partir do Golfo na mesma semana. Jennifer · pexels · Pexels License

Desempenho e onde obter

O IFM afirma que os três modelos mais pequenos estabelecem o estado da arte nas respectivas classes de tamanho. Esses números são do próprio laboratório; a avaliação independente ainda não chegou, e nenhuma medição do fornecedor deve ser lida como resultado assente.

Os pesos estão no Hugging Face — a plataforma que a Nvidia acordou comprar por 12,93 mil milhões de dólares na mesma semana — e correm com vLLM, SGLang e Ollama. O acesso por API é oferecido através da Compass, Cerebras, AWS e Nebius.

O que observar a seguir

Duas coisas decidirão se o K2 Horizon é o que diz ser. Primeiro, se os dados e o código de treino dos modelos de 375 e 36 mil milhões são publicados, e em que prazo. Segundo, se avaliações independentes reproduzem as afirmações por classe de tamanho. Até que ambas aconteçam, isto é um lançamento de pesos abertos muito grande com uma promessa de ciência aberta anexada.