Modelos abertos, fine-tuning e Model-as-a-Service

Nem todo problema precisa do modelo mais caro. Alguns precisam do modelo que roda onde os dados estão.

Falar sobre modelos abertos e MaaS Todos os serviços

O que fazemos

Selecionamos, ajustamos e servimos modelos abertos (DeepSeek, Qwen, Llama, Mistral, Gemma) quando custo, latência, soberania de dados ou especialização pedem. Com Huawei Cloud ModelArts Studio (MaaS), Amazon Bedrock e SageMaker JumpStart, o catálogo Foundry Models da Microsoft, o Model Garden do Google Cloud ou infraestrutura própria.

Faz sentido quando

Volume alto de chamadas em que o custo por token define a viabilidade.
Dados que não podem sair do país ou de um ambiente controlado.
Uma tarefa específica em que um modelo menor e ajustado vence o modelo geral.

O que entregamos.

Seleção e benchmark de modelos
Comparação objetiva de modelos proprietários e abertos no seu caso, com dados seus e métricas que importam.
Fine-tuning e destilação
LoRA e QLoRA, ajuste supervisionado e preferências, para modelos menores que fazem bem a sua tarefa.
Model-as-a-Service na Huawei Cloud
DeepSeek, Qwen e outros modelos servidos no ModelArts Studio, com Ascend, para custo e residência de dados sob controle.
Serving otimizado
vLLM, TensorRT-LLM e ONNX Runtime com autoscaling, na nuvem que você escolher ou no seu data center.
Roteamento entre modelos
O modelo certo para cada chamada: aberto para o volume, proprietário para o raciocínio difícil, com fallback.

Com o que construímos.

As plataformas e ferramentas que usamos nesta frente. A escolha final é sempre do caso de uso.

Huawei Cloud ModelArts Studio (MaaS)
Huawei Ascend
Foundry Models (Microsoft)
Model Garden (Google Cloud)
Amazon Bedrock
SageMaker JumpStart
AWS Trainium e Inferentia
DeepSeek
Qwen
Llama
Mistral
Gemma
Hugging Face
vLLM
LoRA e QLoRA

Ver os ecossistemas com que trabalhamos

Perguntas frequentes.

Quando vale a pena usar um modelo de IA aberto em vez de um proprietário?

Quando o volume de chamadas torna o custo por token decisivo, quando os dados não podem sair de um ambiente controlado ou do país, ou quando um modelo menor e ajustado resolve melhor uma tarefa específica. Comparamos as opções com os seus dados antes de decidir.

O que é o Model-as-a-Service (MaaS) da Huawei Cloud?

É o serviço do ModelArts Studio que oferece modelos abertos como DeepSeek e Qwen prontos para uso por API, com ajuste fino e implantação dedicada em infraestrutura com chips Ascend, para custo previsível e opções de residência de dados.

Vocês fazem fine-tuning de modelos de linguagem?

Sim: LoRA, QLoRA, ajuste supervisionado e destilação, para que um modelo menor faça bem a sua tarefa, sempre com avaliação comparativa contra o modelo geral.

Onde os modelos abertos podem rodar?

Na Huawei Cloud (ModelArts Studio), na AWS (Amazon Bedrock e SageMaker), no catálogo Foundry Models da Microsoft, no Model Garden do Google Cloud ou no seu data center, com serving otimizado por vLLM, TensorRT-LLM ou ONNX Runtime.