Pular para o conteudo principal

Provedores de LLM

O IaC Code suporta multiplos backends de provedores de modelos. A selecao do provedor pode vir de opcoes do CLI, variaveis de ambiente ou arquivos de configuracao. A precedencia e:

CLI arguments > environment variables > configuration files

Provedores na Nuvem

Valor do provedorFinalidade
DashScopeEndpoint compativel com Alibaba Cloud DashScope (Bailian)
DashScope Token PlanEndpoint Alibaba Cloud DashScope Token Plan
OpenAIModelos OpenAI
AnthropicModelos Anthropic
DeepSeekModelos DeepSeek
GeminiModelos Google Gemini
Azure OpenAIServico Azure OpenAI
ModelScopeEndpoint de inferencia ModelScope

Provedores na China

Valor do provedorFinalidade
Kimi CNEndpoint Kimi (Moonshot AI) na China
MiniMax CNEndpoint MiniMax na China
ZhiPu CNEndpoint ZhiPu AI (GLM) na China
Volcengine CNEndpoint Volcengine (ByteDance) na China
SiliconFlow CNEndpoint SiliconFlow na China

Provedores Internacionais

Valor do provedorFinalidade
Kimi IntlEndpoint internacional Kimi (Moonshot AI)
MiniMax IntlEndpoint internacional MiniMax
ZhiPu IntlEndpoint internacional ZhiPu AI (GLM)
SiliconFlow IntlEndpoint internacional SiliconFlow

Provedores CodingPlan

Valor do provedorFinalidade
Aliyun CodingPlanEndpoint Alibaba Cloud CodingPlan
Aliyun CodingPlan IntlEndpoint internacional Alibaba Cloud CodingPlan
ZhiPu CN CodingPlanEndpoint ZhiPu AI CodingPlan na China
ZhiPu Intl CodingPlanEndpoint internacional ZhiPu AI CodingPlan
Volcengine CodingPlanEndpoint Volcengine CodingPlan

Compativeis / Endpoints Personalizados

Valor do provedorFinalidade
OpenAPI CompatibleQualquer endpoint de API compativel com OpenAI
Anthropic CompatibleQualquer endpoint de API compativel com Anthropic
OpenRouterGateway de agregacao OpenRouter

Provedores Locais

Valor do provedorFinalidade
OllamaServidor de modelo local Ollama
LM StudioServidor de modelo local LM Studio

Variaveis de Ambiente de LLM

VariavelDescricao
IAC_CODE_PROVIDERNome do provedor de modelo (insensivel a maiusculas e minusculas). Consulte as tabelas acima para valores validos
IAC_CODE_MODELNome do modelo
IAC_CODE_BASE_URLEndpoint de API para OpenAPI Compatible e Anthropic Compatible apenas; ignorado para outros provedores
IAC_CODE_API_KEYChave de API do provedor