Pular para o conteúdo principal

Modelos personalizados

Abra Minha conta → Modelos personalizados para adicionar conexões LLM personalizadas que todos os projetos desta equipe podem usar.

Os modelos que você adiciona aqui têm escopo de equipe. Eles aparecem para os agentes em todos os projetos da equipe. Modelos personalizados apenas de projeto continuam sendo configurados no agente; consulte Modelos predefinidos e personalizados.

O endpoint é validado antes de o modelo ser salvo.

Interface de Modelos personalizados

Informação

Somente administradores da equipe podem abrir esta aba e adicionar, editar ou excluir modelos personalizados da equipe.

Estado vazio​

Se a equipe ainda não tiver modelos personalizados, a página mostra Nenhum modelo personalizado ainda e Adicionar modelo personalizado.

Adicionar um modelo personalizado​

  1. Clique em Adicionar modelo personalizado

    A caixa de diálogo Nova conexão é aberta.

  2. Preencha os campos

    Caixa de diálogo Nova conexão

    CampoDescrição
    Nome do modeloIdentificador esperado pela API (por exemplo, gpt-4o)
    Provedor do modeloProvedor na lista suspensa (por exemplo, Open AI)
    Configurar pelo gateway kong?Opcional. Encaminha a conexão pelo gateway Kong.
    Chave de APIChave do provedor. Armazenada com segurança.
    URL da APIEndpoint da API
    Tempo limite (segundos)O padrão é 300. Aumente para modelos de raciocínio de longa duração.
    Ignorar temperatura (criatividade)Alguns modelos mais recentes rejeitam solicitações que enviam um parâmetro de temperatura/criatividade. Ative isto para que a temperatura não seja enviada a este modelo, independentemente do provedor.
    Analisar tags de pensamento (<think>/</think>)Alguns modelos de raciocínio inserem uma cadeia de pensamento como <think>…</think> no conteúdo da mensagem (por exemplo, um proxy LiteLLM com merge_reasoning_content_in_choices ativado). Ative isto para remover essas tags da resposta e mostrar o raciocínio separadamente.
    Máx. de tokens de entradaPadrão 3000
    Máx. de tokens de respostaPadrão 1000
    PensamentoAtiva o pensamento/raciocínio do provedor para este modelo.
    Orçamento de pensamentoOrçamento de tokens para pensamento, quando Pensamento está ativado.
    Incluir pensamentosInclui os pensamentos do modelo na resposta.

    Outros campos específicos do provedor (versão da API do Azure, tempo limite da AWS, cabeçalhos de autenticação personalizados, busca dinâmica de tokens) aparecem quando esse provedor é selecionado.

  3. Criar

    Clique em Criar. O EKB valida o endpoint; em caso de sucesso, o modelo é armazenado para a equipe. Cancelar fecha a caixa de diálogo sem salvar.

Lista de modelos​

Quando existe pelo menos um modelo, a página mostra uma caixa de pesquisa (Pesquisar por nome ou provedor...) e uma tabela:

ColunaDescrição
NomeNome do modelo
ProvedorRótulo do provedor
Máx. de entradaMáximo de tokens de entrada
Máx. de respostaMáximo de tokens de resposta
AçõesEditar ou excluir

Se a pesquisa não corresponder a nada: Nenhum modelo corresponde à sua pesquisa.

Editar ou excluir​

  • Editar reabre o mesmo formulário com os valores atuais.
  • Excluir pede confirmação e depois remove o modelo da equipe.

Modelos de equipe não podem ser editados na lista de modelos personalizados de um projeto. Lá eles aparecem como somente leitura com Gerenciado nas configurações da equipe.

Relacionado​