Xinference Models Hub#

Adicionado na versão v1.13.0.

Visão geral#

Xinference Models Hub é uma plataforma unificada do Xinference para gerenciamento e colaboração de modelos. Ela oferece suporte de ponta a ponta para navegação, registro, revisão, atualização e manutenção colaborativa de modelos, fornecendo funcionalidades completas tanto para usuários comuns quanto para mantenedores de modelos.

Antes da introdução do Models Hub, os arquivos JSON dos modelos precisavam ser modificados diretamente pelos usuários por meio de PRs no repositório open-source xorbitsai/inference. Esse método resultava em versões de modelos incontroláveis, ciclos de iteração longos, atualizações de modelos dependentes do processo de lançamento do produto, impedindo que os usuários obtivessem os modelos mais recentes em tempo hábil.

Por meio do mecanismo centralizado de gerenciamento de modelos online, o Xinference Models Hub exige que todas as informações do modelo (incluindo metadados, parâmetros e README) sejam editadas na plataforma. O sistema gera e submete automaticamente um PR com base nas modificações do mantenedor do modelo ao repositório xorbitsai/inference, garantindo padronização, automação e rastreabilidade do processo, evitando inconsistências causadas por modificações manuais.

Os usuários podem obter a lista de modelos mais recente a qualquer momento através da funcionalidade Model Update, melhorando significativamente a eficiência de entrega dos modelos e a experiência geral de uso.

Guia do Usuário Comum#

Esta seção apresenta as funcionalidades básicas disponíveis para usuários registrados comuns.

Público-alvo: Usuários comuns sem permissão de registro ou manutenção de modelos.

Funcionalidades principais#

Usuários comuns não precisam fazer login para visualizar modelos públicos.

model#

  • Funcionalidade: Visualizar todos os modelos publicamente disponíveis

  • Posição de entrada: Barra de navegação → “Models”

  • Detalhes do Modelo: Exibe por padrão a aba README, contendo a descrição do modelo, guia de uso e observações importantes.

Nota

Alguns modelos avançados ou empresariais são visíveis apenas para usuários com permissões adequadas.

Guia do Mantenedor de Modelos#

Esta seção apresenta as funcionalidades disponíveis para usuários com permissões de registro ou manutenção de modelos, incluindo os processos de registro, atualização e revisão de modelos.

Público-alvo: Usuários com permissão de registro ou manutenção de modelos.

Funcionalidades principais (requer login)#

Os mantenedores do modelo, além das funcionalidades de usuário comum, podem usar as seguintes capacidades avançadas:

Centro do Usuário#

  • Função: Visualizar e gerenciar informações pessoais.

  • Localização de entrada: Foto do perfil no canto superior direito → “Central do Usuário”

  • Gerenciamento de Conta: Atualizar informações pessoais, e-mail, entre outros.

  • Gerenciamento de Token: Configure um Token pessoal do GitHub para enviar ou atualizar modelos.

Nota

Se nenhum token GitHub pessoal for configurado, o sistema usará o token padrão ao gerar PRs.

Registro de Modelo#

  • Funcionalidade: Registrar novo modelo e submeter para revisão.

  • Localização de entrada: Após o login → Ícone do perfil no canto superior direito → “Registro de Modelo”

Passos de submissão:

  1. Preencha as informações do modelo base (nome, motor, formato, etc.)

  2. Edite o README (clique em “Obter README” para gerar automaticamente um modelo).

  3. Submeter modelo (se for necessário registrar um modelo público, ative o parâmetro “Modelo Público”)

Nota

Ao registrar um modelo público, o sistema criará automaticamente um PR no repositório xorbitsai/inference.

Meu modelo#

  • Função: Visualizar todos os modelos relacionados à conta atual

  • Local de entrada: Após o login → Avatar no canto superior direito → “Meus Modelos”

Model maintenance#

  • Função: Modificar o JSON ou README do modelo

  • Localização de entrada: Página de detalhes do modelo → Ícone “Configurações”

Nota

Ao atualizar o modelo público, o sistema criará automaticamente um PR no repositório xorbitsai/inference.

Processo de revisão#

Fluxo do contribuidor:

  1. Submeter o modelo

  2. Aguardando revisão

  3. Modificar de acordo com as opiniões da revisão.

  4. Para modelos públicos, o PR será atualizado automaticamente após as modificações.

Permissões do Revisor: Acesso à lista de revisão de modelos e capacidade de realizar operações de revisão.

Fluxo do Revisor:

  1. Entre na “Lista de Revisão”

  2. Avaliar a qualidade do modelo, a integridade e a conformidade das informações.

  3. Aprovado ou rejeitado, com feedback correspondente.