Model source

O Xinference suporta o download de vários modelos de diferentes fontes.

HuggingFace

Xinference baixa diretamente por padrão os modelos necessários do repositório oficial de modelos do Hugging Face.

Nota

Se sua rede não conseguir acessar o HuggingFace, você pode especificar um site espelho do HuggingFace por meio de uma variável de ambiente: HF_ENDPOINT=https://hf-mirror.com.

ModelScope

Quando o Xinference detecta que o idioma do sistema está configurado como “Chinês Simplificado”, ele define a fonte de download do modelo como ModelScope.

Você também pode fazer isso definindo manualmente a variável de ambiente XINFERENCE_MODEL_SRC=modelscope.

Por favor, verifique na página de detalhes do modelo se ele suporta download do ModelScope. Se um modelo suportar download do ModelScope, o item “Model Hubs” nas informações do modelo incluirá “ModelScope”.