Text Generation
Transformers
Safetensors
step3p5
custom_code

文件不全,如何部署

#4
by cyp25 - opened

请教下这个base模型应该怎么部署推理?文件列表看着也不是很全,缺少tokenizer

如果是vllm的话可以使用dummy tokenizer或者使用step 3.5 flash的tokenizer部署。

Sign up or log in to comment