GitHub

在使用vllm本地部署时，模型不遵循prompt要求的输出格式 #324

conda create -n autoglm python==3.10 -y conda activate autoglm pip install -r requirements.txt pip install vllm==0.12.0 --force-reinstall --no-cache-dir pip install ...