本文档介绍如何开发大语言模型应用UI，基于开源的intel bigdl-llm库和gradio。UI跑在windows11 x86 CPU上，实现在PC 16GB内存上运行优化的Native INT4 大语言模型。以三个大语言模型为例，ChatGLM2 (6B)中英，LLaMA2 (13B)英，StarCoder (15.5B)中英。 Chatglm2 ...

本教程欢迎大家随时提交错误修改，译文提升等相关的 PR。提交翻译时，请按照此术语表进行术语翻译。遇到适合加到术语表的，请加到此术语表中（已为大家开放 WIKI 编辑权限），感谢大家的支持。 注意 在进行翻译时，首次出现的词，以及在易混淆处，均需 ...