Ollama

Ollama 是一个开源的大型语言模型服务工具，能在本地环境快速部署和运行包括 Llama2、Gemma2 等多种模型，具有多平台支持、轻量灵活、API 丰富、保护数据隐私等特点，为用户提供了简单高效的大模型使用体验。