Posts under tag "AI"
使用ollama搭建开源AI编程助手
水中投影,似真似幻
当前,大公司大模型几乎主导了AI行业。作为个人,把所有的数据和隐私全部上交,固然能获得很好的智能体验。不过,开源生态也一如既往的提供了一些丰富的选择,对许多个人和企业来说,用开源工具私有化部署开源模型不失为一种可行的方案。
这篇文章会基于开源的LLM模型(Qwen、Ollama、deepseek等)、开源的模型工具(Ollama)、开源的插件集成(VSCode+Continue插件)方案,搭建一个基础的编程编程助手。重点在于Ollama这个模型工具的用法。
Ollama 是一个开源的大型语言模型(LLM)工具,专注于在本地运行和管理各种 AI 模型。支持许多流行的模型,比如 deepseek-r1、gemma3、qwen3、llama4等。Ollama大大简化了用户下载和运行模型的过程。
同时,Ollama还获得了许多流行的集成工具的支持,比如Open WebUI、dify等等,许多开源工具都可以使用Ollama的接口。