一、背景
1、什么是Ollama
Ollama是一个在本地运行大语言模型（LLM）的开源框架，提供了针对Windows、Linux、MacOS预先封装好的一系列模型，可一键方式在开发者本地（例如笔记本）运行大模型，大大简化了体验和开发的过程。Ollma将不同模型封装到自定义的容器架构内，并针对不同硬件架构做好了适配，可在包括Apple M1处理器在内的多种机型上运行。
Continue reading “使用Ollama在MacOS本机和AWS EC2 G系列机型上运行DeepSeek R1蒸馏模型”