AI服务器

Local Deep Research（LDR）可通过VPS部署，但其核心瓶颈在于LLM模型的推理资源。部署方案取决于硬件配置：拥有NVIDIA GPU的服务器可实现高速推理；纯CPU VPS则需采用llama.cpp的Q4KM量化版本，虽能运行但响应较慢。内存需求随模型规模线性增长，7B模型量化后建议配置至少8GB内存，并预留2GB给系统以避免频繁触发swap导致卡顿。