Hexo

Home Archives

2026

Feb 26

llama.cpp：纯 C++ 实现的本地 LLM 推理利器

Categories

AI
News
Open-Sources
Release-Notes

Tags

Tag Cloud

AI AI-models AI-tools API AWQ Agent Apple Silicon AppleSilicon BM25 Bun C++ CLI Cluster模式 Comptime C替代 DSL Developer-Tools Docker EBNF Electron FLUX FLUX.2-klein-9B Function-Calling GGML GGUF GPTQ GPU Gemma Georgi Gerganov GitHub Google Hypervisor Inference InnoDB JavaScript JavaScriptCore Jina KVM LLM LLM推理 Lightweight LoRA Logging MLX MySQL NER NVIDIA Node.js OCR Ollama PM2 Privacy Python Qwen Qwen3 RAG RRF Reranker Rich Runtime Rust SafeTensors SearXNG Sigmoid Softmax TUI Tauri Terminal Textual VLA VMware Vanilla Framework WAL WASM Web框架 Xen Zig assistant black-forest-labs deepseek document-understanding flow-matching font-generation ggml.ai glm image-generation langextract llama.cpp macOS multimodal openclaw pyodide qmd text-to-image webassembly 云计算人工智能信息检索前端开发原生开发向量搜索图像生成多模态多语言大模型存储引擎实体抽取嵌入模型开发工具开源模型开源项目性能优化打包工具技术原理推理加速搜索引擎文本嵌入文本检索早报智能驾驶本地LLM 机器学习架构设计检索排序模型文件格式模型部署模型量化浏览器深度学习混合检索激活函数知识图谱移动端端到端算法系统编程编译时计算自动驾驶虚拟化解析器语法解析负载均衡跨平台开发边缘计算进程管理部署重排序

Archives

February 2026

Recent Posts

Ref2Font: FLUX.2-klein-9B 上下文 LoRA 字体生成工具
FLUX.2-klein-9B: 迈向交互式视觉智能的新纪元
虚拟化技术全解析：KVM、Xen、VMware 架构对比与云厂商选型
llama.cpp：纯 C++ 实现的本地 LLM 推理利器
GGUF：AI 模型文件格式的新标准

© 2026 John Doe
Powered by Hexo

Home Archives