什么是 SGLang:给 LLM 程序一台「会复用前缀」的高速运行时
SGLang 概念全解析:Structured Generation Language 的前端 DSL 与 RadixAttention 运行时、为什么多轮/Agent/RAG 特别吃树状 KV 缓存、和 vLLM 怎么选、DeepSeek 为何推荐它,以及一行命令拉起 OpenAI 兼容服务。
个人博客:技术、产品与 AI 相关的实践与思考。
SGLang 概念全解析:Structured Generation Language 的前端 DSL 与 RadixAttention 运行时、为什么多轮/Agent/RAG 特别吃树状 KV 缓存、和 vLLM 怎么选、DeepSeek 为何推荐它,以及一行命令拉起 OpenAI 兼容服务。
深读北大 + DeepSeek《时空可组合性编程范式》:动态组合缺的不是插件机制,而是可证明的插拔。可逆效应让卸载变成结构保证,响应式余效应让依赖跟着运行时醒停,汇合定理保证热插拔停下来长得像从零装好——Cordis / Koishi / DeepSeek Harness 共用的那层地基。
DeepSeek 官方开源的 agent harness(dsh)全解析:Model + Harness = Agent 公式、Cordis 驱动的「一切皆插件」架构、Profile 与 Agent Preset 两层组合系统、先记录意图再执行副作用的 Agent Loop、「模型可见即已记录」的硬规则与压缩不删历史的上下文管理,以及四个预设、两条运行命令和开发者预览的现状。
Chris Lattner 打造的 AI 时代系统级语言。从 mojolang.org 官网看 Mojo 全貌:统一/高效产出/简单高性能的设计理念,编译期元编程、内存安全与所有权、内置 GPU 编程、Python 互操作四大核心特性,以及 1.0 稳定版与新官网上线意味着什么。
Tesseract / PaddleOCR / Surya / EasyOCR / RapidOCR / Google Document AI / AWS Textract / Azure Document Intelligence / 百度云 / 视觉大模型,10 个方案的定位、强弱与选型建议——以及「识别」正在被「理解」取代的趋势。
RAG(检索增强生成)概念全解析:大模型的三个死穴、切块/向量化/检索/生成四大步骤、RAG-Fusion/重排序/GraphRAG/Agentic RAG 变体,以及检索比生成更值得优化的那些坑。
Agent Skills 全解析:一个技能就是一个含 SKILL.md 的文件夹、三阶段渐进式加载(发现→激活→执行)、name/description 等字段约束与命名规范、以及 Claude Code/ChatGPT/Codex/Cursor 等几十个工具共同采纳的生态图景。
Anthropic 推出的开源标准 MCP 全解析:Host/Client/Server 三方架构、Tools/Resources/Prompts 三大原语、JSON-RPC 无状态数据层、从发现到执行到通知的完整交互,以及它和 LangGraph / create_agent 在 Agent 生态里的分工。
LangChain 三层架构最顶层:create_deep_agent 用法、内置虚拟文件系统(读写/沙箱/声明式权限)、上下文管理(Skills/记忆/自动摘要/缓存)、任务规划与子代理、human-in-the-loop,以及和 create_agent、LangGraph 的取舍。
LangChain 官方 overview 全解析:Agent = Model + Harness 公式、十行代码建 Agent(工具就是普通函数)、一个接口换遍 OpenAI/Gemini/Claude/本地模型、中间件增量加能力,以及 Deep Agents / LangChain / LangGraph 三层架构。
LangChain 官方低层编排框架全解析:State / Node / Edge 三概念、确定性步骤与 agentic 步骤的混搭、checkpointer 持久化、human-in-the-loop 人工接管,以及它在 LangChain 三层架构(Deep Agents → LangChain → LangGraph)里的位置。
把前两篇合起来问一个问题:一个人用 AI 团队的打法去做 FDE 生意,有没有搞头?用 FDE 书的三级杠杆、按结果收费与职业道德框架,拆出三盆冷水与三条活路——结论:别复刻一家公司,做链条上最值钱的那一环。
从「一个人干一份活」到「一个人开一家公司」:TinyAGI、agency-orchestrator、one-person-company 工具大全等爆火项目全梳理,以及老板/产品工程/运营销售/财务法务四角色的实操框架——AI 时代最值钱的岗位是「老板」。
企业 AI 项目 95% 阵亡,岗位需求却一年涨七倍。前沿部署工程师(FDE)是什么、需要什么能力、如何沿着「找对问题→赢得客户→激活部署→守住续约→扩大收入→规模化复制」的完整旅程落地——借范冰《FDE 从零入门指南》全解析。
10.2 万 star 的中文圈爆款:输入主题或关键词,自动生成脚本、匹配素材、配音、加字幕、合成 1080p 高清短视频——把做视频从创作变成流水线。对做多平台内容的你尤其值得一试。
10.4 万 star、YC S26 出品。用 tree-sitter AST 把代码、文档、PDF 解析成可查询的知识图谱:确定性、本地免费、无向量库,每条连接都标注 EXTRACTED/INFERRED——给 AI 代理一张代码库地图。
11.4 万 star 的设计技能:84 种 UI 风格、192 套行业配色、74 组字体搭配、161 条行业推理规则,几秒钟为你的需求生成一套完整设计系统——顺便治好「一眼 AI」的紫粉渐变病。
12.7 万 star、作者是 YC 总裁 Garry Tan。23 个角色化工具把 Claude Code 变成 CEO、设计、工程、QA、发布、安全组成的完整团队,配合 10-15 并行 sprint,一个人也能开一家软件公司。
20 万 star 的极简项目:不堆技能,只用一份 65 行的 CLAUDE.md 把 Karpathy 对 LLM 编码陷阱的观察浓缩成四条准则——先想再做、简单优先、外科手术式改动、目标驱动执行。
20.9 万 star、作者是 TypeScript 大神 Matt Pocock。小而可组合的 25 个技能,从 /grill-me 拷问、CONTEXT.md 共享语言到讲透反模式的 TDD——以及它和 Superpowers、ECC 三条路线的选择指南。
23.8 万 star 的 ECC 全解析:从 67 个 Agent、284 个技能到记忆保险库、持续学习与 AgentShield 安全扫描——以及它和 Superpowers 各自代表的「纪律派」与「体系派」两条路。
26 万 star 的现象级项目 Superpowers 全解析:一套把工程纪律灌输给编码代理的完整方法论——技能库、强制工作流、子代理驱动开发,以及为什么 TDD 在这里是规矩而不是建议。
Agentic AI 课程笔记:Reflection 反思、Tool Use 工具、Planning 规划、Multi-Agent 多智能体四大设计模式,以及评估调优与先原理后框架的方法论。
Karpathy 3.5 小时「LLM 完全解剖」笔记:预训练数据与 Tokenization、base model 与 post-training、幻觉与工具使用、锯齿状智能、SFT/RL/RLHF 与 DeepSeek-R1。
CS230(2025 秋)第 8 讲完整笔记:base model 的六类限制、Prompt / Fine-tuning / RAG 三件套、Agentic Workflow、评估体系与 Multi-Agent,附课堂真实案例。
把斯坦福 CS230《Beyond LLM》浓缩成一张 AI Builder 技术地图:base model 的限制、三大增强工具、Agentic Workflow 与 Multi-Agent。