LLM Application Backend · Backend Engineering

你好 👋

Hi, I'm Xushuo，2026 届北京大学计算机科学与技术本科毕业生，正在寻找工作机会。

求职方向以 LLM 应用后端和通用后端为主。最近主要在做 RAG、模型评测和 Agent 工作流，也在持续学习 CUDA 推理优化。

Selected work

重点项目

本地后端作品集

FastAPI · PostgreSQL/pgvector · Redis · MinIO

将租户、知识库、版本和文档 ACL 下推到检索 SQL；SciFact 离线 dense 评测 Recall@5 0.865，不外推为企业流量。

评测治理

FastAPI · SQLAlchemy · Vue 3 · GitHub Actions

用内容寻址版本保存数据集、Target 与评测器；独立数据库 Worker 支持 lease 恢复，并分别报告质量、成本、延迟与安全指标回归。

工作流可靠性

FastAPI · PostgreSQL · Redis · MCP

由服务端执行 RBAC 与租户策略，高风险操作需要独立审批；以检查点、outbox 和幂等键处理超时、取消与请求重放。

推理性能

C++20 · CUDA · CMake · cuBLAS

实现 CPU FP32、CUDA FP16 与 W8A16 路径；RTX 3080 Laptop 上 Batch 4 为 Batch 1 的 2.996 倍，W8A16 显存降低 40.4% 但吞吐下降 12.5%。