Portfolio
项目
当前项目以 LLM 应用后端为主,覆盖 RAG 检索、评测治理和可靠的 Agent 工作流;CUDA 推理引擎作为系统能力补充。文中的数据均保留其公开数据集、本地硬件或自动化测试边界,源码可从项目标题后的链接直接核验。
核心项目
多租户 RAG 知识库后端
FastAPI · PostgreSQL/pgvector · Redis · MinIO
把租户、角色和文档 ACL 条件下推到全文与向量检索 SQL,避免召回后再过滤。索引任务支持版本更新、幂等重试和进程中断恢复。
FastEmbed BGE 在公开 SciFact 数据集(5,183 篇文档、188 条标注查询)上取得 Recall@5 0.865;本地 5 万 chunk、20 并发检索客户端 p95 144ms。跨租户隔离测试通过。
LLM 评测与 Prompt 回归平台
FastAPI · SQLAlchemy · Vue 3 · GitHub Actions
将数据集、Prompt、模型参数和评测器保存为不可变版本,每条结果可回溯到完整输入。任务中断后仅重跑未完成样本,减少重复的模型服务调用。
质量、成本、延迟和权限回归分别判定;服务调用失败或超时单独归入基础设施问题,避免污染质量结论。GitHub Actions 每晚运行回归并保存报告,前端用于比较基线和候选配置。
安全业务工作流 Agent
FastAPI · PostgreSQL · Redis · MCP
模型只提交固定结构的操作提案,真正的 RBAC 与租户策略由服务端执行;退款等高风险操作持久化后等待独立审批人确认。
使用持久化检查点、outbox 和幂等键处理超时、取消与请求重放。公开静态演示用于展示审批、提示注入和重复请求下的状态变化,不代表在线后端或生产部署。
TinyLlama CUDA 推理引擎
C++20 · CUDA · CMake · cuBLAS
完成 TinyLlama-1.1B CPU FP32 参考路径、CUDA FP16 和 Hybrid W8A16,覆盖 tokenizer、KV Cache、RMSNorm、RoPE、采样器与批处理推理。
在 RTX 3080 Laptop 的本地 benchmark 中,Batch 4 吞吐为 Batch 1 的 2.905 倍,W8A16 峰值显存较 FP16 降低 40.4%。
其他项目
go-raft-kv 分布式 KV 服务
Go · Raft · gRPC · WAL · Docker
3 节点 Raft KV 服务,覆盖选主、日志复制、leader-only writes、线性一致读、WAL、快照和节点恢复;配套 CLI、Docker Compose 与故障转移测试。
TensorSysY 张量编译器
C++ · Flex/Bison · HIR/LIR · CUDA · CMake
在 SysY 编译器基础上扩展 first-class tensor 类型与内建算子,打通 AST、HIR、LIR、C++/CUDA codegen 和 runtime adapter。实现 shape/type verifier、const-fold、DCE、layout lowering、CUDA scheduling 与 LIR interpreter。
订单库存管理系统
FastAPI · PostgreSQL · Redis · Celery · C++ gRPC · Docker
以 PostgreSQL 行锁和唯一幂等键处理并发下单,取消流程使用 Saga 补偿;Transactional Outbox、去重表、退避重试和 DLQ 用于可靠传递。
mini-redis-rs 缓存服务器
Rust · Tokio · RESP2 · TTL · AOF
从零实现 Redis 兼容缓存服务,支持 RESP2 流式解析、String/List/Hash/TTL/PubSub/INFO/BGREWRITEAOF。AOF 支持三种 fsync 策略,后台重写使用一致性快照、rewrite buffer 和 atomic rename。
toydb SQL 数据库引擎
Rust · SQL · WAL · Index · REPL
实现手写 lexer/parser、SQL AST、执行器和 REPL;存储层包含 8 KiB slotted page、pager cache、WAL replay、snapshot-style transaction 与 equality IndexScan。
nanograd 深度学习框架
Python · NumPy · Autograd · Neural Networks
纯 Python/NumPy 深度学习框架,包含动态 autograd、Tensor ops、Conv2d、循环网络、Attention、ViT、UNet、ResNet,以及训练器、gradcheck 和 checkpoint。
多智能体 RAG 问答系统
Python · CrewAI · ChromaDB · DeepSeek/Qwen · Streamlit · Docker
基于 CrewAI 编排 Router、Retriever 和 Responder,按问题选择检索或直接回答;支持 PDF/TXT/Markdown 导入、向量库持久化和多 Provider 配置。
三维医学图像配准动态卷积改进
Python · PyTorch · 3D Registration
提出频率感知卷积 FAConv:通过 3D FFT 计算体素低频与高频重建能量并做确定性二分区,为不同频域区域生成动态卷积核。该研究仍在进行,源码暂未公开。
SysY 编译器
C++ · Flex/Bison · RISC-V · QEMU
课程项目:实现 SysY 到 RISC-V 汇编的编译流水线,覆盖词法与语法分析、语义检查、Koopa IR、指令选择和寄存器分配。
xv6 OS Lab
C · RISC-V · GDB · QEMU
课程项目:完成 MIT xv6 内核实验,涵盖系统调用、进程调度、多级页表、并发同步和文件系统。源码暂未公开。
macos-mcp MCP 服务器
Bun · TypeScript · Swift · JXA · Vision · MCP
以 stdio MCP 服务器封装 Spotlight、Shortcuts、Calendar/Reminders、OCR、浏览器标签和 Mail 搜索,并限制网络暴露、输出路径和 OCR 输入大小。
rlox — Crafting Interpreters 双实现
Rust · Cargo workspace · 编译器与解释器
用 Rust 实现 Lox tree-walking interpreter 和 bytecode VM,以共享 runner 执行官方测试脚本。
Ray Tracing in One Weekend 三部曲
C++17 · CMake · std::thread · BVH · Monte Carlo
实现 Peter Shirley 三部曲渲染器,覆盖材质、相机、BVH、Perlin 噪声、体积介质、重要性采样、三角形求交和 OBJ 加载。
本站 xsdev.top
vinext · OpenAI Sites · Cloudflare Workers · TypeScript
本站使用 vinext、Cloudflare Workers 和自定义域名,提供中文项目展示、Markdown 文章、主题切换、搜索、RSS 和 Sitemap。