Portfolio

项目

当前项目以 LLM 应用后端为主,覆盖 RAG 检索、评测治理和可靠的 Agent 工作流;CUDA 推理引擎作为系统能力补充。文中的数据均保留其公开数据集、本地硬件或自动化测试边界,源码可从项目标题后的链接直接核验。


核心项目

多租户 RAG 知识库后端

FastAPI · PostgreSQL/pgvector · Redis · MinIO

把租户、知识库、版本和文档 ACL 条件下推到全文与向量检索 SQL,避免召回后再过滤。索引任务支持版本更新、幂等重试,以及外部监督者重启 Worker 后的 lease 恢复。

FastEmbed BGE 在公开 SciFact 数据集(5,183 篇文档、188 条人工标注查询)离线 dense 评测中取得 Recall@5 0.865,同时记录数据集校验和、模型版本、MRR 与 NDCG。该结果不代表 HTTP API、ACL 路径、企业流量或生产容量。

当前租户边界由应用查询、数据库复合外键和跨租户拒绝/授权前过滤回归共同约束;项目没有 PostgreSQL RLS,也不把测试通过表述为独立的安全证明。

→ GitHub

LLM 评测与 Prompt 回归平台

FastAPI · SQLAlchemy · Vue 3 · GitHub Actions

将数据集、Target 和评测器保存为内容寻址版本,每条 sample 结果记录 source revision、配置 hash 与 denominator。API 仅负责 HTTP 202 dispatch,独立数据库 Worker 通过 lease、heartbeat 和缓存恢复中断任务。

固定 100-case 确定性回归集对比 4 组配置,生成 400 条评测记录并验证 100/100 缓存回放。质量、成本、延迟和安全指标回归分别判定;这里的安全指标检查可观测输出、canary、capability allowlist 与副作用声明,不等同于 IAM/RBAC 强制执行。服务调用失败或超时单独归入基础设施问题,未达校准阈值的 Judge 不参与门禁。

→ GitHub

安全业务工作流 Agent

FastAPI · PostgreSQL · Redis · MCP

模型只提交固定结构的操作提案,真正的 RBAC 与租户策略由服务端执行;退款等高风险操作持久化后等待独立审批人确认。

使用持久化检查点、outbox 和幂等键处理超时、取消与请求重放。公开静态演示用于展示审批、提示注入和重复请求下的状态变化,不代表在线后端或生产部署。

→ GitHub

TinyLlama CUDA 推理引擎

C++20 · CUDA · CMake · cuBLAS

完成 TinyLlama-1.1B CPU FP32 参考路径、CUDA FP16 和 Hybrid W8A16,覆盖 tokenizer、KV Cache、RMSNorm、RoPE、采样器与批处理推理。

在 clean commit 的 RTX 3080 Laptop benchmark 中,固定 context-128、32-token 负载的 Batch 1/4 聚合吞吐为 20.48/61.35 tok/s(2.996 倍)。W8A16 峰值显存由 2122 MiB 降至 1264 MiB(-40.4%),但吞吐下降 12.5%;这是显存收益与速度负结果,不是 INT8 加速。

→ GitHub


其他项目

go-raft-kv 分布式 KV 服务

Go · Raft · gRPC · WAL · Docker

3 节点 Raft KV 服务,覆盖选主、日志复制、leader-only writes、线性一致读、WAL、快照和节点恢复;配套 CLI、Docker Compose 与故障转移测试。

→ GitHub

TensorSysY 张量编译器

C++ · Flex/Bison · HIR/LIR · CUDA · CMake

在 SysY 编译器基础上扩展 first-class tensor 类型与内建算子,打通 AST、HIR、LIR、C++/CUDA codegen 和 runtime adapter。实现 shape/type verifier、const-fold、DCE、layout lowering、CUDA scheduling 与 LIR interpreter。

→ GitHub · → 12 阶段复盘

订单库存管理系统

FastAPI · PostgreSQL · Redis · Celery · C++ gRPC · Docker

以 PostgreSQL 行锁和唯一幂等键处理并发下单,取消流程使用 Saga 补偿;Transactional Outbox、去重表、退避重试和 DLQ 用于可靠传递。

→ 后端 · → 前端

mini-redis-rs 缓存服务器

Rust · Tokio · RESP2 · TTL · AOF

从零实现 Redis 兼容缓存服务,支持 RESP2 流式解析、String/List/Hash/TTL/PubSub/INFO/BGREWRITEAOF。AOF 支持三种 fsync 策略,后台重写使用一致性快照、rewrite buffer 和 atomic rename。

→ GitHub

toydb SQL 数据库引擎

Rust · SQL · WAL · Index · REPL

实现手写 lexer/parser、SQL AST、执行器和 REPL;存储层包含 8 KiB slotted page、pager cache、WAL replay、snapshot-style transaction 与 equality IndexScan。

→ GitHub

nanograd 深度学习框架

Python · NumPy · Autograd · Neural Networks

纯 Python/NumPy 深度学习框架,包含动态 autograd、Tensor ops、Conv2d、循环网络、Attention、ViT、UNet、ResNet,以及训练器、gradcheck 和 checkpoint。

→ GitHub

多智能体 RAG 问答系统

Python · CrewAI · ChromaDB · DeepSeek/Qwen · Streamlit · Docker

基于 CrewAI 编排 Router、Retriever 和 Responder,按问题选择检索或直接回答;支持 PDF/TXT/Markdown 导入、向量库持久化和多 Provider 配置。

→ GitHub

三维医学图像配准动态卷积改进

Python · PyTorch · 3D Registration

提出频率感知卷积 FAConv:通过 3D FFT 计算体素低频与高频重建能量并做确定性二分区,为不同频域区域生成动态卷积核。该研究仍在进行,源码暂未公开。

SysY 编译器

C++ · Flex/Bison · RISC-V · QEMU

课程项目:实现 SysY 到 RISC-V 汇编的编译流水线,覆盖词法与语法分析、语义检查、Koopa IR、指令选择和寄存器分配。

→ GitHub

xv6 OS Lab

C · RISC-V · GDB · QEMU

课程项目:完成 MIT xv6 内核实验,涵盖系统调用、进程调度、多级页表、并发同步和文件系统。源码暂未公开。

macos-mcp MCP 服务器

Bun · TypeScript · Swift · JXA · Vision · MCP

以 stdio MCP 服务器封装 Spotlight、Shortcuts、Calendar/Reminders、OCR、浏览器标签和 Mail 搜索,并限制网络暴露、输出路径和 OCR 输入大小。

→ GitHub · → Homebrew Tap

rlox — Crafting Interpreters 双实现

Rust · Cargo workspace · 编译器与解释器

用 Rust 实现 Lox tree-walking interpreter 和 bytecode VM,以共享 runner 执行官方测试脚本。

→ GitHub

Ray Tracing in One Weekend 三部曲

C++17 · CMake · std::thread · BVH · Monte Carlo

实现 Peter Shirley 三部曲渲染器,覆盖材质、相机、BVH、Perlin 噪声、体积介质、重要性采样、三角形求交和 OBJ 加载。

→ GitHub

本站 xsdev.top

vinext · OpenAI Sites · Cloudflare Workers · TypeScript

本站使用 vinext、Cloudflare Workers 和自定义域名,提供中文项目展示、Markdown 文章、主题切换、搜索、RSS 和 Sitemap。