XiaokeAILabs：AI 工程实验
从模型训练与检索，到多模态和推理部署，我们用可检查的方法、代码和结果解释工程选择。这里既有教程和原理，也保留实测条件与结果边界，帮助你判断何时适用，以及如何在自己的任务上验证。项目开源并持续更新。
实验索引
- 中文 Embedding 微调：用查询与相关文档学习批内对比训练；内置数据仅四组，不证明检索效果提升。
- 重排序模型微调：使用查询、文档和相关性标签训练交叉编码器。
- Embedding 蒸馏：用大模型分数训练小型向量模型；提供候选池准备脚本。
- 重排序蒸馏：对照监督训练与教师分数蒸馏，了解固定候选上的排序变化。
- ColBERT 蒸馏：比较教师分数蒸馏与标签监督；本次蒸馏未超过监督基线。
- 视觉文档多向量检索：文档页检索基线，以及合成页面上的监督微调和蒸馏对照。
- 多模态 Embedding 蒸馏：探索图文检索教师与轻量学生之间的知识迁移。
- 多模态重排序：探索图文候选的重排序，并查看匿名化评测结果。
- GUI 定位微调：训练截图与指令到坐标的映射；30 个留出样本不足以证明泛化提升。
- 教师视频训练水波纹生成模型：对照四组留出视频；事后筛选的六条训练样本不足以证明质量提升。
- 合成数据训练文生图模型：用教师合成数据训练学生 LoRA；结果基于单名 AI 评审。
- 人物图像生成微调：用人物照片训练 LoRA；现有基线与微调结果分辨率不同，不能直接比较。
- 人物视频微调与排障：检查视频基模、种子和 LoRA 生成结果；小规模留出评估未证明学会目标角色。
- 向量数据库基准：历史数据缺少原始结果，不用于产品排名。
- 向量索引成本：比较 Flat、IVF、HNSW 与量化索引的召回、耗时和空间。
- 语言模型 JEPA 训练通路：在小规模加法题上对照原模型、LoRA 和 JEPA，结果不证明能力提升。
- 扩散语言模型速度对照：在三道问题上比较两种生成路径；输出长度与质量不同。
- GB10 单槽与八槽推理：同一模型和引擎下比较短请求的吞吐与完成时间。
- LLM 推理性能：模型与推理配置的性能分析。
- 语言模型量化：对照权重体积、困惑度与 CPU 速度；BF16 路径性能异常。
- LLM 机制：通过示例理解生成机制。
- Tokenizer 原理：从字节级 BPE 到真实编码与 token 计费。
- KV Cache 原理：对照缓存与全前缀计算的数值结果。
- 推理成本模型：内存算例与理论模型，性能估算尚未经独立验证。
- 数据结构成本：分析数据结构和数据格式的成本。
- 人像抠像：评估 30 张单帧照片的主体、边界与推理时间；不能代表视频性能。
- 表格结构识别：用一张合成表格观察裁剪与结构预测，不涵盖文字识别。
- 文字检测与识别：将文字检测框交给识别模型；两阶段结果只覆盖一张合成表格。
- MiniCPM-OCR：文档识别部署与生成加速。
- Jina CLIP OpenVINO：比较 CPU 和 NPU 的正确性与特定负载性能。
- Jev 开源方案评测：比较社区方案的小样本决策表现。
许可证
仓库代码采用 Apache 2.0；第三方模型、数据和代码适用各自许可。