个人学习笔记
HarmonyHu's Notes
日日行，不怕千万里
AI Compiler Engineer · 个人学习笔记
最新文章
-
2026-08-22
FP4与FP8学习整理
FP4 FP4格式为E2M1，即1符号位+2指数位+1尾数位。 按浮点表达式换算如下： \(\text{value} = (-1)^S \times 2^{(E - \text{bias})} \times (1 + M \times 2^{-1})\) 其中bias为1。...
-
2026-06-27
AI-Agent使用汇总
KiMi Code 环境配置 官网：https://www.kimi.com/code 安装方法： Linux：curl -fsSL https://code.kimi.com/kimi-code/install.sh | bash Windows PowerShell: ...
-
2026-05-27
vLLM学习整理
学习材料：https://docs.vllm.ai/en/latest/design/arch_overview 一、基础概念 DP 称作Data Parallelism，指同一份权重复制到多组GPU上，每组GPU称作一个DP Rank，各自处理不同的请求批次。 ZMQ 称...
-
2026-04-27
ClaudeCode学习整理
学习资料 claude code docs 使用基础 1. 安装 Windows安装命令：irm https://claude.ai/install.ps1 | iex Linux方法一：curl -fsSL https://claude.ai/install.sh | b...
-
2026-02-27
Copilot-CLI学习整理
学习资料 本文全部内容来自： copilot-cli copilot-cli-for-beginners 使用基础 1. 安装 Windows下安装命令：winget install GitHub.Copilot Linux下安装命令：curl -fsSL https://...
-
2026-02-21
Qwen3.5解析
源码：qwen3.5 Qwen3.5包含了VIT进行图像处理，所以可以与Qwen3-VL做对比： RMSNorm稍有区别 LinerAttention与FullAttention混合，比例是3:1 LinearAttention与FullAttention加入了一步Gate...
-
2025-10-07
Qwen3VL解析
源码：qwen3_vl Vision部分 Qwen3VL图片patch大小为16，比如图片800x640，对应thw为[1, 50, 40]。 一些重要参数如下： hidden_size = 1152 num_heads = 16 1. fast_pos_embed_int...
-
2025-06-17
FlashAttention学习
学习论文：FlashAttention: Fast and Memory-Efficient Exact Attention with IO-Awareness
-
2025-04-17
Qwen2.5Omni解析
本文以Qwen2.5-Omni-7B为例解析该模型。 源码：modeling_qwen2_5_omni.py Audio部分 1. 音频前处理 第一步：读取音频数据 第一步：比如20s的视频，原始采样率为44.100kHz。audio会用16kHz采样率重采样，得到3354...