HarmonyHu’s Blog

quantization int8

June 1, 2020 6 分钟阅读

算法 8-bit 与float转换 threshold per-axis 与 per-tensor 算法 8-bit 与float转换 [real_value = (int8_value - zero_point)\times scale] 简写为：$ r = S(q-Z) $ int8_value的weight范围是[-127, 127]，zero_point为0；activations/inputs范围是[-128, 127]，zero_point范围是[-128, 127] threshold threshold理解为某个tensor的元素最大值，则： [Y = F(X) \text{(float运算)} => y = f(x) \text{(int8运算)}] 其中 $ x = X \times \frac{128}{threshold_x}, Y = y \times \frac{threshold_y}{128} $ per-axis 与 per-tensor per-axis，表示某个维度每一片都有一个scale和zero_point，比如per-channel表示每个channel都有一个scale和zero_point per-tensor，表示整个tensor用一个scale和zero_point

常见算子操作

May 17, 2020 14 分钟阅读

激活函数 Relu LeakyRelu 激活函数 Relu [f(x) = \begin{cases} x,\quad & if & x \ge 0 0,\quad & if & x \lt 0 \end{cases}] LeakyRelu [f(x) = \begin{cases} x,\quad & if & x \ge 0 x \times negative_slope,\quad & if &x \lt 0 \end{cases}]

Numpy

March 1, 2020 6 分钟阅读

概述 ndarray 概述 Numpy, Numerical Python, 读作Num Pie 导入import numpy as np ndarray N维数据对象，成员： data，内存地址 shape，各个维度大小的元组 dtype，元素类型 size，元素个数 ndim，维度的数量 strides，各个维度步进字节大小的元组 T，ndarray，对象的转置 flags, 各种属性标志其他

python

February 1, 2020 9 分钟阅读

执行方式注释执行方式直接执行，python test.py 交互执行，ipython 注释 #!/usr/bin/python3 # 单行注释 print("hello,world") ''' 多行注释用\实现多行语句，[]{}()中不需要\ ''' a = 1 + 2 + \ 3 + 4 b = ['a','b', 'c','d']

python调试

December 17, 2019 1 分钟阅读

python调试方式一：import pdb python调试方式一：import pdb import pdb pdb.set_trace() #运行到这里会自动暂停

Markdown

August 1, 2019 6 分钟阅读

特殊符号 Latex公式希腊字母关系运算符集合运算符对数运算符三角运算符微积分运算符逻辑运算符戴帽符号 Mermaid绘图 Jekyll-spaceship 特殊符号上标：2<sup>n</sup>，效果2n 小标：log<sub>n</sub>，效果logn HTML中的特殊符号 Latex公式来源：Cmd Markdown公式指导手册希腊字母对于大写希腊字母与现有字母相同的，直接输入大写字母即可。输入显示输入显示输入显示输入显示 \alpha $\alpha$ A $A$ \beta $\beta$ B $B$ \gamma $\gamma$ \Gamma $\Gamma$ \delta $\delta$ \Delta $\Delta$ \epsilon $\epsilon$ E $E$ \zeta $\zeta$ Z $Z$ \eta $\eta$ H $H$ \theta $\theta$ \Theta $\Theta$ \iota $\iota$ I $I$ \kappa $\kappa$ K $K$ \lambda $\lambda$ \Lambda $\Lambda$ \mu $\mu$ M $M$ \nu $\nu$ N $N$ \xi $\xi$ \Xi $\Xi$ o $o$ O $O$ \pi $\pi$ \Pi $\Pi$ \rho $\rho$ P $P$ \sigma $\sigma$ \Sigma $\Sigma$ \tau $\tau$ T $T$ \upsilon $\upsilon$ \Upsilon $\Upsilon$ \phi $\phi$ \Phi $\Phi$ \chi $\chi$ X $X$ \psi $\psi$ \Psi $\Psi$ \omega $\omega$ \Omega $\Omega$ 关系运算符输入显示输入显示输入显示输入显示 \pm $\pm$ \times $\times$ \div $\div$ \mid $\mid$ \nmid $\nmid$ \cdot $\cdot$ \circ $\circ$ \ast $\ast$ \bigodot $\bigodot$ \bigotimes $\bigotimes$ \bigoplus $\bigoplus$ \leq $\leq$ \geq $\geq$ \neq $\neq$ \approx $\approx$ \equiv $\equiv$ \sum $\sum$ \prod $\prod$ \coprod $\coprod$ \backslash $\backslash$ 集合运算符输入显示输入显示输入显示 \emptyset $\emptyset$ \in $\in$ \notin $\notin$ \subset $\subset$ \supset $\supset$ \subseteq $\subseteq$ \supseteq $\supseteq$ \cap $\cap$ \cup $\cup$ \vee $\vee$ \wedge $\wedge$ \uplus $\uplus$ \top $\top$ \bot $\bot$ \complement $\complement$ 对数运算符输入显示输入显示输入显示 \log $\log$ \lg $\lg$ \ln $\ln$ 三角运算符输入显示输入显示输入显示 \backsim $\backsim$ \cong $\cong$ \angle A $\angle A$ \sin $\sin$ \cos $\cos$ \tan $\tan$ \csc $\csc$ \sec $\sec$ \cot $\cot$ 微积分运算符输入显示输入显示输入显示 \int $\int$ \iint $\iint$ \iiint $\iiint$ \partial $\partial$ \oint $\oint$ \prime $\prime$ \lim $\lim$ \infty $\infty$ \nabla $\nabla$ 逻辑运算符输入显示输入显示输入显示 \because $\because$ \therefore $\therefore$ \neg $\neg$ \forall $\forall$ \exists $\exists$ \not\subset $\not\subset$ \not< $\not<$ \not> $\not>$ \not= $\not=$ 戴帽符号输入显示输入显示输入显示 \hat{xy} $\hat{xy}$ \widehat{xyz} $\widehat{xyz}$ \bar{y} $\bar{y}$ \tilde{xy} $\tilde{xy}$ \widetilde{xyz} $\widetilde{xyz}$ \acute{y} $\acute{y}$ \breve{y} $\breve{y}$ \check{y} $\check{y}$ \grave{y} $\grave{y}$ \dot{x} $\dot{x}$ \ddot{x} $\ddot{x}$ \dddot{x} $\dddot{x}$ Mermaid绘图 Markdown中使用mermaid画流程图 Mermaid Jekyll-spaceship Jekyll-spaceship

CMAKE与Ninja

July 17, 2019 少于 1 分钟阅读

简介简介 Ninja原意是忍者，Google在编译chrome项目时本来用make方式，但是非常费时间；于是实现Ninja，取代make，加快编译构建。 Ninja官网：Ninja

Linux Event Tracing

March 17, 2019 3 分钟阅读

Tracepoints添加 1. 添加头文件 Tracepoints添加参考 Tracepoints 1. 添加头文件 include/trace/events/sample.h #undef TRACE_SYSTEM #define TRACE_SYSTEM sample #if !defined(_TRACE_SUBSYS_H) || defined(TRACE_HEADER_MULTI_READ) #define _TRACE_SUBSYS_H #include <linux/tracepoint.h> DECLARE_TRACE(sample_event, TP_PROTO(int firstarg, struct task_struct *p), TP_ARGS(firstarg, p)); #endif /* _TRACE_SUBSYS_H */ /* This part must be outside protection */ #include <trace/define_trace.h>

HarmonyHu

个人学习笔记

quantization int8

常见算子操作

Numpy

python

python调试

Markdown

CMAKE与Ninja

Linux Event Tracing

卷积运算

tensorflow：添加新OP和新设备

vim操作积累

FlatBuffers反射