HarmonyHu

个人学习笔记

HarmonyHu's Notes

日日行,不怕千万里

AI Compiler Engineer · 个人学习笔记

111 篇文章 13 分类 83 标签

最新文章

  • 2021-01-10

    浮点型存储格式

    FP32 FP16/BF16/FP8FP32float共32bit:1bit符号位,8bit指数位,23bit底数位。如下表示:S E8 M23浮点与二进制转换公式如下:$ Y = (-1)^{s} \times 2^{e} \times m,其中m = 1.M23,...

    Programming #Float #DataRepresentation
  • 2020-11-01

    RNN/LSTM/GRU

    RNNRNNRNN:Recurrent Neural Networks,循环神经网络,能够应用于空间或时间先后相关的场景,比如文字解析、语音识别。RNN模型结构简单描述,如下图:其中X0、X1、……、Xt,可以理解成多个输入,或者对单个输入拆分成的多个输入,比如一张图片...

    DeepLearning #LSTM #RNN #Model
  • 2020-10-08

    Macbook操作

    快捷键 触控板 命令快捷键 文本 文件 其他 Command-C 拷贝Command-V 粘贴Command-X 剪切Command-Z 撤销Command-A 全选command-S 保存...

    Reference #macos
  • 2020-07-10

    TimeComplexity

    概述 常见级别 参考概述时间复杂度通常用大O符号表示,不考虑低阶项和系数,主要考察算法中元素个数N趋于无穷时的情况。另外时间复杂度也有最好情况表示Ω,和平均情况表示Θ。大O是最坏情况表示。常见级别 复杂度量级 表示 举例 ...

    Programming #TimeComplexity #Algorithm
  • 2020-06-17

    SSD网络

    概述 模型结构 PriorBox DetectionOutput 输入 输出 非极大值抑制(NMS) 交并比 过程 概述目标检测目前主要有种方法: two-stage: R-CNN和...

    DeepLearning #Model
  • 2020-06-01

    quantization int8

    算法算法

    AI #Quantization #int8
  • 2020-05-17

    常见算子操作

    激活函数激活函数

    DeepLearning #Algorithm
  • 2020-03-01

    Numpy

    概述 ndarray概述 Numpy, Numerical Python, 读作Num Pie 导入import numpy as np ndarrayN维数据对象,成员: data,内存地址 shape,各个维度大小的元组 dtype...

    Python #Python #NumPy
  • 2020-02-01

    python

    执行方式 注释执行方式 直接执行,python test.py 交互执行,ipython注释#!/usr/bin/python3# 单行注释print("hello,world")'''多行注释用\实现多行语句,[]{}()中不需要\'''a = 1 + 2 + ...

    Python #Python
  • 2019-12-17

    pythonDebug

    python调试 方式一:import pdb python调试方式一:import pdbimport pdbpdb.set_trace() #运行到这里会自动暂停

    Python #Python #pdb #Debug