Skip to main content

produce NPU instructions

Project description

NPU compiler

produce NPU instructions

Release Notes

Release 1.0.13

  • 支持Select OP
  • 加快生成c_code模型的速度。
  • 优化SNPU的1*1卷积,转置,减少生成指令大小。
  • 增加MEAN_SHRINK_OPS配置项,容易溢出的Mean OP放在该列表中,NPU会先做除法再做加法。
  • 生成的模型中增加需要内存总大小:total_size字段。
  • BUG修复。

Release 1.0.12

  • 支持新版本TensorFlow的模型有些OP在其输入OP后面的情况。
  • 优化1*1的卷积,能减少大量指令,提高执行效率。
  • 优化Transpose OP
  • 增加模型中间数据的复用,减少模型需要的内存。
  • BUG修复。

Release 1.0.11

  • 增加了DepthwiseConv2dNative,AvgPool, Conv2DBackpropInput, Maximum, Minimum, GreaterEqual, LessEqual, Assert, Tile, All, Any, BatchMatMul, ReverseV2, Exp
  • 支持做MatMul时,权重(第二个输入数据)在编译阶段不确定的情况。
  • BUG修复。

Release 1.0.10

  • 对Conv2D, Slice等OP的优化。
  • 增加了Max, Min, FloorDiv, FloorMod OP
  • 增加了空间优化的选项,可以根据模型时间敏感还是空间敏感来配置。配置项为 SPACE_OPTIMIZATION:0/1 数字越大表示需要内存空间越小,相应速度会慢,目前只支持0或1。目前只有Conv2D, Slice OP在某些条件下会起作用。
  • BUG修复。

Release 1.0.9

  • 针对NPU硬件的问题增加了补丁。
  • 优化了Mean, Sum, Conv2D等OP
  • 增加对1x1卷积核的支持。
  • BUG修复。

Release 1.0.8 (空缺)

Release 1.0.7

  • 配置文件中可以任意指定输出OP,不执行和输出OP无关的OP
  • 增加LogSoftmax OP
  • OP优化和BUG修复

Release 1.0.6

  • 配置文件增加新配置项 CORENAME,可以选择 LEO 或 LEO_MPE,默认为 LEO
  • 对OP log 和 softmax 合并在一起计算,减少计算误差。
  • 加速多 batch LSTM计算,加速归一化计算。
  • 参数 fp32 转 fp16 由截位变成四舍五入。
  • bug 修复。

Project details


Download files

Download the file for your platform. If you're not sure which to choose, learn more about installing packages.

Filename, size & hash SHA256 hash help File type Python version Upload date
npu_compiler-1.0.14-py2-none-any.whl (9.8 MB) Copy SHA256 hash SHA256 Wheel py2

Supported by

Elastic Elastic Search Pingdom Pingdom Monitoring Google Google BigQuery Sentry Sentry Error logging AWS AWS Cloud computing DataDog DataDog Monitoring Fastly Fastly CDN SignalFx SignalFx Supporter DigiCert DigiCert EV certificate StatusPage StatusPage Status page