掃二維碼與項(xiàng)目經(jīng)理溝通
我們?cè)谖⑿派?4小時(shí)期待你的聲音
解答本文疑問/技術(shù)咨詢/運(yùn)營(yíng)咨詢/技術(shù)建議/互聯(lián)網(wǎng)交流
對(duì)于某些特定的、尤其是針對(duì)數(shù)組的計(jì)算場(chǎng)景,Numba 可以顯著加快代碼的運(yùn)行速度。在使用時(shí),我們有時(shí)候需要調(diào)整一下原始代碼,而有時(shí)候卻又不需要做任何改動(dòng)。當(dāng)它真正起到作用時(shí),效果將會(huì)非常明顯。

在本篇文章中,我們會(huì)談及以下幾方面:
假設(shè)你想要將一個(gè)非常大的數(shù)組轉(zhuǎn)變?yōu)榘催f增順序排序:很好理解,就是將元素按值的大小升序排列,如:
[1, 2, 1, 3, 3, 5, 4, 6] → [1, 2, 2, 3, 3, 5, 5, 6]
以下是一個(gè)簡(jiǎn)單的就地轉(zhuǎn)換方式:
def monotonically_increasing(a):
max_value = 0
for i in range(len(a)):
if a[i] > max_value:
max_value = a[i]
a[i] = max_value
Numpy 運(yùn)行很快,是因?yàn)樗梢栽诓徽{(diào)用 python 自身解釋器的前提下完成所有計(jì)算。但對(duì)于上面這個(gè)場(chǎng)景(python 中的循環(huán)),就會(huì)暴露出一個(gè)問題:我們會(huì)失去 Numpy 得天獨(dú)厚的性能優(yōu)勢(shì)。
對(duì)一個(gè)含有一千萬個(gè)元素的 Numpy 數(shù)組使用上面的函數(shù)進(jìn)行轉(zhuǎn)換,在我的電腦上需要運(yùn)行 2.5 秒。那么,還可以優(yōu)化得更快嗎?
Numba 是一款為 python 打造的、專門針對(duì) Numpy 數(shù)組循環(huán)計(jì)算場(chǎng)景的即時(shí)編譯器。顯然,這正是我們所需要的。讓我們?cè)谠泻瘮?shù)的基礎(chǔ)上添加兩行代碼試試:
from numba import njit
@njit
def monotonically_increasing(a):
max_value = 0
for i in range(len(a)):
if a[i] > max_value:
max_value = a[i]
a[i] = max_value
再次運(yùn)行,發(fā)現(xiàn)僅需要 0.19 秒,在完全重用舊代碼邏輯的前提下,感覺效果還不錯(cuò)。
實(shí)際上 Numpy 也有一個(gè)特殊的函數(shù)可以解決這種場(chǎng)景(但是會(huì)修改原有函數(shù)的代碼邏輯):`numpy.maximum.accumulate` 。通過使用它,函數(shù)的運(yùn)行時(shí)長(zhǎng)會(huì)縮短至 0.03 秒。
在 Numpy 或 Scipy 中找到目標(biāo)函數(shù),可以很快解決常見的計(jì)算問題。但是如果函數(shù)不存在呢?(比如剛剛的 numpy.maximum.accumulate)。這種情況下如果想加速代碼運(yùn)行。可能會(huì)選擇其他低級(jí)的編程語(yǔ)言來實(shí)現(xiàn)擴(kuò)展,但這也意味著切換編程語(yǔ)言,會(huì)讓模塊構(gòu)建和系統(tǒng)總體變得更復(fù)雜。
使用 Numba 你可以做到:
Numba 首先會(huì)解析代碼,然后根據(jù)數(shù)據(jù)的輸入類型以即時(shí)的方式編譯它們。例如,當(dāng)輸入是 u64 數(shù)組和浮點(diǎn)型數(shù)組時(shí),分別得到的編譯結(jié)果是不一樣的。
Numba 還可以對(duì)非 CPU 的計(jì)算場(chǎng)景生效:比如你可以 在 GPU 上運(yùn)行代碼。誠(chéng)然,上文中的示例只是 Numba 的一個(gè)最小應(yīng)用,官方文檔中還有很多特性可供選擇。
當(dāng)?shù)谝淮握{(diào)用 Numba 修飾的函數(shù)時(shí),它需要花費(fèi)一定的時(shí)間來生成對(duì)應(yīng)的機(jī)器代碼。比如,我們可以使用 IPython 的 %time 命令來計(jì)算運(yùn)行一個(gè) Numba 修飾的函數(shù)需要花費(fèi)多長(zhǎng)時(shí)間:
In [1]: from numba import njit
In [2]: @njit
...: def add(a, b): a + b
In [3]: %time add(1, 2)
CPU times: user 320 ms, sys: 117 ms, total: 437 ms
Wall time: 207 ms
In [4]: %time add(1, 2)
CPU times: user 17 μs, sys: 0 ns, total: 17 μs
Wall time: 24.3 μs
In [5]: %time add(1, 2)
CPU times: user 8 μs, sys: 2 μs, total: 10 μs
Wall time: 13.6 μs
可以看到,函數(shù)第一次調(diào)用后運(yùn)行非常慢(注意單位時(shí)毫秒而不是微秒),這就是因?yàn)樗枰獣r(shí)間來編譯生成機(jī)器代碼。不過函數(shù)后面的運(yùn)行速度會(huì)顯著提升。這種時(shí)間成本在輸入數(shù)據(jù)的類型發(fā)生變化時(shí)會(huì)再次消耗,比如,我們將輸入類型換為浮點(diǎn)數(shù):
In [8]: %time add(1.5, 2.5)
CPU times: user 40.3 ms, sys: 1.14 ms, total: 41.5 ms
Wall time: 41 ms
In [9]: %time add(1.5, 2.5)
CPU times: user 16 μs, sys: 3 μs, total: 19 μs
Wall time: 26 μs
計(jì)算兩數(shù)之和當(dāng)然不需要啟用 Numba,這里用這個(gè)案例是因?yàn)槟軌虮容^容易地看出編譯所需的時(shí)間成本。
Numba 在功能方面可以說是實(shí)現(xiàn)了 python 的一個(gè)子集,也可以說是實(shí)現(xiàn)了 Numpy API 的一個(gè)子集,這將會(huì)導(dǎo)致一些潛在的問題:
(1)會(huì)出現(xiàn) python 和 Numpy 部分特性都不支持的情況
(2)由于 Numba 重新實(shí)現(xiàn)了 Numpy 的 API,在使用時(shí)可能會(huì)出現(xiàn)以下情況:
(3)另外,當(dāng) Numba 編譯失敗時(shí),其暴露的錯(cuò)誤信息可能會(huì)很難理解
Numba 最棒的地方在于嘗試起來非常簡(jiǎn)單。因此每當(dāng)你有一個(gè)做一些數(shù)學(xué)運(yùn)算且運(yùn)行緩慢的 for 循環(huán)時(shí),可以嘗試使用 Numba :運(yùn)氣好的話,它只需要兩行代碼就可以顯著加快代碼運(yùn)行速度。

我們?cè)谖⑿派?4小時(shí)期待你的聲音
解答本文疑問/技術(shù)咨詢/運(yùn)營(yíng)咨詢/技術(shù)建議/互聯(lián)網(wǎng)交流