如何提高keras模型預(yù)測速度？Keras模型一旦確定，在不自己修改keras框架源碼的前提下，什么都不會變。換大GPU是唯一出路。一般我們只能設(shè)法去修改模型結(jié)構(gòu)，量化剪枝等手段，自己去修改框架源碼，

如何提高keras模型預(yù)測速度？

Keras模型一旦確定，在不自己修改keras框架源碼的前提下，什么都不會變。換大GPU是唯一出路。

一般我們只能設(shè)法去修改模型結(jié)構(gòu)，量化剪枝等手段，自己去修改框架源碼，沒太大必要。

通常我們?yōu)榱思涌炷Ｐ偷念A(yù)測速度，模型加載一次就夠了。

在模型預(yù)測時間太長，通常我們會采用縮小卷積核，減少卷積核數(shù)量，增大步長，增大池化單元等手段。也可能會更換一些參數(shù)較少的backbone。

或者考慮把模型采用移動端的分離卷積和空洞卷積等手段。

最后我們的模型默認是floaf32的精度來表示的，可以采用適當?shù)牧炕?。?6位，8位，甚至2位精度來表示。只要模型精度沒有明顯下降，又滿足使用場景，就是合理的。

如果有任何這方面的其他問題，歡迎關(guān)注我，一起學(xué)習(xí)。

keras已訓(xùn)練好模型，一段時間后又有新數(shù)據(jù)，如何在已有模型基礎(chǔ)上繼續(xù)做增量訓(xùn)練？

我也是菜鳥，可以當做交流。。。

我覺得，如果網(wǎng)絡(luò)不需要調(diào)整的話(如不增加新的類別)，直接用小的學(xué)習(xí)速率用所有數(shù)據(jù)微調(diào)網(wǎng)絡(luò)就行了。

如果網(wǎng)絡(luò)結(jié)構(gòu)變了(如增加了新類別)，固定早期階段的網(wǎng)絡(luò)(如conv層)參數(shù)，直接重新學(xué)后面(如fc層)的參數(shù)。然后再放開凍結(jié)，全局微調(diào)。

keras訓(xùn)練好的網(wǎng)絡(luò)，怎么在c 程序中調(diào)用？

我試過用其他訓(xùn)練的數(shù)據(jù)，在java調(diào)用，有些建議吧。

首先，如果訓(xùn)練的模型不大，這個可以把訓(xùn)練參數(shù)獲取到，然后在c 中調(diào)用，當然矩陣計算要自己準備。

我以前就是這樣的，但這種局限性很大，最大的問題就是這種方法的前提，模型不復(fù)雜情況下。這樣普通的應(yīng)用服務(wù)器還是可以承擔運算負荷的。

但如果模型復(fù)雜，還是不建議這樣弄了，機器跑不過來，其中的針對性的浮點運算優(yōu)化也不是一時半會搞定的。這個時候還是建議使用訓(xùn)練機器用python通過webservice完成遠程調(diào)用實現(xiàn)業(yè)務(wù)應(yīng)用。