名為TFRT的新TensorFlow Runtime,是官方為Eager執行和預測而建置,可縮短28%的預測時間。
Google推出了一個用來取代原有TensorFlow Runtime的TFRT,強調能夠大幅提升推理速度,並且簡化TensorFlow的堆疊。雖然TFRT還在早期發展階段,但是目前已經整合在TensorFlow專案中,開發者可以選擇性啟用,而未來將會成為預設Runtime。
之所以TensorFlow需要有新Runtime,是因爲官方要因應機器學習生態系的變化,官方提到,當初TensorFlow的出現,為的是要簡化在不同裝置上,建置和部署機器學習模型的過程,但是隨著技術的發展,機器學習生態系已經與五年前創建TensorFlow時有很大的不同。