從雲端加速技術看台灣高階人才培育問題(九):國外大廠搶著做的前瞻技術研究,國內興趣缺缺

洪士灝
台大資訊工程系暨網路及多媒體研究所教授;主要研究領域為計算機架構與平行處理、計算機效能評估與最佳化、電子商務系統及雲端運算、嵌入式系統設計、以及網路資訊安全。

編按:本文是洪士灝教授一系列談論高階科技人才培育問題專文的第九篇,前面幾篇請在此點閱:第一篇第二篇第三篇第四篇第五篇第六篇第七篇第八篇

上一篇所講到的DSP(Digital Signal Processor,數位訊號處理器1),很早就在軍事與通訊用途上,用來處理雷達、聲納等訊號;普及到民間之後,業界也廣泛將之使用在音響上。

許多前瞻技術領域觀念看似簡單,但若不知如何整合軟硬體,就難以實作出來。

早年設計超級電腦,都會加入專門的運算加速器:例如Cray上有向量處理器(Vector Processors),甚至打造專用的處理器;而最近拿下Top 500 List第一名的「神威.太湖之光」,就是中國自行設計的(因為美國管制高效能晶片的出口)。所以異質計算(Heterogeneous Computing)並不是全新的領域,就像人工智慧、平行處理、雲端計算,都是幾十年前就有的概念;但是光是懂概念,做做Me Too(你會,我也會)的應用還可以,要是不知道如何進行軟硬整合,在建構前瞻應用的時候,就很難在實作上有所突破。

軟硬整合與效能最佳化,不但有趣有用,而且發展空間極大

以多核心CPU進行平行計算,是筆者攻讀博士時研究的老本行;雲端服務和大數據分析裡面的許多議題,是我在SUN工作時所遇到的,而近年用GPU和FPGA來加速重要應用,可說是上述研發項目的延伸。所謂「不管黑貓白貓,會捉老鼠的就是好貓」,無論是DSP、Vector、ASIC、GPU或是FPGA,對我來說解決問題最重要;所以身為效能最佳化專家,必須關注這些技術。通曉這些技術之後,會覺得「軟硬整合最佳化」是很有趣、很有用、很寬廣的領域,而且還有很大的發展空間。

那麼,為什麼很多本土的朋友們看不到很大的發展空間,或是覺得這些陳義過高,看得到、吃不到呢?大環境的業障,已經在前幾篇說過了,我也只能盡力而為。

國外大廠投入大量資源,培植人才,全力發展FPGA加速技術

在2011年,IBM Austin Research Lab的幾位專家,包括筆者在上一篇裡提到的Dr. Peter Hofstee,找我們合作,希望用FPGA來加速某些高價值的高效能計算應用,並且以Open Collaboration Research Award的方式,贊助我們在這個領域的研究計畫。IBM除了邀請我的研究生赴Austin進行四個月的暑期研究之外,還特別運來一台在Power處理器晶片旁邊擺放FPGA晶片的限量原型伺服器到台北,讓我們從事研究。當時IBM和Altera走得很近,因此我們有機會使用仍在研發階段的OpenCL-to-Verilog編譯器。

在兩年合作的期間,我們從與IBM研究人員的討論中學到頗多東西,可惜產業在FPGA加速器相關技術的發展速度不如預期,尚未形成經濟規模,因此成果和實用有段距離。如果是由科技部來評鑑這個計畫的執行成效,恐怕就會不及格了;但我們以此為基礎持續練功,等待時機的到來。

國外各大廠努力培植人才,發展雲端加速技術,甚至捐贈設備與研究資金來台,但國內產官學界態度相對消極。

其實不只是IBM,如Google和Microsoft這類的公司早已嘗試在Data Center的伺服器上加入FPGA晶片,加速大規模的雲端服務,例如搜尋和分類。這類的工作,如同我稍早所說的,需要軟硬體兼通的人才。Microsoft在2011年成立Project Catapult,網羅一群好手,包括上週來台大演講的好朋友Dr. Derek Chiou,他當時在University of Texas教書,被Microsoft挖去時,跟我說他要去做一個有影響力的計畫;後來Microsoft在2014年的ISCA上,發表一篇用FPGA加速搜尋引擎的論文;他是23位共同作者之一。這23位作者都不是泛泛之輩,有的還大有來頭。

去年Intel購併了Altera,同時宣示了FPGA進入主流伺服器的時代即將來臨。Intel希望把CPU Cores和FPGA整併在同一個處理器晶片上,提昇系統的效率;這與2011年IBM找我們合作時的想法類似,但是挾Intel與Altera的半導體製程與設計技術,有較大成為主流的機會。然而再怎麼說,硬體的發展只是故事的一環,Intel/Altera知道,既然要加速的是軟體,關鍵在於:(一)找到適合用FPGA晶片加速的高價值軟體、(二)將軟體轉換成FPGA晶片,並且發展出效能最佳化技術。

就像我在第一篇所說的,這是易學難精的技術;雖然我認為這個領域很適合國內產業來推動,但是國內產官學願意投入的資源太少。筆者升等成為教授之前人微言輕,影響力不夠大;倒是國外廠商頗為積極,會主動與我接觸、捐贈設備、研究資金。兩相對比,實在令人感歎。

(未完,待續)


  1. 一種用來即時處理數位訊號的處理器,詳見維基百科詞條


喜歡我們的文章嗎?按讚立即加入粉絲團 :)

推薦您也參考

獎勵作者

歡迎您以點數獎勵作者:

關於點數的獲得與使用方式,請參閱說明