從雲端加速技術看台灣高階人才培育問題(十):是人而非工具,才能解決複雜困難問題,帶動產業與學界進步

洪士灝
台大資訊工程系暨網路及多媒體研究所教授;主要研究領域為計算機架構與平行處理、計算機效能評估與最佳化、電子商務系統及雲端運算、嵌入式系統設計、以及網路資訊安全。

編按:本文是洪士灝教授一系列談論高階科技人才培育問題專文的第十篇,前面幾篇請在此點閱:第一篇第二篇第三篇第四篇第五篇第六篇第七篇第八篇第九篇

上一篇講到FPGA,事實上台灣很多念過電機電子科系、做硬體設計的工程師,都會用FPGA;但是以傳統硬體設計的思維居多。大部分以FPGA作為驗證晶片設計的工具,有些以FPGA作為加速產品出貨速度的方法,而學校則使用FPGA作為教學的載具,因此不見得具備上一篇文末所說的關鍵能力:(一)找到適合用FPGA晶片加速的高價值軟體、(二)將軟體轉換成FPGA晶片並且將效能最佳化的技術。

異質計算的關鍵語言:OpenCL

既然多數硬體思維的人不具有軟體能力,那麼Intel併購Altera之後要怎麼推動FPGA作為加速器呢?理想上,最好是有一個Software-to-HDL編譯器,可以將任何軟體程式自動轉換成硬體描述語言(Hardware Description Language, HDL),讓使用者不費吹灰就可以享受FPGA所帶來的好處。這個理想經過多年的努力,在這幾年進步到實用的階段:Altera研發的OpenCL-to-Verilog編譯器,可將以OpenCL撰寫的原始碼,轉換成Verilog程式語言,讓使用者利用FPGA執行能在多核心處理器和GPU上跑的OpenCL程式。

熟悉異質計算的人,應該知道OpenCL。根據維基百科的解釋,OpenCL(Open Computing Language,開放計算語言)是一個為異構平台編寫程式的框架,此異構平台可由CPU、GPU、DSP、FPGA或其他類型的處理器與硬體加速器所組成。這個由非營利性技術組織Khronos Group掌管的語言,希望成為跨平台的標準,讓大家開發出能夠在各種異質平台上都跑得好的可攜性應用。

支持OpenCL的業界。

從上圖中可以看到不少業界大咖幫OpenCL站台。不過站台歸站台,這些公司願意花多少力氣對OpenCL進行研發與提倡、OpenCL何時能成為主流,還是見仁見智的問題。

其實OpenCL已經存在於很多系統中,例如Apple和Google都採用OpenCL加速手機作業系統內部的運作,但並未開放讓iOS或Android的開發者使用。原因很多,在此不詳加討論。好比Google從來沒有表態支持OpenCL,但是在前一陣子Google宣布提供GPU Cloud服務的時候,OpenCL就是名列第一的程式語言。

各位從上圖中可以看到台灣的聯發科技(MEDIATEK),所以可能會自行想出「聯發科技的手機晶片應該可以跑OpenCL程式」的推論;我不能說這個推論對不對,因為我們和聯發科合作時簽訂了NDA(保密協定),不能評論雙方正在做的事情。目前大多數的OpenCL程式都是為了使用GPU加速才寫的,但是如果這些程式也能在FPGA上跑得不錯,那麼Intel/Altera/Xilinx在推廣FPGA加速器的時候,不就事半功倍了嗎?

軟硬整合的效能提昇,光靠編譯器可能做不到,目前還是只有專家才能做到。

我們今年初在FPGA Conference上發表一篇論文1,敘述我們在OpenCL跨平台程式最佳化的小小心得。如下圖,要讓案例中的醫學應用程式Monte Carlo modeling of light transport in multi-layered tissues (MCML)跑得更快,我的研究生們把程式的核心改寫為OpenCL,再不斷想辦法改進其效能。我們想到一些方法,打造出一系列的最佳化版本;發現有些方法對GPU有用,有些對FPGA有用,有些則是共通的。結論是OpenCL程式結構的最佳化,對效能提昇非常重要;而這些可能是編譯器做不到,只有專家才做得到的工作。FPGA目前的效能雖然比不上GPU,但是可能比較省電。未來誰勝誰敗,仍在未定之天。

我們發表在FPGA 2016會議的實驗數據。

解決困難問題的,永遠是人

然而OpenCL會成為主流嗎? 我想,一般的程式師,或是堅持使用「高高階語言」的軟體開發者,目前大部分不會願意學OpenCL。原因在於OpenCL相當複雜,而且要寫好並不容易;既然這世界上似乎還有做不完的應用軟體開發工作,何必挑硬柿子來吃?甚至現在還有一種「只要會使用機器學習引擎,就可以當上人工智慧訓練師」的風潮出現,學生樂於學習現成的機器學習套件,或是像R語言這種「高高階語言」,連C語言都嫌太低階。

沒問題的,我從來不敢大聲疾呼,要每個資工系大一學生都學「平行程式設計」,因為資訊工程的發展道路是非常寬廣的,我們沒必要規定那些不想學、不適合學的人,來修一堆大人們認為重要的必修課。只是學生們應該要知道:人工智慧、先進的應用和高效能計算,在電腦發展歷史上,乃至於未來,有著非常重要的關係。

重要的電腦科學家,多半是軟硬兼通的通材;雖然單單使用工具也能做好工作,但無法光用工具解決複雜困難問題。

我幾天前陪家中的少年看電影《The Imitation Game》(中譯「模仿遊戲」),電影中被後世尊稱為電腦科學與人工智慧之父的Alan Turing,為了破解德軍二戰時使用的Enigma密碼機,受命開發一台破譯用的機器;這台機器需要極高的計算速度,才有辦法破解極度複雜的密碼。在此,設計者的角色有多重要呢?不光是把機器設計出來就算了,因為機器受到各種限制,還是不夠快,必須找出「竅門」,讓計算更有效率。電影中的竅門,就是把德軍每天早上發出的氣象預報的固定格式,當做突破點用來嘗試破解密碼。劇中的Turing在靈感出現的第一時間跑去調整機器,可說是軟硬整合最佳化的鼻祖。

這部電影的海報中有句耐人尋味的話,點出了這個關鍵:The true Enigma was the man who cracked the code(真正的謎,是破解了密碼的人)。我在Sun的工作是研發密碼加速器(參見第四篇),有類似但微不足道的經驗,所以對這部電影特別有興趣,連這次是第三次觀影了。

工具用得再好,也只是高級技工

不只是Turing,早期很多重要的電腦科學家,都是兼通軟硬體。尤其是人工智慧的通材;因為有太多的例子,得用到高效能計算的技術,來打造人工智慧專用系統。誠然,對於現今一般的系統設計者、軟體開發者來說,只需要理解專門領域的東西、會使用現成的軟硬體介面(Interface)就可以做好工作;對於資料分析師、理論科學家來說,也只需要專門領域的東西、會使用現成的應用軟體,就可以解決問題;但我認為這樣的分工,只是便於培養和運用高科技產業和學術知識生產所需要的人工,不是前瞻研發和孕育大師的做法。

筆者這麼說,無非只想再次指出,業界要賺錢、學者要出論文,應該是出自個人的目的;政府只要略加鼓勵、樂觀其成即可。真正為了國家未來而進行的前瞻科技發展,應該才是政府投入大量資源鼓勵的對象;而且應該針對產業與學界合作,進行跨領域的、可長期實質合作的前瞻研究項目加以鼓勵。

(未完,待續)


  1. Shih-Hao Hung, Min-Yu Tsai, Bo-Yi Huang, Chia-Heng Tu: “A Platform-Oblivious Approach for Heterogeneous Computing: A Case Study with Monte Carlo-based Simulation for Medical Applications”. FPGA 2016: 42-47.


喜歡我們的文章嗎?按讚立即加入粉絲團 :)

IDEAS Night

rocketlab_banner 網路的便利讓許多旅遊行程與價格更加透明,在去中間化的潮流下,比價訂房、行程販售,要如何從一片紅海中找到利基、並且做到今日的規模?這次 IDEAS Night 邀請兩位專家,分享重要的轉折與市場資訊。 立即搶位

直接報名



推薦您也參考

獎勵作者

歡迎您以點數獎勵作者:

關於點數的獲得與使用方式,請參閱說明