談「新世代邊緣AI運算架構—記憶體內運算」、未來AI人才與數位轉型的挑戰和機遇

亞洲大學23日上午舉行傑出講座，邀請台達電子技術長郭大維，談「新世代邊緣AI運算架構—記憶體內運算」。郭技術長分享邊緣運算、記憶體內運算與大型模型，在能源永續、AI應用上的差異，分析台灣在AI推動下，如何找到自己定位、能發揮的強項，內容涵蓋：多模態運算、AI市場投資趨勢、及未來人才與數位轉型的挑戰和機遇，並與亞大師長展開熱烈交流，分析AI與內部創新對工作價值、生產力的影響。

亞大校長蔡進發表示，很榮幸請到郭大維技術長來亞大，他十分傑出，是台大資工系特聘教授，還曾擔任過台大代理校長，現在是台達電首席技術長；他的研究領域包括：嵌入式系統（Embedded Systems）、非揮發性記憶體程式設計（Non-volatile Memory Software Designs）、類神經網路計算（Neuromorphic Computing）和即時系統（Real-time Systems）。AI發展每天日新月異，邊緣AI計算是十分重要的區塊，很高興聽到郭技術長分享最新的AI關鍵應用，亞大也希望能與他有深入交流，探究在AI時代如何培育未來人才。

郭技術長指出，Edge AI應用(邊緣計算)，是AI浪潮下非常重要的一塊，也是台灣能夠扮演重要角色，從輝達NVIDIA執行長黃仁勳每年數次返台，就可以一窺端倪，不只在AI領域，台灣在整個PC產業中一直扮演著重要、關鍵的角色。台灣是全球半導體、電子產品製造重鎮，Edge AI帶來的物僅是技術升級，更是橫跨晶片、崁入式系統、通訊模組、A lot設備、智慧製造等領域的龐大商機。

郭技術長說，因為低功耗NPU、AI加速晶片的進步，現在逐步朝低成本、輕量化AI模型的發展，有別於雲端運算（cloud computing），不用將資料傳到雲端，而是在網絡「邊緣」上，就能即時處理，讓AI從雲端擴展至終端裝置， 包括：AI PC、智慧製造、智慧車載、智慧醫療、智慧城市等應用，都已經開始導入邊緣AI技術，並進入大規模商業化落地階段，台灣都可以在其中占一席之地。

郭技術長以近日Meta宣布將在美國興建一座耗電量 5GW (gigawatts) 的 AI 資料中心，作為支援其 AI 服務的基礎架構為例，他說，台灣剛除役的核能電廠能產出電量1GW，可供台灣幾百萬個家庭用電，等於是Meta這座AI資料中心需要5座核能廠供給電力，耗電量十分驚人！能源使用和永續的平衡，是AI快速發展的同時，必須考量的重要議題。

郭技術長表示，在2023年以前，很多工程師以為寫程式不會被取代，但有許多標誌型的AI接連出現，這2年內不斷推陳出新、十分熱鬧，但從大模型進入多模態、或更多分散作業，不需要去驅動整個大模型，從雲端進入地端，開始出現邊緣計算，從企業角度來看，朝向要求更高品質、更好準確度、更好的訓練方法。使用者也開始省思，「AI確實能做很多事，但到底做了什麼事？如何去管理AI？」

有哪些是屬於Edge AI範疇？郭技術長說，其實Edge AI範圍相當廣，以台達電執行的合作案為例，透過前處理讓運算更有效率、將資料平行化後再比對等，就能避免資料過於龐大；手機、車用系統、監控設備、機器人等，不需要複雜算法就能執行，預估2031年全球Edge AI的市場規模會超過1400億美元。

郭技術長提醒，AI世代不只是大模型對產業有很大影響，還有更多是在Edge端，讓台灣能有所發揮，不單是在工業上的應用，還有在家庭裡，所以必須回過頭來思考，我們需要什麼樣的人才來做這些事？過去是計算機時代，現在則進入資料密集的科學時代，在這樣的時代驅動和發展模式下，如何掌握最大的力量來做事，是必須思考的問題。

「數位化AI時代，已經啟動！」郭技術長說，要培育什麼樣的人才，是在這樣的AI時代能夠存活、發展？軟實力、溝通、合作能力，是這種跨領域時代必須具備的，創造力十分重要，必須有很好的思考模式，在有眾多工具可以使用的環境下，能夠知道哪些東西可能會被取代。世界變化太快，未來的時代沒有人知道它會變成什麼模樣，必須培養高適應力，未來世界可預見是人和機器共存，但要如何共存、一起工作、一起生活，就是接下來最重要的問題。