《台南Web3產業國際博覽會》cacaFly聖洋科技副總吳振和:發展特定領域模型產業數據及人才是關鍵
洪嘉鎂
2024-10-24 14:00

「在AI的時代,FOMO的情況不比Web3少,就是很嚴重。每間都說要做AI,但算力在哪裡?是光排GPU就排不到。」cacaFly聖洋科技技術副總經理吳振和,在第二屆台南Web3產業國際博覽會中表示。

吳振和表示,cacaFly 成立雲端智能中心,與 Google Cloud 攜手合作,成為 GCP Premier Partner開始投入於 AI 轉型,至今參與約 20 餘家企業進行AI 轉型概念驗證及導入顧問相關工作。他表示,發現從零售到製造業等各類產業,過去對雲端/AI 轉型相關工作較為排斥,但在看到台積電、聯發科等大廠積極布局AI後,產業有一坡「唯恐錯過(FOMO)」現象而開始採取資源投入。

吳振和認為,企業在這波轉型中面對GPU運算資源不足的問題,除了有能力與機會採購充足GPU外,接下來還需考慮電力能否支持。因此企業採用公開模型及雲資源訓練,並利用自有數據進行驗證,然而實際推動過程中,多數企業仍面臨數據不足的關卡。

目前台灣的企業主要還是發展內部應用型的AI模型,但現階段的AI模型多半使用Wikipedia等公開於網路的資料進行訓練,並不包含受產業保護的數據,缺乏適用於特定產業的大型模型,或是專屬特定領域的模型。吳振和指出,醫療、製造等機密性較高的產業,現在公有大型語言模型訓練資料較少包含到,且相關數據受到產業較高的保護,較難有對外分享訓練數據,但現階段產業仍尚未整合相關資源或是突破現有氛圍。

談到鏈結電力的淨零碳排議題,吳振和直言,台灣在乾淨的電力排行為後段班,意味著台灣AI 用得越多,就表示離碳排目標越遠,相較國外台灣在雲端資料中心所使用乾淨能源比例較低(歐盟定義乾淨的電包含核能、綠能、再生能源等),因此在追求發展AI的同時,也需要正視相關問題。

吳振和指出,現在有許多大型企業想導入AI,但人才市場上有所缺口,主因之一就是在過去往往會找系統整合商,但多數SI並非AI專業人才,而是軟硬體系統人才,但過程也發現新創公司投入做自己的訓練模型,並且結合微軟、亞馬遜、Google等國際企業算力資源,例如Google Cloud 為支持新創公司推動 AI 項目,就提供了高達 10 萬美元的運算資源,協助他們加速研發進程並推動創新應用。

另一方面,吳振和也觀察到,台灣在硬體製造方面已相當成熟,加上國際軟體大廠陸續在台灣設立研發中心,將加速AI人才培育,未來台灣的AI人才將會越來越多,不過如果從出社會才開始培養可能會需要更多時間才能接軌市場,因此可思考透過產學合作,讓學生在求學階段就能接觸產業實務,培養解決實際問題的能力。