本文共1162字
群聯(8299)2023年發表平民AI解決方案aiDAPTIV +,董事長潘健成如苦行僧逢人推廣,迄今累積200多個POC(場域驗證),他苦笑至少他只說了12個月,比黃仁勳當年講了12年AI,還沒人理好一點;不過,他透露唯一「賭對了」,是預測2025年輝達將大談邊緣運算,黃仁勳果真在聖誕節前夕拍影片從烤箱拿出邊緣AI新貨。
群聯的aiDAPTIV +訴求以其軟體專利,將系統中SSD取代DRAM,搭配常規繪圖卡就能跑LLM(大語言模型),讓AI伺服器從高價的300萬美元,變成只要300萬新台幣,潘健成期望藉此讓AI平民化,不僅人人都能用AI,更能保護隱私打造私有AI。
平民AI解決方案與挑戰
他從2023年開始推廣,至今進度並不如預期樂觀,他大吐苦水「客戶不是不用,是不知道怎麼用」,這使得群聯從本來只打算賣零組件,現在包山包海做解決方案,要讓客戶用得滿意再付錢,累積已經達200多個客製化POC案例。
他苦笑過去一年台灣的一哥到九哥他都找過了,多數人都認可此生意,但「推動到最後,發現大家都來看戲。」原因是沒有立即的營收,其次是找不到懂得人來做。
潘健成出席27日工研院「AI賦能.半導體領航—2024南臺灣產業策略論壇」談產業AI化,AI平民化主題,他推動aiDAPTIV +正符合AI平民化目標,但也因此揭露AI在中小企業及機關行號的推動難度。
目前他針對企業行號推出300萬元私有AI解決方案,針對教育現場更推10~12萬元的AI訓練PC,可以微調跑13B參數的大語言模型,相對輝達GB200機櫃一櫃要1億美元,即便費用便宜這麼多,潘健成苦笑:學校還是喊貴,拜託群聯能不能「捐」幾台?
潘健成苦笑說,系統中的GPU跟CPU都不是群聯做的,還好現在學校開始勸募,馬偕護校前陣子才募款600萬元,向群聯採購50台,下學期將建置起來開AI課程。
AI應用案例與未來展望
另外群聯也跟新光醫院合作,新光醫院最有名就是正子斷層造影,過去是醫生看片子寫診斷病例,新光拿出累積的7萬片圖像訓練VLM(大型視覺語言模型),經過大量訓練跟校正,現在只要病人圖像進去,診斷報告就能直接跑出來,減少醫生因疲勞而出現解讀錯誤的可能。
群聯也跟新竹某醫院合作POC,AI將在門診上線於醫生跟病人對談問問題時把病歷填好,除會轉換成醫學專有名詞,記錄病人記錄跟狀況,讓醫生有更多時間跟病人溝通,也會把護理師常回答病人的提問QA做成AI工具,讓病人詢問。
潘健成表示,他唯一「打賭」賭對的,是他預測2025年輝達就會開始講Edge AI,結果黃仁勳果然在聖誕節前自己發布影片,從家中烤箱中端出Jetson Orin Nano Super邊緣AI電腦,僅249美元,潘健成開心地說輝達為何要從幾十萬美元起跳的商品賣到200多美元?因為邊緣才是大家真正用到AI的地方。
※ 歡迎用「轉貼」或「分享」的方式轉傳文章連結;未經授權,請勿複製轉貼文章內容
留言