發布時間:2024/3/19 14:55
輝達執行長黃仁勳今天在GTC大會上發布多款新產品。AI界權威分析師歐唐納爾受訪分析2亮點,表示新一代AI晶片是首款專為訓練語言模型而生的晶片,此外,其擴展軟體技術有助公司長遠布局。
輝達(NVIDIA)GTC大會今天登場,執行長黃仁勳進行主題演講,內容圍繞人工智慧發展技術,他宣布多款新產品,包括外界矚目的AI新晶片,也就是新一代的GPU,硬體升級之外,輝達與日俱增的軟體影響力也備受業界關注。
廣告 更多內容請繼續往下閱讀
AI界權威分析師歐唐納爾(Bob O'Donnell)今天全程參與主題演講,他會後接受中央社專訪,表示黃仁勳2小時演說中,有2項重要發展影響深遠。
第一,黃仁勳一如外界預期發表新晶片Blackwell B200,歐唐納爾說,這是非常大的進展,「我認為它是專門為生成式AI時代設計的第一款晶片。」
廣告 更多內容請繼續往下閱讀
他表示,晶片設計耗時漫長,目前出現的其他晶片,儘管已被使用在訓練大型語言模型(LLM),「但不一定是專為LLM設計的產品」,輝達對晶片架構所做的改變,是專門為LLM設計,「且能訓練的模型規模甚至比以往更大。」
他強調,輝達瞭解「AI未來的需求只會更大」,第一次推出這種產品。
他特別點出關鍵,新晶片運用新一代Transformer引擎設計,性能將顯著提升,「這是重大的變化」,可訓練的模型變大、能訓練的數據量也增加一倍。
他說,「以簡單的數學邏輯來說,它可以執行2倍的運算...這會讓輝達在業界超前一段時間。」
第二,歐唐納爾表示,黃仁勳此次發表的「軟體技術」令他眼睛為之一亮。
大部分的人熟悉輝達強項為硬體技術,但今天黃仁勳還宣布推出可大幅縮減部署時間的NIM推論微服務,「這替輝達提供潛在機會去創造新的收入來源。」
他說,這項技術建立在輝達的CUDA平台上,輝達目前營收主要來源為硬體,因此,有新的收入來源「攸關輝達這間公司更長遠的發展。」
他進一步解釋,科技巨擘深知晶片重要性,包括微軟(Microsoft)、亞馬遜(Amazon)、OpenAI,都試圖開發的晶片,不希望過度依賴輝達,因此輝達未來發展,不能單靠晶片,公司想要持續成長,必須要創造另一個收入來源。
另外,更重要的是,這項服務使得企業更容易採用生成式AI產品。
歐唐納爾點出,現在許多企業即便對生成式AI深感興趣,「但實際使用上面臨很大挑戰」,因此需要更多工具輔助,才能創建自己的生成式AI應用程式。
歐唐納爾也提到輝達面臨的挑戰,包括「AI晶片短缺」的情況還是存在,訂單量顯然很大,「他們(輝達)如何增加晶片的供應會是考驗」。
此外,還有訓練的問題,編寫生成式AI的應用程式非常複雜困難,需要很長的時間,如何讓更多企業創建應用程式,也涉及未來發展。
歐唐納爾是科技業分析機構TECHnaanalysis Research總裁兼首席分析師,造訪過台灣15次,今年2024台北國際電腦展(COMPUTEX 2024)將再度訪台。
(中央社)
趁三大法人狂買時動手!國家隊本周出貨聯電、力積電近2.3萬張...提款破10億 再倒貨力成抱回7.7億元
校園唱一半女學生上台熱舞!男歌手擺臭臉不唱了 事後拍片道歉挨罵:EQ低還自以為大氣
搶進邊緣AI+矽光子!三大法人砸60億掃貨「這檔」12萬張 力積電也遭鎖定捧27億元齊搶
11月營收年增206%!這「廠務工程廠」在手訂單有望衝百億 股價週漲26.03%飆新高
電子五哥「這檔」與奇鋐參戰確認!009809成分股13進10出 聯電旗下IC設計大廠遭踢出
俄烏終戰還很遠?歐烏修改美和平方案未出爐 俄先嗆:不可能提高和平可能
騙上車的傢伙!「這檔」漲停隔天慘崩6%韭菜割一堆 30萬張當沖華邦電也哀號
金融股漲不停!國泰金市值衝台股第六、台新新光金連4漲近11% 引網論戰:重返榮耀vs.最後一棒
AI訂單不斷...目標價上看330元!國家隊週砸23億寵電子五哥「這檔」 瘋搶華邦電3.1萬張入袋
升息太香!國家隊建倉00918一整週 進貨主動式4檔...「這新兵」2天獲掃3.6萬張超狂
花4萬8買24顆生存遊戲煙霧彈!「孤狼」張文網購1年半準備犯案 LINE只有2聯絡人
產品報價低檔!「面板雙虎」遭三大法人提款18.52億元 這檔被連賣8天大砍近13萬張
小心機票「改名收費陷阱」多!消基會籲資訊揭露清楚、納定型化契約
連14周出清0050!外資再砍22萬張抱142億元離席 2檔主動式ETF也遭棄…失血3.9億元
黃媽媽私房雞肉員工拍抖音「模仿張文」 負責人鞠躬致歉:即刻解除職務
買房前為頭期款布局ETF?他想滾大又怕翻車 家人推「這檔」引熱議
年薪破百仍心慌!他想貸1600萬買桃園預售屋 網提醒:要看「這些條件」
大罷免沒有獨斷!柯建銘曝:都有跟賴清德報告
王金平撇鄭麗文「讓柯志恩代表國民黨」 柯回禮明年請王金平「坐市長就職典禮C位」
11月營收年增近70%!「這檔」攻漲停噴連2漲12.15% 光電、綠能雙引擎發威
您已閒置超過五分鐘,請點擊右上角關閉按鈕