[置頂]興哥就事論事 EP248 老黃一席話 輝達瘋狂?

輝達兩大利多! 利多一:黃仁勳稱Blackwell投產 需求”瘋狂” 輝達.台積電ADR嗨

輝達聲稱次世代Blackwell架構繪圖處理器(GPU)的需求可以「瘋狂」(insane)來形容,股價應聲跳高。

  • 輝達執行長黃仁勳(Jensen Huang) 2024/10/2接受專訪,Blackwell晶片一如規劃進入全面量產,需求「瘋狂」,「每個人都想拿到最多貨、想要衝第一」。黃仁勳:科技進展速度變得這麼快,讓輝達得以押三倍賭注、驅動創新循環,藉此提升能力、產出並降低成本及能源消耗量。
  • 輝達計畫每年更新AI平台,將運算效能提升2~3倍。輝達10/3聞訊跳漲3.37%、收122.85美元,漲幅居費城半導體指數30支成分股之冠。輝達晶圓代工夥伴台積電ADR同步上揚2.09%、收179.48美元。
  • 輝達財務長Colette Kress 在8/28曾透過財報新聞稿表示,Blackwell架構晶片的樣本已於第二季度(5-7月)出貨給客戶,該公司修改了Blackwell GPU光罩(mask)以改善製造良率。
  • Kress指出,Blackwell產能規劃將自第四季度(11-1月)開始放量、並一路持續至2026會計年度。展望Q4,輝達預測Blackwell相關營收有望達數十億美元。另外,Hopper晶片需求目前仍強,預計2025會計年度下半年的出貨有望增加。

輝達Blackwell

輝達兩大利多! 利多二:輝達結盟埃森哲,擴大企業AI運用

  • 輝達與管理顧問機構-埃森哲(Accenture)擴大合作,為全球企業擴展代理AI。
  • 黃仁勳與埃森哲執行長 茱莉·史威特(Julie Sweet) 2024/10/2下午接受CNBC的Closing Bell: Overtime節目訪問:輝達和埃森哲宣布擴大合作夥伴關係,組成新業務集團,全球有3萬名專業培訓人員,協助全球企業快速擴大AI的採用規模。他們在4個月前提出這項構想,以協助全球企業快速擴大採用AI,使AI成為他們的數位員工、AI顧問,甚至是合作夥伴,以提高生產力。
  • 埃森哲的AI Refinery平台結合輝達技術,能夠整合行銷功能與自主代理,以幫助更快地生成和執行更有效的行銷活動,史威特表示,過程中手動步驟減少25%至35%,成本省下6%,預計上市速度加快25%至55%。
  • 代理AI系統代表AI新一代躍進,毋須人工輸入提示或自動執行預設的業務步驟,而是可以根據用戶的意圖調整,創建全新工作流程,並根據其環境彈性調整操作,進而重新生成全部的流程或功能。

茱莉·史威特-埃森哲執行長

埃森哲(Accenture)的地位: IT巨頭、IT界的麥肯錫

  • 埃森哲(Accenture;NYSE:ACN)是一家管理諮詢、信息技術和業務流程外包的跨國公司。2021年埃森哲的營業額約505億美元,是世界上最大的管理諮詢公司和《財富》世界500強公司之一(2021年排名第258位)。
  • 埃森哲是一家非常厲害的全球專業服務公司,他們做的事情包括企業重組、業務流程規劃、外包和最新科技引進。簡單來說就是IT界的麥肯錫。
  • 其實,他們的前身是Arthur Andersen(安達信會計師事務所)的諮詢部門,1989年從安達信獨立出來,成為Andersen Consulting(安盛諮詢),後來改名為埃森哲。他們經常透過收購小公司來取得最新技術和人才,主要為全球前500大企業提供服務,以高價值的技術諮詢和落地實作聞名。
  • 2020 年1月7日,新聞報道稱,埃森哲已同意從博通手中收購原賽門鐵克擁有的 300 人的網絡安全服務部門。這筆 2 億美元的收購於2020年4月完成。

華爾街澆冷水:AI是泡沫嗎?

華爾街吹起泡沫化AI懷疑論? 真的需要蓋那麼多AI資料中心?

一名坐在第一排、來自矽谷的科技基金經理人突然舉手,「你們知道華爾街已經吹起泡沫化的AI懷疑論嗎?真的需要蓋那麼多AI資料中心?」

趨勢1:新雲端服務商崛起

「輝達親衛軍」成台廠潛力客戶

首先,這波AI資料中心風潮催生出一票新生代雲端服務商,他們的資料中心內,放的全是輝達DGX系列機櫃,只做AI運算服務。甚至因此直接被貼上輝達「親衛軍」標籤,可以優先取得搶手的GPU。這群輝達親衛軍,未來也是台灣供應鏈搶單的對象。

◆最具代表性的就是成立7年,總部在紐澤西州的CoreWeave。

  • 2024年5月,CoreWeave剛完成新一輪募資,估值暴增兩倍,達到190億美元,全用來建置純GPU的AI資料中心。
  • CoreWeave原本是一間以太幣「礦商」,為挖礦買了超過5萬顆GPU,成為北美最大以太幣礦廠,但旋即遇到2018年幣圈寒冬。CoreWeave轉而將觸角伸向AI和高速運算,因此和輝達很早結緣,輝達甚至也入股。
  • CoreWeave提供的AI雲端服務按小時出租GPU,和傳統CPU構成的資料中心相比,速度能夠提高35倍。連法國著名AI新創Mistral都是客戶。更是摩拳擦掌,要成為首批取得的地表最強AI晶片的業者。
  • CoreWeave首席策略長范圖諾:「之前是8顆GPU,現在可以將72顆GPU串在一起作為一個單元運作,我們會看到許多新應用出現,不只AI」。
  • CoreWeave崛起的最大受益者,是台灣伺服器製造廠技嘉。技嘉2023年成為台灣伺服器代工廠中唯一業績成長的業者,就是靠第四季來自AI伺服器代工大爆發的貢獻,主要便來自CoreWeave。技嘉還因此把桃園廠產線從一條擴增到三條來因應。

CoreWeave

趨勢2:黃仁勳解方「密集化」

一台新機櫃,能抵數千台伺服器

  • 在黃仁勳眼中,輝達的「地表最強AI晶片」,從另一個層次看,其實是解方。黃仁勳在9月備受注目的高盛論壇拋出一個重要關鍵字:Densification(密集化)。:「過去蓋的超大型資料中心,其實效率非常低,因為內部空蕩蕩的。」、「舉50、100、200MW的資料中心為例,其實能密集化成一個非常小的資料中心,」這體現在即將面世的GB200 NVL72系列。
  • 「只要一台,就足以替代數千個傳統的伺服器機櫃,」黃仁勳強調。因此即便一個機櫃要價高達1億台幣,但他從單位運算力來看,「是買愈多,省愈多。」一名了解輝達架構的主管分析,GB200 NVL72出現前,從伺服器到機櫃都是用銅纜線串接,百台主機串一起就有上千條線,難以維護且佔空間。
  • 新一代機櫃的創新設計,是在機櫃中完成GPU串接,接線數量及成本大減,架構密度提高,體積變小,液體散熱相對容易。「資料中心密度提高,可以節省資金、省電,效率更高,」。這是單位算力、單位能源效能,在密度更高的空間中提升。

輝達Blackwell

輝達「地表最強AI晶片」將登場 美國「資料中心廊道」

ChatGPT造就一股爆發力超越iPhone的硬體狂潮,《天下》獨家探訪匯集全球三分之一資料中心、緊鄰華府的維吉尼亞州北方,大廠搶電爭地的實況。

加州矽谷:鴻海神祕廠,試產輝達夢幻機櫃

這座掛著不起眼「Fii」招牌的低調廠房,屬於鴻海集團旗下負責伺服器業務的工業富聯,外觀與鴻海集團任何一座巨型工廠大異其趣。這是全世界第一條輝達GB200 DGX機櫃產線的所在地,專門用來小量試樣驗證,不但輝達工程師頻頻出入,連在附近上班的黃仁勳,近期都曾造訪。

為了測試一台售價將近1億台幣、重達1.5噸的GB200 DGX NVL72伺服器機櫃,該廠在半年多前,將電力系統大幅升級到超大資料中心需要的千瓩(MW)等級電力,以因應這個讓科技大廠都捧著鈔票搶購的「億元櫃」,一台算力就抵上過去一座資料中心,更抵上過去4台機櫃的耗電量。

資料中心高峰論壇 商機大餅,巴菲特鄰居也來搶灘

  • 2025年初輝達最新系列機櫃將出貨。根據輝達公布的數據,GPU功耗從700瓦增加到1000瓦,GB200的效能又比現行主流晶片提升了高達6倍。功耗大增伴隨大量熱氣,將首度採用全液冷的散熱系統。
  • 從AI資料中心能源使用效率的角度看,未來不需要在機櫃內運行風扇,風扇會消耗大量能量,用液冷系統能解決能源使用效率問題。如此巨大的轉變,讓這群遠在資料中心最前線的業者嚴陣以待。
  • 「這代表什麼意思?我告訴你,不只機櫃,連資料中心設計都和過去不同,可能都得改,」資料中心營建商CFG主任顧問麥克連語帶興奮地告訴《天下》。CFG在全美就有300多個資料中心代管商的擴建案。
  • 他指出,當前傳統資料中心設計可能得改,放入GPU的AI資料中心,用電量變大且機櫃變重,從機電到地板承重都要重新設計。改變意味機會。資料中心與居民搶電爭地的挑戰,在這群業者眼中,變成嶄新商機。
  • 創辦人和巴菲特關係深厚的Scott資料中心,最早客戶是美國國防部,後來國防部將資料中心專案帶回軍事基地,空出來約9000平方公尺的資料中心,莫拉雷諾搭上AI趨勢,力主改建成輝達H100 DGX的AI資料中心。「前前後後,花了我們15個月改建,」。
  • Scott資料中心是2006年蓋好的傳統建物,但GPU新機櫃的高度變高、重量變重,原本的大門太小,根本無法讓機櫃垂直推入。莫拉雷諾不得不把GPU模組和機櫃分開放置,運送到資料中心內再組裝起來。

興哥選股

上 / 下一篇文章

一般留言

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *