... 年確保電力來源,假設GPU經濟壽命為6年,數據中心開發商或願意支付101%溢價;假設GPU經濟壽命為10年,則 ...全文
... H200圖像處理器(GPU)使用的高頻寬記憶體(HBM)。H200用於人工智能(AI)應用,HBM則是在開發A ...全文
... Core圖像處理器(GPU);單一H100 GPU一秒鐘完成的乘法運算,該校5萬名學生需要22年才能完成。 喬 ...全文
今日信報財經新聞EJ Tech 創科鬥室2024年04月12日
... 美元來自從CPU轉向GPU的加速運算,另外1萬億美元為升級AI加速運算的周邊配置,如記憶體及高速傳輸晶片等。 ...全文
... H100圖像處理器(GPU)相比,Gaudi 3推理能力平均提高50%,能源效率平均增40%。 新款Gaudi ...全文
今日信報財經新聞EJ Tech 創科鬥室2024年04月11日
如今要訓練人工智能(AI),圖像處理器(GPU)不可或缺,然而一般初創難以負擔昂貴成本。香港人工智能及數據實驗 ...全文
今日信報財經新聞EJ Tech 創科鬥室2024年04月05日
... 發展自己製造這些高端GPU的能力。 蔡崇信指出,缺乏晶片是一個大問題。這是每個人都在努力解決的問題。但從短期來 ...全文
... taFLOPS,營運GPU數量達45000卡,由此支持「日日新」大模型體系高速迭代至4.0版本,在多個場景中達 ...全文
... 在數據中心投資(屬於GPU密集型)上。不過,終端設備AI晶片和AI邊緣運算,能夠提供低延遲和個性化的生成式AI ...全文
... 現時的Hopper GPU在訓練大語言模型時快4倍,在推理上快7倍。黃仁勳表示,過去8年輝達把AI的算力提高了 ...全文
... 在數據中心投資(屬於GPU密集型)。不過,終端設備AI晶片和AI邊緣運算,能夠提供低延遲和個性化的生成式AI服 ...全文
... Blackwell GPU(圖像處理器)及一個採用ARM架構的Grace CPU(中央處理器),推理模型性能比 ...全文
今日信報財經新聞EJ Tech 創科鬥室2024年03月20日
... 型規模達3140億,GPU(圖像處理器)需要有足夠記憶體(例如628GB),相當於輝達HGX 8×H100(每 ...全文
今日信報財經新聞EJ Tech 創科鬥室2024年03月19日
... 叫它設計一塊更厲害的GPU,不然輝達(Nvidia)早就關門了。離AI能大規模提升企業盈利,大概還有一段時間。 ...全文
... ,較一般圖像處理器(GPU)減少97%。 合作關係方面,Cerebras夥拍阿聯酋阿布扎比企業G42,建設下一 ...全文
今日信報財經新聞EJ Tech 創科鬥室2024年03月15日
... ,輝達的圖像處理器(GPU)非常好,揚言「即使競爭對手的晶片是免費,但它亦不夠便宜」,暗示就算免費也無法跟輝達 ...全文
今日信報財經新聞EJ Tech 創科鬥室2024年03月12日
... 而導致的圖像處理器(GPU)短缺問題已開始紓緩,GPU的等候發貨時間正在縮短,由之前的8至11個月縮至約3至4 ...全文