Copyright 2017-2025 北方報 版權(quán)所有 京ICP備16071829-1號
為了爭奪有限的GPU,OpenAI內(nèi)部一度打得不可開交。2024年總算力投入70億美元,但算力需求依舊是無底洞。恰恰,微軟發(fā)布了全球首臺GB300超算,專供OpenAI讓萬億LLM數(shù)天訓完。
過去一年,OpenAI在算力上斥資70億美元。
其中,大模型研發(fā)占了最大頭——50億美元,而推理計算僅用了20億美元。
可見,LLM訓練正吞噬無盡的算力,這也是OpenAI最近一直在大舉擴展超算建設(shè)與合作的重要原因。
采訪中,OpenAI總裁Greg Brockman坦言,「內(nèi)部如何分配GPU,簡直就是一場痛苦與煎熬」。
OpenAI各個團隊爭搶GPU,那叫一個激烈。最頭疼的是,如何去合理分配。
如今,甲骨文、英偉達、AMD等芯片巨頭/云服務(wù)巨頭,紛紛與OpenAI聯(lián)結(jié),能夠解其燃眉之急。
這不,就連曾經(jīng)最大的「金主爸爸」微軟也上陣了。
納德拉官宣,全球首個配備4600+ GB300的超算率先上線,專攻OpenAI。預計,未來將擴展到十萬塊GPU。