今天,OpenAI 剛剛公佈了其大型語言模型的最新版本 ——GPT-4。
官方表示,GPT-4 比以前的版本「更大」,這意味著它已經借助比前輩更多的資料進行了訓練,並且在模型檔案中有更多的權重,從而使得它的運行成本更高。就任務而言,GPT-4 的表現比前輩更好,它可以遵循自然語言的複雜指令並生成技術或創意內容,而且它可以還更深入地做到這一點:它支援生成和處理多達 32768 個標記(約 25000 個文字單詞),從而實現比前輩更長的內容建立或文字分析。
大型語言模型可以說已經變成一種寡頭壟斷市場,因為建立每一個性能更好的語言模型所需的資本/運算/資料規模成本目前已有據可循。如果 GPT-3 當時的訓練成本是幾百萬到千萬美元左右的話,從零開始訓練的 GPT-4 成本可能估計在幾千萬美元到一億美元之間,也許 GPT-5 是幾億美元,GPT- N 是十億美元。
當然,這是在假設成本的增長速度快於技術突破或 GPU 下降速度(或專用硬體成本下降)的前提下,這些假設也有可能是錯的。
另外,還有用戶的價格的部分,隨著大型語言模型(LLM)的處理能力的價格下降,讓使用者更樂於使用,當然有助於這項技術更快地進入主流。
過去,由於大型語言模型公司 OpenAI、Anthropic 和 Cohere 之間的激烈競爭,大型語言模型訓練的成本差異下降到只有約 5%。但是,雖然目前為止各家AI都還沒賺到錢,身為領頭羊的OpenAI,為了提升競爭力,更是直接將使用這項技術的價格削減了90%。
畢竟OpenAI背後還有一個富爸爸微軟拿著鈔票在支持著,但這對競爭對手來說可能是毀滅性的戰略。另外,OpenAI 的 ChatGPT 大幅降價將會讓更多的使用者參與進來,硬體廠商也會設計更高性能的晶片,例如 NVIDIAH100 GPU。
不過,AI21聯席首席執行長奧利·格申(Ori Goshen)表示,大部分公司不會使用ChatGPT的通用模型,而是需要針對金融或醫療等行業訓練的模型,或是基於某個公司自有資料訓練的模型。
ChatGPT的更新、降價僅是開始,這項技術將會以飛快的速度進入大規模商用,同時也表明OpenAI要吃下市場的決心,目前放眼看去能有實力與其抗爭的公司寥寥可數。不論如何,在競爭對手還忙著與GPT-3糾纏的時候,OpenAI 現在這個時候推出GPT-4,價格也是白菜價,等於是在跑道上足足領先了一圈半,讓對手根本追趕不上。
請注意!留言要自負法律責任,相關案例層出不窮,請慎重發文!