隔夜,OpenAI迎來重磅更新和降價!
(資料圖片)
當(dāng)?shù)貢r間6月13日,OpenAI官網(wǎng)宣布“更新更可調(diào)的API模型、函數(shù)調(diào)用功能(Function calling)、更長的上下文和更低的價格”,發(fā)布更高效更低成本的版本。
其中最重磅的更新是函數(shù)調(diào)用能力。
據(jù)OpenAI介紹,開發(fā)者現(xiàn)在可以向gpt-4-0613和gpt-3.5-turbo-0613兩個模型描述函數(shù),并讓模型智能地選擇輸出一個包含參數(shù)的JSON(JavaScript Object Notation,一種數(shù)據(jù)交換的文本格式)對象,來調(diào)用這些函數(shù)。若將GPT功能與外部工具或API進行連接,這種方法更加可靠。
在英偉達(dá)首席科學(xué)家Jim Fan看來,函數(shù)調(diào)用=更好利用API工具=更強大的LLM與數(shù)字執(zhí)行器(Digital Actuator)。
簡單來說,GPT不再需要開發(fā)者描述復(fù)雜的提示語,它自己能夠決定是否動用外部工具來解決問題,不僅顯著提高了反應(yīng)速度,還大大降低了出錯的可能性。
比如,如果用戶問GPT:今天的天氣如何,它會自動調(diào)用第三方天氣API,檢索相關(guān)數(shù)據(jù)并做出準(zhǔn)確回答。
大幅降價也令開發(fā)員為之歡呼。
官網(wǎng)公告顯示,不同版本降價幅度不同,OpenAI最先進、用戶最多的嵌入模型Text-embedding-ada-002降價75%;用戶最多的聊天模型gpt-3.5-turbo降價25%。
此外,OpenAI還推出了gpt4-16k平替版——gpt-3.5-turbo-16k,價格為每輸入1000 tokens 0.003美元,相當(dāng)于降價95%!
值得注意的是,gpt-3.5-turbo-16k能夠?qū)崿F(xiàn)16000 tokens的上下文長度,相當(dāng)于普通版gpt-3.5-turbo的4倍。而在價格方面,gpt-3.5-turbo-16k只是gpt-3.5-turbo的兩倍。
不過,該模型一次只能讀取大約20頁的文本,明顯低于AI初創(chuàng)公司Anthropic的旗艦?zāi)P停撃P涂梢蕴幚頂?shù)百頁文本。
也與此同時,OpenAI宣布,未來幾周內(nèi)將邀請更多人試用GPT-4。
眾所周知,開發(fā)像ChatGPT這樣的大語言模型成本巨大,如今OpenAI在升級模型的同時大幅降價,底氣何在?
當(dāng)?shù)貢r間周二,OpenAI 首席執(zhí)行官 Sam Altman在新加坡管理大學(xué)演講時表示,OpenAI 每三個月左右就能將推理成本降低90%。
我們希望不斷降低情報成本。我們希望讓這些東西變得非常便宜,便宜到你根本不需要猶豫。
“我們計劃在未來繼續(xù)大幅削減成本。我們必須不斷取得研究突破,才能做到這一點,”他補充說。
Altman還表示:
我們擁有足夠復(fù)雜的語言(模型)和足夠強大的計算機,我們可以讓AI越來越大。
我們將使模型更有效率。我們要創(chuàng)造更多籌碼。我認(rèn)為這顯然是世界想要的,市場也會提供。
本文不構(gòu)成個人投資建議,不代表平臺觀點,市場有風(fēng)險,投資需謹(jǐn)慎,請獨立判斷和決策。
關(guān)鍵詞: