當(dāng)前熱訊:ChatGPT大升級!更便宜,更快,允許更長文本,最重磅的是“調(diào)用函數(shù)”
2023-06-14 13:05:44    騰訊網(wǎng)

ChatGPT大升級!更便宜,更快,允許更長文本,最重磅的是“調(diào)用函數(shù)”

隔夜,OpenAI迎來重磅更新和降價!


(資料圖片)

當(dāng)?shù)貢r間6月13日,OpenAI官網(wǎng)宣布“更新更可調(diào)的API模型、函數(shù)調(diào)用功能(Function calling)、更長的上下文和更低的價格”,發(fā)布更高效更低成本的版本。

其中最重磅的更新是函數(shù)調(diào)用能力。

據(jù)OpenAI介紹,開發(fā)者現(xiàn)在可以向gpt-4-0613和gpt-3.5-turbo-0613兩個模型描述函數(shù),并讓模型智能地選擇輸出一個包含參數(shù)的JSON(JavaScript Object Notation,一種數(shù)據(jù)交換的文本格式)對象,來調(diào)用這些函數(shù)。若將GPT功能與外部工具或API進行連接,這種方法更加可靠。

在英偉達(dá)首席科學(xué)家Jim Fan看來,函數(shù)調(diào)用=更好利用API工具=更強大的LLM與數(shù)字執(zhí)行器(Digital Actuator)。

簡單來說,GPT不再需要開發(fā)者描述復(fù)雜的提示語,它自己能夠決定是否動用外部工具來解決問題,不僅顯著提高了反應(yīng)速度,還大大降低了出錯的可能性。

比如,如果用戶問GPT:今天的天氣如何,它會自動調(diào)用第三方天氣API,檢索相關(guān)數(shù)據(jù)并做出準(zhǔn)確回答。

大幅降價也令開發(fā)員為之歡呼。

官網(wǎng)公告顯示,不同版本降價幅度不同,OpenAI最先進、用戶最多的嵌入模型Text-embedding-ada-002降價75%;用戶最多的聊天模型gpt-3.5-turbo降價25%。

此外,OpenAI還推出了gpt4-16k平替版——gpt-3.5-turbo-16k,價格為每輸入1000 tokens 0.003美元,相當(dāng)于降價95%!

值得注意的是,gpt-3.5-turbo-16k能夠?qū)崿F(xiàn)16000 tokens的上下文長度,相當(dāng)于普通版gpt-3.5-turbo的4倍。而在價格方面,gpt-3.5-turbo-16k只是gpt-3.5-turbo的兩倍。

不過,該模型一次只能讀取大約20頁的文本,明顯低于AI初創(chuàng)公司Anthropic的旗艦?zāi)P停撃P涂梢蕴幚頂?shù)百頁文本。

也與此同時,OpenAI宣布,未來幾周內(nèi)將邀請更多人試用GPT-4。

眾所周知,開發(fā)像ChatGPT這樣的大語言模型成本巨大,如今OpenAI在升級模型的同時大幅降價,底氣何在?

當(dāng)?shù)貢r間周二,OpenAI 首席執(zhí)行官 Sam Altman在新加坡管理大學(xué)演講時表示,OpenAI 每三個月左右就能將推理成本降低90%。

我們希望不斷降低情報成本。我們希望讓這些東西變得非常便宜,便宜到你根本不需要猶豫。

“我們計劃在未來繼續(xù)大幅削減成本。我們必須不斷取得研究突破,才能做到這一點,”他補充說。

Altman還表示:

我們擁有足夠復(fù)雜的語言(模型)和足夠強大的計算機,我們可以讓AI越來越大。

我們將使模型更有效率。我們要創(chuàng)造更多籌碼。我認(rèn)為這顯然是世界想要的,市場也會提供。

本文不構(gòu)成個人投資建議,不代表平臺觀點,市場有風(fēng)險,投資需謹(jǐn)慎,請獨立判斷和決策。

關(guān)鍵詞: