當(dāng)前熱訊:ChatGPT大升級(jí)!更便宜,更快,允許更長(zhǎng)文本,最重磅的是“調(diào)用函數(shù)”
2023-06-14 13:05:44    騰訊網(wǎng)

ChatGPT大升級(jí)!更便宜,更快,允許更長(zhǎng)文本,最重磅的是“調(diào)用函數(shù)”

隔夜,OpenAI迎來重磅更新和降價(jià)!


(資料圖片)

當(dāng)?shù)貢r(shí)間6月13日,OpenAI官網(wǎng)宣布“更新更可調(diào)的API模型、函數(shù)調(diào)用功能(Function calling)、更長(zhǎng)的上下文和更低的價(jià)格”,發(fā)布更高效更低成本的版本。

其中最重磅的更新是函數(shù)調(diào)用能力。

據(jù)OpenAI介紹,開發(fā)者現(xiàn)在可以向gpt-4-0613和gpt-3.5-turbo-0613兩個(gè)模型描述函數(shù),并讓模型智能地選擇輸出一個(gè)包含參數(shù)的JSON(JavaScript Object Notation,一種數(shù)據(jù)交換的文本格式)對(duì)象,來調(diào)用這些函數(shù)。若將GPT功能與外部工具或API進(jìn)行連接,這種方法更加可靠。

在英偉達(dá)首席科學(xué)家Jim Fan看來,函數(shù)調(diào)用=更好利用API工具=更強(qiáng)大的LLM與數(shù)字執(zhí)行器(Digital Actuator)。

簡(jiǎn)單來說,GPT不再需要開發(fā)者描述復(fù)雜的提示語(yǔ),它自己能夠決定是否動(dòng)用外部工具來解決問題,不僅顯著提高了反應(yīng)速度,還大大降低了出錯(cuò)的可能性。

比如,如果用戶問GPT:今天的天氣如何,它會(huì)自動(dòng)調(diào)用第三方天氣API,檢索相關(guān)數(shù)據(jù)并做出準(zhǔn)確回答。

大幅降價(jià)也令開發(fā)員為之歡呼。

官網(wǎng)公告顯示,不同版本降價(jià)幅度不同,OpenAI最先進(jìn)、用戶最多的嵌入模型Text-embedding-ada-002降價(jià)75%;用戶最多的聊天模型gpt-3.5-turbo降價(jià)25%。

此外,OpenAI還推出了gpt4-16k平替版——gpt-3.5-turbo-16k,價(jià)格為每輸入1000 tokens 0.003美元,相當(dāng)于降價(jià)95%!

值得注意的是,gpt-3.5-turbo-16k能夠?qū)崿F(xiàn)16000 tokens的上下文長(zhǎng)度,相當(dāng)于普通版gpt-3.5-turbo的4倍。而在價(jià)格方面,gpt-3.5-turbo-16k只是gpt-3.5-turbo的兩倍。

不過,該模型一次只能讀取大約20頁(yè)的文本,明顯低于AI初創(chuàng)公司Anthropic的旗艦?zāi)P?,該模型可以處理?shù)百頁(yè)文本。

也與此同時(shí),OpenAI宣布,未來幾周內(nèi)將邀請(qǐng)更多人試用GPT-4。

眾所周知,開發(fā)像ChatGPT這樣的大語(yǔ)言模型成本巨大,如今OpenAI在升級(jí)模型的同時(shí)大幅降價(jià),底氣何在?

當(dāng)?shù)貢r(shí)間周二,OpenAI 首席執(zhí)行官 Sam Altman在新加坡管理大學(xué)演講時(shí)表示,OpenAI 每三個(gè)月左右就能將推理成本降低90%。

我們希望不斷降低情報(bào)成本。我們希望讓這些東西變得非常便宜,便宜到你根本不需要猶豫。

“我們計(jì)劃在未來繼續(xù)大幅削減成本。我們必須不斷取得研究突破,才能做到這一點(diǎn),”他補(bǔ)充說。

Altman還表示:

我們擁有足夠復(fù)雜的語(yǔ)言(模型)和足夠強(qiáng)大的計(jì)算機(jī),我們可以讓AI越來越大。

我們將使模型更有效率。我們要?jiǎng)?chuàng)造更多籌碼。我認(rèn)為這顯然是世界想要的,市場(chǎng)也會(huì)提供。

本文不構(gòu)成個(gè)人投資建議,不代表平臺(tái)觀點(diǎn),市場(chǎng)有風(fēng)險(xiǎn),投資需謹(jǐn)慎,請(qǐng)獨(dú)立判斷和決策。

關(guān)鍵詞: