随着生成型AI领域的竞争愈发激烈,OpenAI正在升级其文本生成模型,同时降低价格。
今天,OpenAI宣布发布GPT-3.5-turbo和GPT-4的新版本,后者是其最新的文本生成AI,具有被称为函数调用的能力。OpenAI在一篇博客文章中解释,函数调用允许开发人员向GPT-3.5-turbo和GPT-4描述编程功能,并让这些模型创建代码来执行这些函数。
例如,函数调用可以帮助创建通过调用外部工具来回答问题的聊天机器人,将自然语言转化为数据库查询,并从文本中提取结构化数据。OpenAI写道:“这些模型已经过微调,既可以检测何时需要调用一个函数……也能够以符合函数签名的方式回应JSON。函数调用允许开发者更可靠地从模型中获取结构化数据。”
除函数调用外,OpenAI还推出了一款具有大幅扩展上下文窗口的GPT-3.5-turbo版本。上下文窗口,用文本标记或原始文本片段进行衡量,是指模型在生成任何附加文本之前考虑的文本。上下文窗口小的模型往往会“忘记”即使是最近的对话内容,导致它们离题——往往是以问题性的方式。
新的GPT-3.5-turbo提供了四倍于原版GPT-3.5-turbo的上下文长度(16,000个标记),价格是原版的两倍——每1,000个输入标记(即输入模型的标记)0.003美元,每1,000个输出标记(模型生成的标记)0.004美元。OpenAI表示,它可以在一次处理中处理大约20页的文本——这远远不能与AI初创公司Anthropic的旗舰模型所能处理的数百页相比。(OpenAI正在测试一种具有32,000标记上下文窗口的GPT-4版本,但只在有限发布中。)
值得欣慰的是,OpenAI表示,它正在降低GPT-3.5-turbo的价格——这指的是原版,而不是具有扩展上下文窗口的版本——降价25%。开发者现在可以用每1,000个输入标记0.0015美元,每1,000个输出标记0.002美元的价格使用这个模型,这大约相当于每美元可以处理700页。
同时,OpenAI也正在降低text-embedding-ada-002的价格,这是OpenAI更受欢迎的文本嵌入模型之一。文本嵌入度量了文本字符串的相关性,通常用于搜索(结果按照与查询字符串的相关性进行排序)和推荐(推荐具有相关文本字符串的项目)。
Text-embedding-ada-002现在的价格是每1,000个标记0.0001美元,比之前的价格降低了75%。OpenAI表示,由于其系统效率的提高,使得价格降低成为可能——这无疑是这家初创公司关注的关键领域,因为它在研发和基础设施上投入了数亿美元。
OpenAI已经表明,在3月初发布GPT-4之后,对现有模型进行渐进式更新,而不是从零开始开发全新的大模型,是其接下来的主要策略。在Economic Times最近主办的一次会议上,首席执行官Sam Altman重申,OpenAI还没有开始训练GPT-4的后继者,这表明该公司在启动该模型之前还有很多工作要做。
总结一下:
`gpt-4-0613` 包括一个更新和改进的模型,带有函数调用。
`gpt-4-32k-0613` 包括与 `gpt-4-0613` 相同的改进,同时上下文长度再度扩展,以便更好地理解更大的文本。
未来几周内邀请候补名单中的更多人试用 GPT-4,直到完全删除候补名单
新的GPT-3.5 Turbo和16K模型
`gpt-3.5-turbo-0613` 包括与 GPT-4 相同的函数调用以及通过系统消息提供的更可靠的可控性。
`gpt-3.5-turbo-16k` 的16k 上下文意味着该模型现在可以在单个请求中支持约 20 页文本。
然后是Function calling 函数调用
开发人员现在可以向 `gpt-4-0613` 和 `gpt-3.5-turbo-0613` 描述函数,并让模型智能地选择输出包含调用这些函数的参数的 JSON 对象。这是一种更可靠地将 GPT 功能与外部工具和 API 连接的新方法。
最后是价格调整
`text-embedding-ada-002` 将成本降低 75% 至每 1K Token 0.0001 美元。
`gpt-3.5-turbo-16k` 的定价为每 1K 输入Token 0.003 美元,每 1K 输出Token 0.004 美元。
`gpt-3.5-turbo’s` 输入Token的成本降低了 25%