这里是聚媒观察室,带你智见AI新风向。
果然竞争压力才是第一生产力!一夜之间,又出奇招,再次迎来进化!
01
一夜之间又更新
官推已经帮我们划出了本次更新的重点:GPT-4和GPT-3.5 Turbo模型的API支持自定义函数调用。也就是说,开发者可以通过调用API的函数,为GPT增加一些自定义的功能与服务。
还有——降价和推出新的模型版本(包括GPT-3.的语境窗口升级)。
加量还降价,这次玩挺大!
来看看这次更新的内容——
02
API 函数调用新功能
宣布,新版GPT-4和GPT-3.5支持函数调用功能,使开发者可以更可靠地将GPT的能力与外部工具和API连接起来。基于的能力不再局限于对文本简单的理解和生成,而是可以完成更为复杂的任务、提供自定义操作和定制化服务。
有了函数调用功能的模型,可以检测到什么时候需要调用一个函数,并可以让 API 用户更容易地生成 JSON 格式的输出。
也在官网给出了函数调用功能启用的三个例子。
调用外部API完成指令或回答问题
将诸如 “给Anya发邮件,看她下周五是否想喝咖啡 “这样的自然语言指令转换为(to: , body: )这样的函数调用,或者将 “波士顿的天气如何?”转换为(: , unit: ” | ”)。
将自然语言转换为API调用或数据库查询
将 “谁是我这个月的十大客户?”转换成内部API调用,如enue(: , : , limit: int),或将 “Acme, Inc.上个月有多少订单?”转换成SQL查询,使用(query: )。
从文本中提取结构化数据
为获取一篇维基文章中提到的人物信息,只需给出网址,并定义一个名为(: [{name: , : , : }]的函数,就可以直接获取姓名、生日、地理位置等信息数据。
马上就有网友上手,直接在里展示了一把函数查询功能。
定义功能函数,想要知道每一任美国总统的出生及死亡日期。然后只需输入相应的函数和变量,就可以让GPT进行更直观的回答。
03
语境加量,价格更低!
GPT 3.5和GPT 4 此次都推出了扩大语境窗口的版本——GPT-3.5-turbo-16k 和GPT-4-32k-0613。
而除了GPT-3.5-turbo-16k,其他模型也都更新支持了函数调用功能,包括GPT-3.5-turbo-0613、GPT-4-0613和GPT-4-32k-0613。
除了函数调用功能,此次更新的另一大亮点就是扩大语境窗口了。
GPT-3.5-turbo 16K,顾名思义,有着16k的语境窗口,可以处理长度达到 16000 个 token 的输入,这意味着可以一次处理大约 20 页的文本,这对于需要模型处理和生成较大文本块的开发者来说是一个很大的提升。使开发者能够更有效地引导模型的响应。
如上,一位为此次语境窗口的更新扩大举了一个简单直观的例子。可以看到,更大的语境窗口,允许更多的token处理,才能使提示词更好地响应。
此外,还有网友提到GPT-3.5 turbo 16K的响应速度好像异常之快。
而同时,迎新也要除旧,宣布逐渐废弃旧模型。
使用初始版本GPT-3.5-turbo、GPT-4和GPT-4-32k的应用将于6月27日自动升级到新版本。而需要更多时间过渡的开发者也可以手动选择继续使用旧版本,但9月13日之后所有旧版本请求将彻底废弃。
至于最激动人心的,一定是降价!
GPT-3.5-turbo(4k token版)输入token降价25%,现在0.0015美元每千token,也就是1美元66.6万输入token。而输出每千token的价格则为0.002美元,也就是1美元50万输出token。
而新推出的GPT-3.5-turbo-16k的价格只是此前GPT-3.5-turbo-4k的两倍,也就是说,4倍质量的服务,只要2倍的价格就可以体验。每千输入token价格为0.003美元,每千输出token在0.004美元。
而嵌入模型text–ada-002更是“大甩卖”,降价75%,至每千token 0.0001美元。10美元就是一个小目标的token数量!
04
享受更新版本不用等太久
宣布,在这次的新版本更新发布后,将在未来几周内邀请更多等待名单上的人试用GPT-4,直到清空排队列表!
看来的狂飙暂时仍不会停止,开发者们最好也加快步伐,跟上这种节奏!