当前位置:首页>AI动向>OpenAI微调支持function calling

OpenAI微调支持function calling

站长之家(ChinaZ.com)10月7日 消息:OpenAI的Fine-tuning支持function calling(函数调用)。在API中,包含一长串函数可能会消耗大量提示令牌,有时模型会产生幻觉或无法提供有效的JSON输出。

使用函数调用示例微调模型可以带来以下好处:

即使没有完整的函数定义,也可以获得类似格式的响应。

能够获得更准确和一致的输出。

什么是function calling(函数调用)?

尽管GPT非常强大,但在某些方面可能不够强大,或者您希望它能够调用您的工具来执行特定任务,这时候就需要使用函数调用。通过在提示中告诉GPT哪些工具可用,这些工具的功能是什么,以及它们需要什么样的参数格式。当GPT判断需要使用工具时,它会返回符合格式的参数,然后您的程序将执行相关函数,并将结果返回给GPT。

OpenAI微调支持function calling

image.png© 由 站长之家 提供

函数调用的示例:

假设GPT的乘法表现不佳,您可以编写一个计算器工具。使用GPT的API时,您可以在提示中告诉GPT有一个计算器工具,当遇到乘法问题时,提供乘数和被乘数,然后调用计算器。实际执行过程是这样的:GPT检测到乘法问题,返回乘数和被乘数,计算器执行乘法计算,将结果和之前的信息返回给GPT以继续处理。

函数调用的一个缺点是每次提示都需要包含function说明,这会消耗token。而在微调中,不是使用您的个人知识库,而是使用了一个包含各种工具的工具箱,GPT知道可以使用哪些工具,因此不需要每次在提示中添加说明。官方建议,为了提高准确性,微调后仍然建议包括function说明。

原文连接

声明:学AI网所有文章,如无特殊说明或标注,均为本站作者原创发布。任何个人或组织,在未征得作者同意时,禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若此作者内容侵犯了原著者的合法权益,可联系客服或提交工单进行处理。学AI网内用户所发表的所有内容及言论仅代表其本人,并不反映任何学AI网之意见及观点。
0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
购物车
优惠劵
今日签到
有新私信 私信列表
搜索