在让 OpenAI 的模型补全文本的时候,我们可以提供一个开头,还有结尾,让模型负责编写中间过渡的部分。我们先这样试一下,写一段 prompt,叮,我收到一条短信,显示我的招行里存入了五个亿,点击 submit ,模型补全的文本比较随意。
下面改变一下 Playground 的 Mode,现在用的是 Complete,把它改成 Insert。改一下 temperature,可以改成 1,让模型的胆子大一些。再把最大长度再改的大一些。
然后写一段 Prompt,这段 Prompt 跟之前是一样的,在它后面加上一个方括号 insert,最后再加上一个结尾的 prompt。比如想想当初与好友一起创业的日子,真的像是在做梦一样。
这里写的 Prompt 其实有两个,一个是 insert 前面的这部分,还有一个是 insert 后面的这部分,模型会在[insert] 这里插入文本。点击 submit,提交请求。模型会根据开头还有结尾,在它们之间生成一些过渡内容。
view code
在 Playground 这里,可以点击 View code ,可以查看如何使用代码的方式请求应用接口,当前选择的是使用 python 请求应用接口,点击这个下拉菜单,可以选择查看其它的方式,比如 node.js,这里显示的就是使用 openai 提供的 node.js 软件包请求 openai 的应用接口。
再试一下 json,显示的就是如果直接使用 http 客户端,请求 openai 接口的时候,应该在请求主体里带的数据。你会发现,请求的接口仍然是这个 completions,在请求的主体数据里面,有一个 prompt ,它的值可以看成是开头,另外还有一个 suffix,它的值是结尾。
复制一下这个 json 数据,然后在 http 客户端测试一下,请求的方法是 POST,地址是 openai 的 completions 接口,把复制的内容作为请求的主体数据,另外需要配置一下请求的身份验证,需要带着 openai 的密钥。
发送一下请求,可以得到模型补全的文本。