openai文本补全chatgpt,用nextjs以流输出结果的方法二
上一篇讲到openai文本补全功能,nextjs给出参考的例子,但是这个例子有很多弊端,不好用,所以又查找大量资料后,用axios可以实现流的输出。
为什么要用流输出?openai生成文本过程比较慢,等待时间长,用流输出可以快速输出内容(经测试这个速度是可以接受的)。
//api 内容
import { Configuration, OpenAIApi } from 'openai'const configuration = new Configuration({apiKey: process.env.OPENAI_API_KEY,
});
export default async (req, res, locale) => {const { prompt, temperature } = req.bodyconst payload = {model: "text-davinci-003",prompt,temperature: temperature ? temperature : 0.7,top_p: 1,frequency_penalty: 0,presence_penalty: 0,// max_tokens: max_tokens,stream: true,n: 1,};console.log("openai.createCompletion", payload);const openai = new OpenAIApi(configuration);const response = openai.createCompletion(payload, { responseType
本文来自互联网用户投稿,文章观点仅代表作者本人,不代表本站立场,不承担相关法律责任。如若转载,请注明出处。 如若内容造成侵权/违法违规/事实不符,请点击【内容举报】进行投诉反馈!
