模型名称(Model)

GPT 平台支持 OpenAI GPT-3.5、GPT-4 模型。

注意:text-davinci-003、text-curie-001、text-babbage-001、text-ada-001等 GPT-3~3.5 的模型已过期失效,指向这些模型的推理任务将自动转接至 gpt-3.5-turbo 模型。

GPT-4

模型描述最大上下文长度训练数据
gpt-4比任何 gpt-3.5 型号都更强大,能够执行更复杂的任务,并针对聊天进行了优化。8K截至2021年9月
gpt-4-32K与基本 gpt-4 模式的功能相同,但上下文长度是其 4 倍。32K截至2021年9月
gpt-4-turbo与基本 gpt-4 模式的功能相同,性能变快,最大上下文长度增大到了128K。128K截至2023年4月
gpt-4o可以多模态使用,响应速度大幅度提高。128K截至2023年10月

GPT-3.5

模型描述最大上下文长度训练数据
gpt-3.5-turbo功能最强大的 GPT-3.5 型号,并针对聊天进行了优化。4K截至2021年9月
gpt-3.5-turbo-16K与标准 gpt-3.5-turbo 型号的功能相同,但上下文是其 4 倍。16K截至2021年9月

模型配置

平台以 gpt-3.5-turbo 作为默认模型。您可以通过从“GPT 模型”选项卡的“模型名称”下拉列表中选择它来更改设置。

注意:内容生成中的快捷模式功能以及批量代理中的批量编辑CSV 导入功能都使用在平台设置 - GPT 模型选项卡中设置的模型。此处所做的任何更改都将应用于这两个模块。

更改 GPT 模型

设置步骤:

  • 单击“平台设置”页面,然后查找“GPT 模型”选项卡。
  • 单击模型下拉菜单以显示可供选择的可用 GPT 模型。
  • 通过单击从列表中选择所需的型号。
  • 选择模型后,单击“保存”按钮以保存更改。
  • 您的 GPT 模型现在将更改为您选择的模型。

注意:如果您没有 GPT-4 API 访问权限,并且选择 GPT-4 或 GPT-4K-32K 作为模型,则会收到“模型:gpt-4 不存在”或“模型:gpt-4-32k 不存在”错误。

与最新的 OpenAI 模型同步

您可能会注意到模型下拉列表旁边的“同步”按钮。此按钮用于将插件与最新版本的 OpenAI 模型同步。因此,如果 OpenAI 发布了新模型,您可以使用此按钮更新插件以使用新模型。

如果您的组织已对特定数据集上的任何模型进行了微调,则可以在“模型”下拉列表中轻松找到它们。

速率限制

平台提供了一个速率限制(以秒为单位)的功能,该功能专为选择 GPT-3.5 或 GPT-4 型号的用户设计。此功能显示为下拉菜单,仅在选择 GPT-3.5 或 GPT-4 时可见。

  • 速率限制的选项范围为 1 到 10 秒,允许在启动下一个 API 调用之前短暂暂停延时。
  • 由于 OpenAI 对这些特定模型施加的速率限制,这种延迟是必要的。
  • 如果遇到来自 OpenAI 的速率限制错误,请考虑使用此功能。
  • 建议从 1 秒的最短睡眠时间开始,然后逐步增加睡眠时间,直到在响应能力和避免速率限制错误之间取得最佳平衡。

GPT 平台的内容生成 - 模型比较选项卡下的比较工具使用户能够比较多达六种不同语言模型的输出。

这个强大的功能使您可以试验模型并调整各种参数以根据需要微调输出。

如何使用比较工具

请按照以下步骤充分利用比较工具。

  • 比较工具:进入内容生成 - 模型比较选项卡。
  • 选择模型:下拉列表中,选择要比较的模型。选项包括 GPT-3.5、GPT-4等。您可以为每个比较窗口选择不同的模型,最多六个。
  • 创建提示:使用提示下拉列表选择即用型提示。选择后,它将被附加到下面的文本区域。如果您愿意,可以修改所选提示或编写自己的提示。
  • 调整参数:对于每个模型,您可以调整模型参数,包括最大限制、模型温度等。
  • 生成输出:点按每个模型窗口的“生成”按钮。例如,如果要比较四个模型,则需要分别点击各个模型的“生成”按钮。
  • 查看结果:每个模型的结果将显示在输出区域中。在每个输出的左侧,您将看到令牌计数、成本、持续时间和字数。可以跨模型比较这些值,以帮助您确定最适合您需求的模型。

最佳实践

对于不同的任务和要求,不同的 GPT 模型可能更合适。以下是基于常见用例的一些建议:

内容写作

出于内容编写目的,建议使用以下模型:

  • GPT-3.5 Turbo:功能最强大的 GPT-3.5 型号,性价比高。
  • GPT-4:比任何 GPT-3.5 型号都更强大,能够执行更复杂的任务。

智能对话机器人

对于智能对话机器人应用中,可以考虑使用以下模型:

  • GPT-3.5 Turbo:功能最强大的 GPT-3.5 型号,针对聊天进行了优化,并且具有成本效益。
  • GPT-4:比任何 GPT-3.5 型号都更强大,能够执行更复杂的任务,并针对聊天进行了优化。

每个用户都有自己特定的应用场景和需求,请选择在功能、成本和可用性方面最适合您需求的模型。