剪映
让视频剪辑变得更简单!

使用 SmartGPT 框架让 ChatGPT 更加智能

新的框架正在帮助使ChatGPT等语言学习模型(LLM)更加智能,能够自主处理三个不同阶段的复杂任务。通过将任务分解为更小、更易于管理的问题,并利用来自互联网和其他外部来源的信息。这个被称为SmartGPT的框架正在彻底改变LLM的运作方式。

SmartLLMChains基于SmartGPT工作流程,是一种自我批评链的形式,如果有特别复杂的问题需要回答,可以帮助你。它不是执行单个LLM传递,而是执行以下3个步骤:

  1. 构思:通过LLM传递用户提示n次,得到n个输出提案(称为“想法”),其中n是可以设置的参数
  2. 批评:LLM批评所有想法以找到可能的缺陷并选择最好的一个
  3. 决心:LLM试图改进最佳想法(如在批评步骤中选择的那样)并输出它。这是最终输出。

这个快速概述深入探讨了SmartGPT框架在Langchain中的实际应用,以支持您自己的LLM应用程序。SmartGPT 的概念植根于 GPT 基础模型中自我批评或自我反思的实施,以提高生成答案的质量。

SmartGPT 和 LangChain

这个过程分三个阶段执行:构思、批评或自我反思以及解决。在构思阶段,LLM会在同一用户提示下多次提示,从而生成各种输出或想法。在批评阶段,LLM评估其产生的所有想法,查明潜在的缺陷,并选择最佳答案。在解决阶段,LLM努力增强其产生的最佳想法或答案,最终成为最终输出。

这种方法是思维链提示的延伸,可以显着提高LLM的输出,特别是对于需要逻辑推理的提示或问题。Langchain整合了一个新的链,智能LLM链,可以在工作流程中使用。

更高的加工成本

但是,值得注意的是,与使用普通提示相比,使用智能LLM链将导致更多的传递,因此成本更高。为了使智能LLM链有效运行,底层LLM需要具有自反射能力,并且能够仅返回单个输出。

SmartGPT的想法是由AI Explained提出的,SmartGPT 是一个框架,包括 LLM 对其生成的响应的自我反思或批评,以逐步思考并在向用户展示之前评估其答案。

SmartGPT – 主要基准被打破 – MMLU 上的 89.0%

“使用 SmartGPT 系统的 GPT4 是否以多种方式打破了主要基准 MMLU?89.0% 是一个非官方记录,但我们是否迫切需要一个新的权威基准,特别是考虑到今天的内幕消息,双子座的计算量是 GPT 5 的 5 倍?

SmartLLMChain可以集成到代码项目中,在上面的第一个视频中使用Langchain的代码提供了详细的分步过程。此过程涉及导入必要的包、设置提示模板、定义 LLM 链和运行链。智能LLM链可以配置LLM,提示和要生成的想法数量。

LLM产生不同的想法,批评它们,然后在解决阶段完善最佳答案。不同的LLM可用于不同的步骤,较高温度的LLM用于构思阶段,以获得更多响应的变化,而较低温度的LLM用于批评和解决阶段。

SmartLLMChain的独特之处在于其创新框架,该框架结合了LLM对其生成的响应的自我反思或批评。这种内省的方法使LLM能够逐步思考并在向用户展示答案之前对其进行评估。事实证明,这种技术可以显着提高LLM在MMLU等基准上的表现。

SmartLLMChain是一种技术,迫使LLM在生成最终答案之前对其答案进行自我反思,从而可能提高某些用例的性能。这种创新方法将重新定义人工智能和语言学习模式的格局。

赞(0)
未经允许不得转载:剪映吧 » 使用 SmartGPT 框架让 ChatGPT 更加智能

评论 抢沙发

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址