AI技术百科

lanyue 2023-07-04 11:28:41

AGI最前沿：GPT-4之后大模型学术进展速览

1 前言

在ChatGPT，GPT-4出来之后，特别是其API开放使用之后，整个AI学术圈可以说发生了翻天覆地的变化，大家关注的点几乎都集中到了大模型上，大模型相关的研究可以很快获得10x,100x的关注度。

arxiv上包含ChatGPT关键词的papers数量按月递增

到现在ChatGPT出来已经半年多，GPT-4则出来3个多月了，这段时间涌现了大量和大模型相关的学术研究，这些研究有一大部分可以分成三类：

GPT评估派：直接分析GPT本身的特性，评估GPT各个方面的影响。
GPT应用派：基于GPT的API做prompt Engineering，验证可以在某些场景上产生前所未有的效果。
GPT蒸馏派：研究如何利用GPT生成数据训练自己的大模型，然后在某些benchmark上取得更好的效果。

无论是GPT评估派，GPT应用派还是GPT蒸馏派，最终都在说明一点：GPT太强了！

下面我们就这三大派系速览一下相关的paper（仅分析GPT-4出来后也就是3月之后的paper)

查找方式：

https://arxiv.org/search/?searchtype=all&query=GPT-4&abstracts=show&size=200&order=submitted_date

arxiv.org/search/?searchtype=all&query=GPT-4&abstracts=show&size=200&order=submitted_date

目前还只有几百篇，还可遍历。

2 GPT评估派

在GPT-4发布之后，世界陷入到GPT-4恐怖能力的支配中，出现了一堆的相关paper去评估GPT-4的能力及其潜在的社会影响。paper有点多，这里仅列举几篇比较有影响力的：

ChatGPT: Jack of all trades, master of none

The Impact of Large Language Multi-Modal Models on the Future of Job Market
GPTs are GPTs: An Early Look at the Labor Market Impact Potential of Large Language Models
Sparks of Artificial General Intelligence: Early experiments with GPT-4

上面几篇paper在社交媒体上都很有影响力，总之就是告诉我们GPT-4是技术革命，接近AGI，很多白领工作都会受到影响，然后整个世界都变了，一堆大模型初创公司，大模型应用公司拔地而起。

3 GPT应用派

这里的研究基本上就是prompt engineering的研究，在GPT prompt的花园里面挖呀挖呀挖，看能挖出什么宝贝。

- ReAct: Synergizing Reasoning and Acting in Language Models

ReAct: Synergizing Reasoning and Acting in Language Models

react-lm.github.io/

这篇文章比较早诞还是提一下，很重要的一个全新范式，把Thinking/Reasoning和Action结合在一起。

- Tree of Thoughts: Deliberate Problem Solving with Large Language Models

https://github.com/princeton-nlp/tree-of-thought-llm

github.com/princeton-nlp/tree-of-thought-llm

这篇文章则把MCTS的思想通过LLM来实现，又创造了一个新的范式：

这些方法很酷，就是需要一个前提，LLM本身要具备很强的in-context learning的能力，否则没戏。

- Self-refine: Iterative refinement with self-feedback

https://arxiv.org/pdf/2303.17651.pdf

arxiv.org/pdf/2303.17651.pdf

这篇文章告诉我们LLM是可以基于自己的反馈自我提升的。这完全模仿了人类的自悟。所以，self-improvement会是LLM时代一个全新的学习方式。但同样的，需要LLM本身先有这样的能力。

现在的问题就是开源模型不具备这样的能力，而GPT又拿不到model来finetuning。

- SELFEVOLVE: A Code Evolution framework via Large Language Models

https://arxiv.org/pdf/2306.02907.pdf

arxiv.org/pdf/2306.02907.pdf

这篇文章在Code上通过接入interpretor来实现feedback，效果直接超过ChatGPT:

上面的paper面向通用的prompt engineering，意在提升逻辑推理能力，下面的一些paper则非常有趣，在一些场景展现出了全新的做法。

- Generative Agents: Interactive Simulacra of Human Behavior

https://arxiv.org/pdf/2304.03442.pdf

arxiv.org/pdf/2304.03442.pdf

这篇文章很有名了，构建了一个虚拟环境通过gpt来实现agent的交互。并且Agent加了Memory。并且加了Reflection来进一步提取memory的关键信息。现在看的话，ChatGPT已支持16k，32k，甚至Claude 100k的context长度，memory直接输入应该也可以，效果或许更好。