ChatGPT-4：内部版本强大到恐怖，微软发布研究报告《Sparks of Artifificial General Intelligence: Early experiments with GPT-4》

微软发布研究报告，ChatGPT-4内部版本强大到恐怖

chatGPT-4：https://static.yesassess.com/ai_233/gpt4_bg_wxju77nl003rsgntuhgdixe5uvodc89k.jpeg

2023年3月chatGPT-4发布后，微软发了GPT-4的能力测评了论文《Sparks of Artifificial General Intelligence: Early experiments with GPT-4》。而最近腾讯组织了对这个论文的讨论。找来了微软亚洲研究院的技术人员，讲解了这个论文研究的过程。过程十分精彩。讨论的文字版本链接：https://mp.weixin.qq.com/s/BKyjPaL3_-_DdL8zHobcfg

微软论文的链接：
英文原版：https://arxiv.org/pdf/2303.12712.pdf
中文版：https://ask.qcloudimg.com/draft/8642415/7jbe0upcgg.pdf

以下是对讨论的总结，大家得以从源头了解chatGPT-4，才能更好的使用和理解ChatGPT。

1、ChatGPT-4存在内部版本

2022年9月份开始，微软和openai展开合作，并组织200人的团队，大多数是数学家，对于GPT-4的内部版本进行研究。发现内部版本比公众号强太多。

原因在于增加的安全性微调，让推理能力和其他指标下降不少。就如bing对GPT-4进行了更多的安全性限制，导致在bing里使用GPT-4效果比直接使用差不少。

2、具备初步的多模态能力

GPT-4是文字模型，但是对于图片，音乐，人类情感和心理有除非出色的理解能力。是通过文本和注释来推理空间和图形等。

3、ChatGPT-4太快，而容易犯错

当前的GPT-4出现很多错误，是因为它思考过快，当看到用户第一个词时，它就已经开始作答，并没有经过完整的推理，如果我们强制要求它慢下来，它会少很多错误。

GPT在面对问题是，是先给答案，然后假装写很多步骤，以证明这个答案的合理。如果一开始给答案，基本都是错误的。事后的推理过程，会纠正答案。

（所以，在比较正式的场合，我们尽量让gpt去描述推理过程，会得到比较合理的结果）

用bing的gpt4时，bing先搜索网络，比如某个东欧小国，人口最多的十个城市。bing从网络上获得了5个城市，GPT-4在得到bing的搜索结果后，想象出了后面的5个城市，结果居然基本正确。

人类在面对自己不知道的问题时，会回答我不知道。至少心里明白自己不懂。而GPT是没有自知之明的。所以，我们经常会看到它一本正经的胡说八道。人类面对自己不懂的问题，会去求证，而GPT不具备这个能力。这也是GPT-4未来要发展的方向，要解决的问题。也就是幻觉问题。

4、ChatGPT的瓶颈在算力

ChatGPT要解决幻觉问题，要成为AGI，通用人工智能，就要解决多模态的问题。而文本信息的训练已经耗尽地球上的算力资源。图片和视频的训练规模要大太多，目前算力支撑不了。并非GPT能力所不能及。

5、ChatGPT-4的应用方向

GPT-4面对复杂问题时，并不知道该从何入手。但是人类就知道可以先从试错入手，不断修正。也就是GPT-4不具备系统规划能力。

所以，AUTOGPT核心能力就是把复杂任务进行拆解和规划。然后调用GPT-4去执行。

同样的，openai推出chatGPT Plugin,本质上也是在帮chatGPT搜集网络数据和任务拆解。可以让chatGPT去调用api的方式，访问数据，执行其他程序。比如制作一个人形机器人。调用各类传感器。这样就能在更多的场景里发挥chatGPT的核心能力。