今日AI-OpenAI-2023年8月18日

发现全网最新的AI内容

ChatGPT的逆袭之旅:OpenAI的科技历程与人工智能巨人的崛起

文章概要:

1. ChatGPT代表的人工神经网络的,在整个科技史上也算得上跌宕起伏。它曾经在流派众多的人工智能界内部屡受歧视和打击。不止一位天才先驱以悲剧结束一生。
2. ChatGPT自己的身世也极富戏剧性。2015年30岁的Sam Altman和28岁的Greg Brockman与马斯克联手,召集了30岁的Ilya Sutskever等多位AI顶级人才,共同创立OpenAI。
3. GPT的发展也不是一帆风顺的。GPT-1论文发表之后,OpenAI这种有意为之的更加简单的decoder-only架构并没有得到太多关注,风头都被几个月之后谷歌的BERT抢去了。
4. 2019年2月发布的GPT-2将最大参数规模提升到15亿级别,同时使用了更大规模、更高质量和更多样的数据,模型开始展现很强的通用能力。
5. 2020年GPT-3横空出世,NLP小圈子里的一些有识之士开始意识到OpenAI技术路线的巨大潜力。
6. 2022年 Language Models”论文发布,一作是从达特茅斯学院本科毕业才两年的谷歌研究员Jason Wei。文中研究了大模型的涌现能力,这类能力在小模型中不存在,只有模型规模扩大到一定量级才会出现。
7. 2022年11月中旬,本来一直在研发GPT-4的OpenAI员工收到管理层的指令,所有工作,全力推出一款聊天工具,原因是有竞争。两周后,ChatGPT诞生。
8. 2023年3月,在长达半年的“评估、对抗性测试和对模型以及系统级缓解措施的迭代改进”之后,GPT-4
9. 微软研究院对其内部版本(能力超出公开发布的线上版本)研究的结论是:“在所有这些任务中,GPT-4的表现与人类水平惊人的接近……鉴于GPT-4的广度和深度,我们认为它可以合理地被视为通用人工智能(AGI)系统早期(但仍然不完整)的版本。”
10. 此后,国内外的企业和科研机构纷纷跟进,几乎每周都有一个甚至多个新模型推出,但综合能力上OpenAI仍然一骑绝尘,唯一可以与之抗衡的,是Anthropic。
阅读原文