大规模语言模型发展经过三阶段在2023年进⼊爆发阶段

大语言模型诞生阶段

2017

•谷歌推出用于处理自然语言任务的Transformer神经网络架构

2018

• OpenAI 发布 GPT-1

大语言模型探索阶段

2019

•OpenAI发布GPT-2并部分开源

•谷歌推出BERT模型

2020

•百度推出可以准确理解语义的 ERNINE2.0

2021

•OpenAI推出能实现文本生成图像 的DALL-E模型

• FaceBook 推出 CLIP 模型

•华为正式发布盘古大模型

• OpenAI 推出 Codex

大语言模型爆发阶段

2022

• OpenAI 推出 ChatGPT-3.5

2023

•微软基于ChatGPT发布New Bing

•FaceBook 发布 L LaMA-13B

•谷歌发布Bard以应对ChatGPT

•复旦团队发布MOSS

•OpenAI发布GPT-4并实现图像识别

•百度文心一言发布

•微软宣布将GPT-4接入Office全家桶

•通义千问、盘古NLP、天工3.5、星火等国产大模型陆续发布

•谷歌更新Bard并推出PaLM 2模型

•微软宣布Windows系统全方位集成Copilot