?【民生电子】探讨DeepSpeed：算力持续、边缘加速

?【民生电子】探讨DeepSpeed：算力持续、边缘加速

今日市场对DeepSpeed-Chat讨论较多

【误解】该技术弱化算力需求；

【实际】不影响算力需求；且利好边缘AI落地❗

#DeepSpeed由来？

?微软2020年便已采用DeepSpeed，用于加快大模型在RLHF（反馈强化学习）环节的运算效率。

#RLHF是什么？

GPT让AI更聪明；

RLHF让AI更人性化+定制化；

二者结合则为ChatGPT。

#怎么看DeepSpeed的实际影响？

?算力节约：RLHF的算力需求大约是预训练的一万分之一，DeepSpeed技术对AI训练侧的算力需求影响微乎其微。

?人手大模型时代来临：

我们认为：#最懂你的大模型、一定是深度定制训练的大模型❗ 

DeepSpeed技术可提升RLHF环节计算速度至原先的6.3倍以上，使得RLHF更加亲民化。同时可大大降低RLHF环节的技术和算力壁垒，加速AI应用和在边缘侧的落地。

#应当关注哪些方向？

DeepSpeed技术不影响算力逻辑，今日下跌实属错杀；同时加速边缘AI落地。坚定看好算力+边缘域的投资主线！