知名分析师郭明錤日前发文指出,DeepSeek爆红后,端侧AI趋势将加速。DeepSeek的爆红直接提升英伟达H100的训练需求,这证明优化训练方式(也可视为成本降低)有助训练需求;另一个更显著的趋势是兴起了在本地端部署LLM的热潮。
东吴证券王紫敬认为,开源和低成本让模型层面的差距迅速缩小,为推理侧应用(包括端侧和软件)的爆发打下基础,小型团队不需要重资产投入就可以蒸馏出先进小模型(适用于各类端侧mini场景),并且端侧算力就可以跑通小模型,2025年或是端侧的爆发元年。
知名分析师郭明錤日前发文指出,DeepSeek爆红后,端侧AI趋势将加速。DeepSeek的爆红直接提升英伟达H100的训练需求,这证明优化训练方式(也可视为成本降低)有助训练需求;另一个更显著的趋势是兴起了在本地端部署LLM的热潮。
东吴证券王紫敬认为,开源和低成本让模型层面的差距迅速缩小,为推理侧应用(包括端侧和软件)的爆发打下基础,小型团队不需要重资产投入就可以蒸馏出先进小模型(适用于各类端侧mini场景),并且端侧算力就可以跑通小模型,2025年或是端侧的爆发元年。