看到特叔,说这个聊两句。就是用两颗串联跑智驾算法,这个大家都清楚。另一个

德鲁大叔的车 2025-06-12 18:07:40

看到 特叔,说这个聊两句。

就是用两颗串联跑 智驾 算法,这个大家都清楚。

另一个放在中央控制器里,去补充座舱,更重要的是,这一颗可以做智驾算法的冗余。

智驾的那两颗,我昨天写过一个。

可以把一个超级大的模型分成两个阶段。按照大师兄讲的应该会让一个 7B 左右的。

这其实和两个模型不是一样的。

Step 1 on SoC1, Step 2 on SoC2,然后第三个SoC 运行另外一种算法或者 vlm。

因为如果拆分成两个阶段的模型,可以做pipeline, 所以soc 1 在处理 N+1 帧的数据的时候,soc 2可以处理第 N 帧的数据。

因为两个步骤之间只用传结果到另外一个soc。

所有摄像头数据的感知阶段都在soc 1 完成,完成感知后去 soc 2 做下面的预测规划等。

两段式的大型网络,可以看作是两个网络串联。

中间把输出结果放到 dram,然后这个输出结果可以通过 PCIE 传到另一个soc 的 DRAM 进行下一段。

这样延迟是原来的两倍,但吞吐量也是原来的两倍。

比如第一段处理当时刻 1 的时候,soc 1 正在处理(帧n+1)的第一段时候,soc 2 正在处理帧(n)的第二段。

下一帧的时间,soc 1 正在处理(帧n+2)的第一段,soc 2 正在处理帧(n+1)的第二段。

这里面的延迟是不是可以解决呢?

可以,因为可以定制确定性调度或者通讯来提高通讯的效率和可靠性。

新能源大牛说

0 阅读:1
德鲁大叔的车

德鲁大叔的车

感谢大家的关注