嵌入式系统底层软件的复杂性

嵌入式系统底层软件的复杂性

问题

经常有人问,为什么嵌入式系统的底层软件,出问题后解决起来,耗时长。

确实,底层软件处理的都是很常见很成熟的设备,比如Flash、以太网、SD卡。 看起来应该不难。

可是大多数项目,又都有前面提到的问题。这是一个难以回答得问题。

结论

先说结论。最重要的原因有三个。第一是代码量非常非常大,第二是没有深入研究,第三是潜在的硬件、协议、软件问题。这三个问题,导致运气好时没有问题,大家都很开心; 万一有问题,就不知道怎么处理,花很长的时间才解决问题。

底层软件

底层软件种类多

底层软件包括的种类多,通常包括boot软件,比如Xilinx FSBL和U-Boot; 还包括Linux内核、设备树、和文件系统。

这些软件,各自有不同的环境、语法。比如在Linux内核中,内存有连续内存和分页内存; 有高端(高地址)内存和低端(低地址)内存,有保留内存和系统内存,有cacheable内存和non-cacheable内存,有hugepage内存。内存的地址,物理地址和虚地址。内存使用方法和standalone的软件,就完全不一样。 同样的设备,在standalone、U-Boot、Linux内核下,需要不同的驱动。

底层软件代码量庞大

底层软件的代码量很大。Xilinx PetaLinux 2022.2中的U-Boot 2022.1,会实际编译大约950个文件,约30万行代码。Xilinx PetaLinux 2022.2中的Linux内核 5.15,会实际编译大约2600个C文件,约200万行代码。后面加载的文件系统,更是包含几千个应用程序,代码量更加庞大。

这种规模的代码量,远大于很多产品的业务软件的代码量。

代码量大后,配置选项也多,很多组合甚至一直没有测试。比如编译Linux内核中的miniconfig,就会出错。

利用开源软件,虽然不用投入人力资源开发这些代码,但是维护这些代码,也需要相当的专业经验,需要相当的工作量和人力资源。

底层软件代码协议复杂

Linux需要适配不同的硬件,不同的应用场景。不管你是否使用,大型机、云计算的代码都在里面。比如嵌入式系统里基本不使用IOMMU,Linux的里也包含IOMMU的代码。

做外设驱动时,经常需要刷新cache。有些硬件系统能由硬件管理cache 一致性;有些硬件系统又没有这个能力。Linux的外设驱动,要能在这两种情况都能工作。

底层软件人力资源少

嵌入式系统的开发,芯片厂商会提供相关的底层软件。项目的底层软件人员根据自己单板的修改,对厂商提供的底层软件进行修改。芯片厂商的turnkey方案,降低了开发难度,各个项目组也减少了分给底层软件的资源,包括人力和时间。迫于压力,底层软件人员只看修改部分,对相关芯片、相关软件的了解不够深入。

底层软件工具少

由于底层软件的开发人员较少,相关软件大部分是开源软件,缺乏商业投资,所以能用于底层软件调试的工具,也比较少,比较贵。

软件成熟度

有些软件特性使用的人少,或者刚刚推出,没有经过实际环境中的大规模、长时间测试,有可能隐藏有问题。 比如Xilinx的Zynq-7000和MPCoC,经过多年上千个项目的验证,目前在客户的使用过程中,问题少,开发都比较顺利。

没有深入研究

大多数项目,只有1-3个工程师负责底层软件。底层软件代码量大,协议多,所以导致没有深入研究相关代码。

硬件接口的工作时序与协议

底层软件正常工作,需要硬件和软件的配合。从严谨的角度出发,开发人员应该先了解硬件接口工作时序、协议,还要了解相关软件环境(U-Boot或Linux内核)提供的资源与限制,最后才研究具体的软件。这些工作都需要大量的人力和时间。比如很多系统使用USB,却几乎没有人读过USB的规范。比如很多系统使用RGMII,也很少有人了解RGMII的时序。如果软件工程师、硬件工程师都没有了解时序与协议,彼此都觉得自己的部分没有问题,找不到解决问题的突破口。

曾经有单板在两个CPU之间使用RGMII链接两个MAC。最后调试的时候,网络一直不能工作。经过长时间调试后,才发现双方都不支持调整RGMII时钟和数据之间delay,才导致通信有问题。

硬件问题

很多时候的软件问题,是有硬件设计或者信号质量导致的问题。有些硬件开发人员既不了解时序,也不测试波形。几年前有项目遇到USB问题2个月后才测试USB的波形,发现波形不符合规范。之前一直希望以软件解决问题,浪费了很多时间。

还有的软件问题,是外设导致的问题。曾经的一个项目,用的是已经在其它项目量产两年的Flash芯片,一直觉得Flash没有问题。后来才发现是Flash芯片的问题。软件清除状态寄存器时,Flash芯片的控制寄存器也被清除,导致Flash的工作模式不对。之前使用这款Flash芯片,只启动,没有写操作,所以没有暴露问题。

思维差异

硬件工程师、底层软件工程师、FPGA工程师面对的工作内容有差异,各自形成了一些思维惯性。

曾经有FPGA工程师说DMA每秒能完成百万次传输。而客户拿到相关设计后,每秒只能能完成12万次传输。开会讨论后,发现FPGA工程师说的是以硬件状态机连续做DMA传输,能达到每秒百万次。客户在Linux下使用DMA,Linux的中断处理延时在4us左右。再加上后续处理和线程调度,每次dma操作需要8us处理。在Linux或者其它OS下,软件即使是休眠0us,大多数也有1-5us的延时,有时更大。评估软件性能,不能以硬件状态机的思维来计算。

曾经有项目发现PCIe的数据传输性能很差。经过仔细检查后,发现软件代码的一个循环里一直查询某个PCIe设备的寄存器,每次查询之间没有其它操作,没有延时。在循环中,增加延时,数据传输的性能恢复正常。软件读本地设备的寄存器很快,但是读外部PCIe、USB设备的寄存器开销很大。这是软件工程师经常忽略的一个地方。

建议

CPU可以说是最复杂的硬件设计之一; Linux是最复杂的软件设计之一; 需要给底层软件足够的重视和资源。

即使不做任何新代码开发,1-3个工程师要想彻底搞清楚200万行代码,也是非常困难的。所以只能针对性的研究。

建议在做单板之前,把需要用到的外设,进行详细、全面的测试。

建议有问题后,软件工程师、硬件工程师坦诚合作,既研究硬件接口工作时序、协议,测量波形,也研究软件工作流程,全面的分析问题。

感言

工作后第一份工作,有幸进入了最严谨的公司。软件工程师会不断做Code review, 硬件工程师主动测试信号测试,彼此之间也会做培训和讲解。 项目开始时有很长时间预研,结束的时候有总结分享,强迫大家深入研究,想偷懒也不行。

当时获得的经验,现在看起来还是非常宝贵,非常有用。

posted @ 2022-12-27 11:44  HankFu  阅读(281)  评论(0编辑  收藏  举报