加载usbserial驱动后，为什么adb不可用了？
某设备提供了USB串口功能，上位机（Host端）可以通过USB串口与之通信。对于Linux上位机，比如Ubuntu，自带usbserial驱动，当安装usbserial驱动后，上位机就会生成ttyUSBx（x=0~n）设备，通过ttyUSBx就能与设备端进行USB串口通信。
该设备不仅提供了USB串口，也同时提供了adb口的功能。实际应用中发现，将设备通过USB线连接到Ubuntu PC后，有生成adb口，adb能正常使用；但是串口驱动默认没有加载，手动insmod usbserial后，串口可以正常使用，但是adb口却不通了。
usbserial的使用方法可参考kernel document：Documentation/usb/usb-serial.txt
insmod usbserial vendor=0x#### product=0x#### ####是vendor id和product id。
调查发现，Ubuntu加载usbserial驱动后，原来的adb口会被识别为USB串口，生成新的ttyUSBx设备，导致Ubuntu端的adb无法正常与设备端通信。从这个现象看，是Ubuntu端usbserial驱动错误地匹配了本来不应该属于它匹配的设备。具体情况如下。
成功执行adb shell后，加载usbserial驱动之前，在Ubuntu上执行 lsusb -t 指令得到的结果截取如下：
Bus 03.Port 1: Dev 1, Class=root_hub, Driver=xhci_hcd/10p, 480M
|__ Port 6: Dev 4, If 5, Class=Vendor Specific Class, Driver=, 480M
|__ Port 6: Dev 4, If 6, Class=Vendor Specific Class, Driver=usbfs, 480M
加载usbserial驱动之后，再次插拔USB，在Ubuntu上执行 lsusb -t 指令得到的结果截取如下：
Bus 03.Port 1: Dev 1, Class=root_hub, Driver=xhci_hcd/10p, 480M
|__ Port 6: Dev 4, If 5, Class=Vendor Specific Class, Driver=usbserial_generic, 480M
|__ Port 6: Dev 4, If 6, Class=Vendor Specific Class, Driver=usbserial_generic, 480M
If 5对应的是串口，If 6对应的是adb口；正常情况下，adb口匹配的驱动是usbfs ，异常情况下，adb口匹配的驱动是 usbserial_generic 。
为什么usbserial驱动会错误地匹配了本来不应该属于它匹配的设备呢？这个需要从源码码中去寻找答案（Linus名言：Read the fu*k source code ^_^）。
代码路径在 drivers/usb/serial/*，关键代码如下，从match_flags可以看出，usb generic serial驱动是简单地通过vendor id和product id来匹配设备。
drivers/usb/serial/generic.c
int usb_serial_generic_register(void)
{
int retval = 0;
#ifdef CONFIG_USB_SERIAL_GENERIC
generic_device_ids[0].idVendor = vendor;
generic_device_ids[0].idProduct = product;
generic_device_ids[0].match_flags =
USB_DEVICE_ID_MATCH_VENDOR | USB_DEVICE_ID_MATCH_PRODUCT;
retval = usb_serial_register_drivers(serial_drivers,
"usbserial_generic", generic_device_ids);
#endif
return retval;
}
drivers/usb/serial/usb-serial.c
static int __init usb_serial_init(void)
{
int result;
usb_serial_tty_driver = alloc_tty_driver(USB_SERIAL_TTY_MINORS);
...
/* register the generic driver, if we should */
result = usb_serial_generic_register();
由于该设备的adb口和串口都是基于同样的USB设备，具有同样的vendor id和product id，那adb口被识别成串口，也就能理解了。
原因找到了，那有没有办法解决这个问题呢？
1）上位机先执行adb shell把adb口占住，再加载usbserial驱动，则adb口不会被重新匹配serial驱动；但是重新插拔USB后，又需要卸载usbserial驱动，再重复此过程。临时用用倒是可以。
2）修改usbserial驱动。在开发嵌入式产品时，一般上位机也是需要源码级开发的，在这种场景下修改usbserial驱动比较适用。
看看adb和generic串口的接口描述符信息。在Ubuntu上执行lsusb -v指令后得到的adb接口描述符如下：
Interface Descriptor:
bLength 9
bDescriptorType 4
bInterfaceNumber 6
bAlternateSetting 0
bNumEndpoints 2
bInterfaceClass 255 Vendor Specific Class
bInterfaceSubClass 66
bInterfaceProtocol 1
iInterface 10 ADB Interface
usb generic串口的接口描述符如下：
Interface Descriptor:
bLength 9
bDescriptorType 4
bInterfaceNumber 5
bAlternateSetting 0
bNumEndpoints 2
bInterfaceClass 255 Vendor Specific Class
bInterfaceSubClass 0
bInterfaceProtocol 0
可以看到两者的 bInterfaceClass 是一样的，都是 Vendor Specific Class ，但是 bInterfaceSubClass 和 bInterfaceProtocol 不一样。所以可以考虑修改usbserial驱动的匹配规则，除了vendor id和product id之外，再加入按interface class和interface protocol联合匹配。
除了USB generic serial驱动外，还有一些厂商自定义的USB serial驱动，比如 drivers/usb/serial/option.c，该驱动就在probe函数里面设置了一些判断条件，避免匹配上不该匹配的设备，可用来参考。如下，代码注释得相当详细，不再赘述。
static int option_probe(struct usb_serial *serial,
const struct usb_device_id *id)
{
struct usb_interface_descriptor *iface_desc =
&serial->interface->cur_altsetting->desc;
unsigned long device_flags = id->driver_info;
/* Never bind to the CD-Rom emulation interface */
if (iface_desc->bInterfaceClass == USB_CLASS_MASS_STORAGE)
return -ENODEV;
/*
* Don't bind reserved interfaces (like network ones) which often have
* the same class/subclass/protocol as the serial interfaces. Look at
* the Windows driver .INF files for reserved interface numbers.
*/
if (device_flags & RSVD(iface_desc->bInterfaceNumber))
return -ENODEV;
/*
* Allow matching on bNumEndpoints for devices whose interface numbers
* can change (e.g. Quectel EP06).
*/
if (device_flags & NUMEP2 && iface_desc->bNumEndpoints != 2)
return -ENODEV;
/* Store the device flags so we can use them during attach. */
usb_set_serial_data(serial, (void *)device_flags);
return 0;
}
欢迎关注我的公众号，一起交流。微信搜索“大鱼嵌入式”或者扫描下列二维码。
