Система зависает при использовании write() на устройстве gadgetfs

Вопрос или проблема

Я работаю над созданием USB-устройства с использованием одноплатного компьютера (конкретно Rock Pi S), и для включения функциональности USB-устройства я использую GadgetFS с сырыми вендорскими bulk и interrupt endpoints.

Моя программа работает в первый раз, когда я ее запускаю. Я могу подключиться к USB-устройству и читать/писать данные с него на хост-компьютере.

Однако, если я перевожу устройство в спящий режим, например, поставив хост-компьютер в спящий режим, и затем пытаюсь перезапустить программу на устройстве, вся система зависает при первой попытке выполнить write() к дескриптору файла gadgetfs. Зависает не только моя программа, но и вся машина. Мои SSH-соединения становятся неотзывчивыми, я не могу пинговать машину и т.д.

Я пытался сбросить все, закрывая программу, размонтируя gadgetfs и записывая бит сброса в USB-контроллер процессора между этими событиями приостановления, но когда я снова все настраиваю и перезапускаю программу, система все равно зависает. Поэтому я не думаю, что это связано с моим кодом; скорее всего, что-то глубоко в системе попадает в состояние, из которого невозможно восстановиться, и это проявляется в следующий раз, когда я пытаюсь записать данные в драйвер.

Мой вопрос в том, как я могу диагностировать такую проблему в общем? Поскольку вся машина просто зависает, я не получаю никаких кодов ошибок о том, в чем проблема, я не могу ничего сделать, кроме как отключить питание, чтобы принудительно перезагрузить.

Одно из возможных решений может заключаться в обновлении вашей хост-системы до версии ядра V6.8. Я не знаком с gadgetfs, но столкнулся с проблемами, похожими на описываемые вами, т.е. постоянная зависание системы при записи в HID-устройство с использованием модуля USBHID. По моему опыту, переход с Ubuntu 20.04 (ядро V5.15) на 22.04 (ядро V6.8) решил эту проблему.

Ответ или решение

Проблема, с которой вы сталкиваетесь, может быть вызвана несколькими факторами, связанными с управлением USB и состоянием системы после выхода из режима ожидания. Вот несколько шагов и рекомендаций, которые могут помочь вам в диагностике и решении этой проблемы:

Обновление ядра: как упомянуто в вашем вопросе, обновление до более новой версии ядра, такой как Kernel V6.8, может решить проблемы, связанные с USB и GadgetFS. Новые версии ядра часто включают исправления ошибок, улучшения в управлении состоянием USB и совместимость с оборудованием.
Проверка логов системы: используйте dmesg и journalctl для проверки системных логов на наличие сообщений об ошибках, связанных с USB и GadgetFS, перед зависанием системы. Это может дать указание на причину проблемы.
Управление состоянием USB: во время выхода устройства в спящий режим может возникнуть конфликт в состоянии USB. Убедитесь, что вы правильно обрабатываете события Suspend и Resume в вашем коде. Возможно, нужно добавить дополнительные проверки или задержки перед тем, как снова пытаться писать в файловый дескриптор.
Отладка по уровням: вы можете использовать отладочные сообщения (например, через printk в коде драйвера ядра) для отслеживания состояния на разных этапах работы с устройством. Это поможет определить, где конкретно происходит зависание.
Настройка параметров USB: проверьте параметры USB в вашем ядре. Некоторые настройки могут влиять на поведение USB-устройств при пробуждении. Возможно, стоит рассмотреть активирование/деактивирование некоторых опций в .config ядре.
Тестирование на другом хосте: попробуйте подключить ваше устройство к другому компьютеру или хосту с другой операционной системой/версией ядра, чтобы увидеть, сохраняется ли проблема. Это поможет понять, не является ли проблема специфичной для конкретного окружения.
Использование альтернативных методов: если проблема продолжает повторяться, попробуйте протестировать другие подходы к реализации USB, такие как USB Gadget или libusb, которые могут предоставить больше контроля над состоянием устройства.
Сообщество и поддержка: если ни один из вышеуказанных методов не сработал, рассмотрите возможность обращения за помощью на специализированные форумы и сообщества (например, linux-usb, Rockchip forums). Возможно, кто-то из участников сталкивался с аналогичной проблемой и сможет предложить решение.

Надеюсь, эти рекомендации помогут вам разобраться в возникшей ситуации и найти решение для стабилизации работы вашего USB-устройства.