UK виробництво — від автомобілебудування (Jaguar Land Rover у Солихаллі, MINI в Оксфорді) до аерокосмічної галузі (Rolls-Royce у Дербі, BAE Systems у Уортоні) — зазнає трансформації машинного навчання на рівні edge. Розгортання ML на датчиках заводського цеху, камерах контролю якості та контролерах прогностичного обслуговування не може покладатися на хмарне з'єднання: вимоги до затримки для виявлення дефектів у реальному часі (< 10 мс), доступність мережі в промислових середовищах та міркування щодо суверенітету даних — все це вимагає висновків на пристрої. Програма Made Smarter уряду UK та потоки фінансування Innovate UK спеціально підтримують впровадження edge AI у UK виробничих SME.
Квантизація є найбільш ефективною технікою стиснення для UK edge розгортань. Post-Training Quantisation (PTQ) конвертує навчену FP32 модель у INT8 без перенавчання: інструменти включають torch.quantization PyTorch, конвертер TensorFlow Lite та квантизацію ONNX Runtime. Для типових моделей комп'ютерного зору, що розгортаються на UK виробничих станціях інспекції (виявлення дефектів на PCB, якість автомобільних панелей), квантизація INT8 досягає 4-кратного зменшення розміру моделі та 2-4-кратного прискорення на процесорах ARM Cortex-A з деградацією точності менш ніж 2%. Quantisation-Aware Training (QAT) симулює квантизацію під час навчання, відновлюючи 0.5-1.5% точності для застосувань безпечно-критичної аерокосмічної NDT.
Прунінг — видалення надлишкових ваг із навчених моделей — доповнює квантизацію для максимального стиснення. Неструктурований прунінг досягає високої розрідженості (90%+), але вимагає бібліотек розрідженого обчислення. Структурований прунінг (видалення цілих фільтрів/каналів) зменшує ширину моделі, сумісну зі стандартними щільними обчисленнями — більш практичний для UK промислового обладнання. Arm з Кембриджу публікує ML Model Efficiency Toolkit (MLET) спеціально для моделей, що орієнтуються на Arm Cortex-M та Cortex-A — найпоширенішу вбудовану архітектуру процесора у UK IoT розгортаннях.
ONNX є стандартом сумісності, що дає змогу UK підприємствам відокремити навчання ML від апаратного забезпечення розгортання. Навчайте у PyTorch або TensorFlow, експортуйте у ONNX, потім запускайте через ONNX Runtime на цілях x86, ARM або GPU без змін коду. TinyML — дисципліна запуску висновку ML на мікроконтролерах із 256KB-1MB RAM — використовує TensorFlow Lite для мікроконтролерів та Edge Impulse для розгортання моделей на Arduino Nano 33 BLE Sense та STM32 Nucleo. UK IoT розгортання, що виграють від TinyML, включають виявлення аномалій вібрації на шпинделях верстатів з ЧПУ, виявлення витоку газу в комунальних підприємствах та прогностичне обслуговування клапанів у водоочищенні.
UK регуляторні та сертифікаційні міркування для edge ML відрізняються від хмарних розгортань. Закон UK PSTI 2022 встановлює вимоги безпеки для UK IoT пристроїв, включаючи оновлення програмного забезпечення безпеки. Для UK виробничих безпечно-критичних застосувань стандарти функціональної безпеки (IEC 61508 для промислових, ISO 26262 для автомобільних, DO-178C для аерокосмічних) накладають вимоги до документації та перевірки вбудованих ML моделей. Найкраща практика: підтримуйте benchmark точності квантизованих моделей зі статистичною значимістю, документуйте рішення щодо стиснення в картках моделей, та впроваджуйте тестування hardware-in-the-loop перед виробничим розгортанням.
Пов'язані послуги Codeworth
Потрібна допомога з реалізацією?
Команда Codeworth готова втілити ці ідеї у вашому проєкті. Безкоштовна консультація.
Обговорити проєктСпеціаліст команди Codeworth.