AI pro všechny? S MCU za jednu babku proklouzne všude

V prostoru vyhrazeném pro umělou inteligenci AI nebo strojové učení ML se musí chytře rozhodovat nejen algoritmy. Důvtip se očekává rovněž od vývojářů, kteří nakonec vyberou to nejlepší řešení. Pouze tak se mohou zbavit nepřetržitého spojení s cloudem a vše uzavřít ještě na místě, klidně v reálném čase. Nebude to drahé, ale ani pomalé. A ušetří se také spousta energie či drahocenného prostoru.

Vítejte ve světě Edge AI, který díky mikrokontrolérům s vlastní hardwarovou akcelerací odlehčí CPU a pozvedne výkon kdejakého zařízení – zcela jednoduchého spotřebiče, ale také docela komplikované sestavy. Ať již půjde o nositelnou elektroniku „živenou“ z drobné baterie, průmyslové systémy nebo např. humanoidního robota. Nechť z nového pojetí inteligence těží vše a úplně všude!

Miniaturní, nenáročné, lokální

Základní představa je tedy zřejmá a jasno budou mít i výrobci čipů. Kupříkladu firma Texas Instruments, která v kontextu hlubokého učení a dedikovaného hardwarového akcelerátoru NPU (Neural Processing Unit) použije chráněného označení TinyEngine™ a doporučí hned i některé mikrokontroléry, které se přesně takovou cestou vydávají. Třeba MCU MSPM0G5187 či AM13Ex, představené tento měsíc [1]; na stránkách DPS Elektronika od A do Z jste mohli číst v [2]. Ve společnosti STMicroelectronics tomu zase říkají Neural-ART™ (o únorových mikrokontrolérech Stellar P3E, díky kterým povýšíme řízení z pouhé reakce na podněty až na adaptivní výstupy, a to i na čtyřech kolech, padla pro změnu zmínka v [3]). Stejný výrobce má mimochodem co říct i k neméně chytrému vykládání významu šedesáti čtyř bodů u senzorů s technologií doby letu ToF, navržených speciálně pro diskrétní sledování osob a způsobu, jakým si počínají [4].

Ale zpátky do Texasu. Co si tedy máme pod označením NPU TinyEngine™ vlastně představit? Jak plyne z níže přiloženého nákresu MCU s integrovaným blokem Neural Processing Unit, jedná se o vlastní hardwarový akcelerátor, který je přímo součástí vybraných mikrokontrolérů TI (Arm^® Cortex^®, C2000™ [5]). Aktuálně půjde o výše zmíněná 80MHz MCU MSPM0G5187 s jádrem Arm^® Cortex^®-M0+ (128 kB Flash, 32 kB SRAM, USB 2.0 FS, I²S, 12bitový A/D převodník s rychlostí 1,6 MS/s atd.), za která při odběru jednoho tisíce kusů nemusíme zaplatit ani jeden dolar, nebo též AM13E230x, stavějící spíše na Arm^® Cortex^®-M33. A pro pořádek ještě doplníme 32bitové real-time mikrokontroléry rodiny C2000™, konkrétně 150MHz obvody TMS320F28P550SJ.

Smyslem je, aby vývojáři vestavných systémů dokázali při hromadném nasazování modelů umělé inteligence zrychlit odezvu koncového zařízení (viz také „Edge“ v protikladu ke vzdáleným serverům) a ještě lépe u toho využili omezené množství dostupné energie, zvláště, když budou v řadě případů napájet výhradně z baterií.

Ve srovnání s obdobnými MCU, ovšem bez akcelerátoru, tzn. s čistě softwarovými přístupy, lze nyní pro ilustraci počítat u modelů AI s 90násobně kratší prodlevou, umocněnou více než 120krát nižší spotřebou energie, nezbytnou k provedení jedné úlohy. Algoritmy strojového učení díky NPU TinyEngine™ běží souběžně s hlavním procesorem (CPU), což umožňuje zpracování modelů neuronových sítí v reálném čase, a to i na zařízeních s jinak omezenými prostředky. Kromě toho se ještě vyhneme zpoždění, způsobenému přenosem dat do cloudu a zase zpět, takže dále pozvedáme celkovou odezvu systému. Výstupy umělé inteligence proto vetkneme i zařízením, která dříve nebyla schopna smysluplnou zátěž, spojovanou s AI, vůbec zvládnout, aniž by se přitom nezahřála, nevybila nebo to netrvalo příliš dlouho – typicky u nositelné elektroniky s analýzou v reálném čase.

Slova, ale i skryté projevy

Dostupné možnosti, ze kterých lze nyní ještě lépe těžit, ilustrujme na příkladu prvně zmiňovaného mikrokontroléru MSPM0G5187 s jádrem Arm^® Cortex^®-M0+ a s přispěním funkce pro detekci aktivačního slova – třeba u chytrých reproduktorů, které dokáží rozpoznávat hlas a probouzet zařízení na žádost uživatele [6]. Mikrofon zachytí zvukové vlny, které dle blokového diagramu dále postoupí analogovému vstupnímu obvodu AFE, kde již dochází ke zvýšení amplitudy signálu, odfiltrování šumu a následnému převodu do digitálního formátu. MCU zde pracuje s protokolem I²S pro přenos audia a interpretuje získaná data pomocí vlastního modelu neuronové sítě, takže dokáže určit, zda zazněla konkrétní klíčová slova. Pokud ano, systém rozpozná platný stav probuzení a dochází k aktivaci výkonnějšího procesoru, který nyní reaguje buď sám, nebo požadavek bezdrátově deleguje na cloudový model AI.

U produktů s hlasovým ovládáním klademe důraz na rychlost a přesnost. Pokud elektronika správně pochopí požadavek již na první pokus, nemusíme nic opakovat, ale ani zbytečně vyčkávat. Systém navíc nepřetržitě naslouchá příkazům a musí vše rychle i zpracovat, takže oceníme bleskové operace a také nízkou spotřebu energie. Mikrokontroléry si proto vystačí jen s desítkami miliwattů, což je oproti hlasovému procesoru (IO), který zdroj zatěžuje celými watty, stonásobně lepší výsledek. A to se nám s NPU ještě zkrátila doba, potřebná ke zpracování více než 90krát.

Na podobném principu, a to v ještě menším provedení (hodinky, prsteny apod.), lze jindy uživateli nabídnout i chytré sledování aktivity, včetně rozpoznávání gest. Nebo začneme s lokálními modely AI kupříkladu „naslouchat“ průmyslovému motoru (viz blokový diagram níže) a vyhledávat nepatrné anomálie. V dostatečném předstihu tak třeba odhalíme skrytou hrozbu, která se ještě nestačila naplno projevit. Dostupné příklady, ale i modely počítají v TI s odkazem na Edge AI Studio (CCStudio™) na desítky. A další budou přibývat.

Jiné, tentokrát již 200MHz mikrokontroléry AM13E23019 s 512kB pamětí typu Flash, které výrobce souběžně představuje, mají stále příznak Preview a zmiňujeme je proto samostatně. Uplatní se při adaptivním řízení nebo též prediktivní údržbě systémů s více motory, zde konkrétně čtyřmi. V elektrických spotřebičích, robotice, průmyslových systémech apod., navíc za přispění jediného čipu, který zde jako první skloubí výkonné jádro Arm^® Cortex^®-M33, výše skloňovaný akcelerátor NPU TinyEngine™ a k tomu ještě architekturu pro pokročilé řízení v reálném čase.

Odkazy:

[1] Tisková zpráva, https://www.ti.com/about-ti/newsroom/news-releases/2026/2026-03-10-ti-expands-microcontroller-portfolio-and-software-ecosystem-to-enable-edge-ai-in-every-device.html

[2] MCU TI jdou cestou AI. Lhostejno, kde, https://www.dps-az.cz/zpravy/id:104856/mcu-ti-jdou-cestou-ai-lhostejno-kde

[3] Před AI neutečete. A díky MCU od ST už ani neujedete, https://www.dps-az.cz/zpravy/id:104591/pred-ai-neutecete-a-diky-mcu-od-st-uz-ani-neujedete

[4] Hlavně diskrétně. 64 bodů při detekci osob vyloží AI, https://www.dps-az.cz/clanky/id:104658/hlavne-diskretne-64-bodu-pri-detekci-osob-vylozi-ai

[5] TI’s TinyEngine™ NPU unlocks edge AI acceleration in more embedded systems, https://www.ti.com/lit/po/sprt822a/sprt822a.pdf

[6] How edge AI-accelerated Arm^® Cortex^®-M0+ MCUs bring more brain power to electronics, https://www.ti.com/lit/ta/ssztdb8a/ssztdb8a.pdf

robenek@dps-az.cz