Het ontwerpen van een eenvoudig sensorgebaseerd IoT-apparaat is niet moeilijk, maar het bouwen van een IoT-apparaat met edge machine learning (ML) -verwerkingsmogelijkheden is een compleet andere zaak.De speciale processorserie, ontwikkelingsbureaus en begeleidende software die door NXP Semiconductors zijn gelanceerd, zijn gericht op het oplossen van belangrijke uitdagingen op het gebied van functionaliteit, prestaties en ontwikkeling,het versnellen van de implementatie van complexe randfuncties van kunstmatige intelligentie (AI) in industriële en IoT-toepassingen.
Ontwerpers zijn begonnen met het gebruik van edge AI-oplossingen die ML-afleidingen kunnen uitvoeren op apparaten met een laag vermogen zonder afhankelijk te zijn van cloudbronnen.sensorgegevenspatroonanalyse, en basisobjectdetectie kan doorgaans worden afgehandeld door energiezuinige processors die ML-modellen uitvoeren (gebouwd met behulp van modellenoptimalisatietools en -frameworks).Flessklootjes ontstaan wanneer u probeert de processorbronnen uit te breiden om complexere problemen aan te pakken., met name die welke een real-time of bijna real-time reactie vereisen.
Hoe multi-core processors ML-afleidingen aanzienlijk versnellen
NXP Semiconductors kan met zijn i.MX 93-serie applicatieprocessors gemakkelijk de functionele en prestatieproblemen van deze opkomende real-time edge AI-ontwerpen aanpakken (figuur 1).
Figuur 1: De i.MX 93-toepassingsprocessor integreert verwerkingsmiddelen, beveiligingssystemen, geheugen en een compleet scala aan klokken, timers, verbindingsopties en interfaces.het leggen van de basis voor edge AI-ontwerp. (Fotobron: NXP Semiconductors)
Deze serie processors integreert rijke functies, waaronder multimedia, opslag, interfaces en verbindingsopties, en combineert opvallende verwerkingsmiddelen:
Maximaal twee krachtige Arm Cortex-A55 applicatieprocessorkernen voor Linux-gebaseerde applicatieverwerkingstaken
Een arm Cortex-M33-platform met een ultra-laag vermogen voor real-time beheersverwerking met een lage latentie
Een Arm Ethos-U65 microNPU neurale verwerkingseenheid (NPU) voor efficiënte uitvoering van ML inferentie
NXP's geïntegreerde EdgeLock Secure Enclave (ESE) biedt een vertrouwensbasis voor veilig opstarten en sleuteldiscipline, realtime encryptie en andere functies die nodig zijn om randtoepassingen te beschermen
Door gebruik te maken van de mogelijkheden van deze processors, kunnen grote AI-toepassingen worden onderverdeeld in meerdere gemakkelijk te beheren onderdelen:NPU's nemen de rekentaak over van de algoritmen van de neurale netwerken, het verminderen van de belasting op Cortex-A55-cores en het vermijden van de preemption van hun lopende applicatie code bronnen.de Cortex-M33-kern blijft zich richten op het verwerken van taken met lage latentie, zoals het verzamelen van sensorgegevens of procesbesturing, terwijl de ingebouwde ESE de systeembeveiliging, de softwarecode en de kritieke gegevens gedurende het gehele proces beschermt.Het volgende zal de mogelijkheid van NPU introduceren om machine learning inferentie van de Cortex-A55 kern af te laden, wat een belangrijke ondersteuning is voor het bereiken van bijna real-time responsive edge AI-applicaties.
Hoe hardware- en softwareontwikkelingsbureaus applicatieontwikkeling versnellen
Hoewel de functionaliteit en prestaties van de processor cruciaal zijn,de efficiënte ontwikkeling van edge AI-toepassingen is meer afhankelijk van het vermogen om snel de kenmerken van de processor te begrijpen en snel effectieve software te bouwenHet FRDM-IMX93-ontwikkelingsbord van NXP (figuur 2), gecombineerd met de bijbehorende softwareontwikkelingsbronnen, kan alles bieden wat nodig is om te beginnen met het maken van applicaties.