Dans les domaines de la téléphonie mobile, de la surveillance de la sécurité, de l'automobile et de la réalité augmentée / réalité virtuelle (AR / VR), tous les types d'applications embarquées en cours de développement ou de planification impliquent des réseaux de neurones, et les applications de réseaux de neurones explosent. Le domaine de l'innovation des réseaux neuronaux est extraordinaire, sa propre architecture est constamment mise à jour, et de nouveaux réseaux, de nouvelles applications et de nouveaux marchés émergent également à l'infini. Avec l'approfondissement et la complexité des applications de réseau neuronal, les exigences en matière de performances de calcul augmentent de jour en jour. En moins de 4 ans, les exigences de calcul MAC / trame ont été multipliées par 16 environ (voir Figure 1).
Figure 1 La croissance des exigences MAC / Frame Computing
Avec le développement des réseaux de neurones, la demande d'intégrer des processeurs (plutôt que d'utiliser des processeurs et des GPU) dans les appareils continue d'augmenter. Cependant, la puissance de traitement et la vitesse de fonctionnement du réseau n'ont pas suivi les exigences de développement des applications de réseau neuronal. Ce conflit est particulièrement évident dans le domaine des applications de la vision. Jusqu'à présent, répondre aux besoins des applications de réseaux neuronaux ne peut s'appuyer que sur les ressources des centres de données traditionnels. Cependant, à mesure que la sécurité et la latence deviennent des considérations importantes, il est de plus en plus courant de mettre en œuvre des réseaux de neurones via des systèmes embarqués pour le traitement des données en temps réel. Bien que la plupart des formations sur les réseaux neuronaux puissent être effectuées hors ligne, les applications qui utilisent des réseaux neuronaux doivent l'intégrer dans le système.
Dans toutes les applications embarquées, AR / VR ou réalité mixte fait face à des défis uniques. La plupart des appareils dans les domaines ci-dessus sont des appareils portables tels que des casques intelligents, des écouteurs ou des lunettes intelligentes. Ils reposent sur l'alimentation de la batterie et constituent l'une des considérations les plus importantes lors du choix d'une solution de réseau neuronal pour la consommation d'énergie. Une autre exigence importante pour les applications AR / VR est de réduire la latence, de sorte que les réseaux de neurones doivent implémenter l'incorporation de périphériques. Tous ces appareils nécessitent une sorte de reconnaissance d'image, de reconnaissance gestuelle, de segmentation de caméra stéréo, de détection 3D, de suivi de la tête, de détection des yeux et de suivi des yeux. Il existe de nombreuses technologies d'imagerie différentes, mais au fil du temps, certaines de ces fonctions, telles que la compréhension de l'environnement sémantique, la reconnaissance des gestes ou la reconnaissance d'images, seront toutes réalisées via des réseaux de neurones. En plus des réseaux neuronaux d'imagerie / visuel, ces dispositifs imposent également des exigences sur les réseaux neuronaux son / audio pour recevoir des commandes vocales.
Dans l'environnement technologique en évolution rapide d'aujourd'hui, les fabricants d'équipements AR / VR doivent immédiatement sélectionner des plates-formes pour les produits à commercialiser en 2019, 2020 et même plus tard. Après l'introduction du nouveau réseau de neurones, en raison des changements continus de son architecture, nous ne pouvons pas garantir l'efficacité de la plate-forme de travail effective actuelle dans le futur système. De plus, ces applications nécessitent également une faible latence et une faible consommation d'énergie, ce qui est également particulièrement important; mais compte tenu de la croissance continue des besoins en réseaux de neurones et de la progression continue de cette tendance, nous devons encore garantir un certain degré de flexibilité et d'avenir.
Actuellement, il existe deux options principales pour la mise en œuvre de réseaux neuronaux: CPU / GPU ou utilisation d'accélérateurs matériels et DSP d'imagerie correspondant. Ces deux options peuvent chacune résoudre certains des défis auxquels sont confrontés les concepteurs; mais les deux ont des compromis insatisfaisants en termes de facilité de développement, d'efficacité énergétique, de latence, d'espace de mise à niveau future ou de performances. L'accélérateur matériel et le DSP d'imagerie correspondant sont l'un des choix des périphériques embarqués, mais cette combinaison est inefficace et générera une consommation d'énergie inutile. Outre les difficultés de développement, le logiciel doit également être partitionné entre le DSP et l'accélérateur. Seul le déchargement de la couche convolutive augmentera considérablement la charge de transmission des données et affectera l'efficacité. De plus, le matériel est fixé au moment de la sortie de bande, de sorte que ces accélérateurs n'auront pas de place pour de futures mises à niveau.
Les solutions DSP de réseau neuronal qui répondent aux besoins des applications embarquées doivent répondre aux exigences suivantes: faciles à développer, capables de gérer d'énormes quantités de données, ont de la place pour de futures mises à niveau, utilisent efficacement l'énergie et minimisent les délais.
Solution de cadence: processeur de signal numérique (DSP) Tensilica Vision C5
En tant que solution optimisée pour les applications de capteurs de vision et de fusion, Cadence Tensilica Vision C5 DSP est le premier DSP de l'industrie dédié au traitement des réseaux neuronaux et adapté à l'architecture multiprocesseur. Cette solution atteint une vitesse sans précédent et une faible consommation d'énergie, et répond à toutes les exigences de la technologie de réseau neuronal haut de gamme.
La solution est basée sur près de 20 ans d'expérience multiprocesseur Xtensa, avec des fonctionnalités telles que le partage de la structure de la mémoire, les interruptions autorisées, les files d'attente synchronisées et le débogage multiprocesseur synchronisé. Vision C5 DSP peut réaliser l'accélération de calcul de toutes les couches de réseau neuronal (couche convolutive, couche entièrement connectée, couche de regroupement et couche de normalisation), pas seulement la fonction de couche convolutive. Par conséquent, la capacité du DSP de traitement de vision principal est libérée pour exécuter des applications d'amélioration d'image indépendamment; tandis que le Vision C5 DSP exécute des tâches d'inférence. En supprimant la transmission de données redondante de l'accélérateur matériel, la consommation d'énergie du Vision C5 DSP est bien inférieure à celle de l'accélérateur de réseau neuronal existant.
Vision C5 DSP a une puissance de calcul de 1 TMAC / s, ce qui peut répondre aux exigences informatiques toujours croissantes des réseaux neuronaux; il dispose également de calculs précis, d'une architecture de conception multicœur et prend en charge les solutions intégrées multi-TMAC. Vision C5 DSP est destiné aux applications qui exécutent souvent plusieurs réseaux de neurones. En raison de ses caractéristiques programmables, la solution a de la place pour de futures mises à niveau et peut prendre en charge de nouvelles couches à mesure que la conception change.
Le système de traitement de la vision doit être conçu de manière globale, applicable à toutes les plates-formes et développer simultanément du matériel et des logiciels. Afin de développer cette technologie, les concepteurs doivent utiliser des outils et une adresse IP prenant en charge des algorithmes efficaces, et la plate-forme matérielle utilisée doit également répondre aux exigences de coût et de consommation d'énergie cibles de chaque application. Du point de vue du système, Cadence peut aider les concepteurs de dispositifs de vision embarqués à développer des produits transformateurs aussi rapidement et efficacement que possible.
Notre autre produit:
