Nei settori dei telefoni cellulari, monitoraggio della sicurezza, automobili e realtà aumentata / realtà virtuale (AR / VR), tutti i tipi di applicazioni incorporate che vengono sviluppate o pianificate coinvolgono reti neurali e le applicazioni di rete neurale stanno esplodendo. Il campo dell'innovazione delle reti neurali è straordinario, la propria architettura è costantemente aggiornata e anche nuove reti, nuove applicazioni e mercati stanno emergendo all'infinito. Con l'approfondimento e la complessità delle applicazioni di rete neurale, i requisiti per le prestazioni di elaborazione aumentano di giorno in giorno. In meno di 4 anni, i requisiti di MAC / frame computing sono aumentati di circa 16 volte (vedere la Figura 1).
Figura 1 La crescita dei requisiti di MAC/frame computing
Con lo sviluppo delle reti neurali, la richiesta di incorporare processori (anziché utilizzare CPU e GPU) nei dispositivi continua ad aumentare. Tuttavia, la potenza di elaborazione e la velocità operativa della rete non hanno tenuto il passo con i requisiti di sviluppo delle applicazioni di rete neurale. Questo conflitto è particolarmente evidente nel campo delle applicazioni visive. Fino ad ora, soddisfare le esigenze delle applicazioni di rete neurale può fare affidamento solo sulle risorse dei data center tradizionali. Tuttavia, poiché sicurezza e latenza diventano considerazioni importanti, sta diventando più comune implementare reti neurali attraverso sistemi embedded per l'elaborazione dei dati in tempo reale. Sebbene la maggior parte della formazione sulla rete neurale possa essere eseguita offline, le applicazioni che utilizzano reti neurali devono incorporarla nel sistema.
In tutte le applicazioni embedded, l'AR/VR o la realtà mista affrontano sfide uniche. La maggior parte dei dispositivi nei campi di cui sopra sono dispositivi indossabili come caschi intelligenti, auricolari o occhiali intelligenti. Si basano sulla potenza della batteria e sono una delle considerazioni più importanti quando si sceglie una soluzione di rete neurale per il consumo di energia. Un altro requisito importante per le applicazioni AR/VR è ridurre la latenza, quindi le reti neurali devono implementare l'incorporamento dei dispositivi. Tutti questi dispositivi richiedono un qualche tipo di riconoscimento delle immagini, riconoscimento dei gesti, segmentazione della telecamera stereo, rilevamento 3D, rilevamento della testa, rilevamento degli occhi e funzionalità di rilevamento degli occhi. Esistono molte tecnologie di imaging diverse, ma nel tempo alcune di queste funzioni, come la comprensione semantica dell'ambiente, il riconoscimento dei gesti o il riconoscimento delle immagini, saranno tutte realizzate tramite reti neurali. Oltre alle reti neurali di imaging / visive, questi dispositivi impongono anche requisiti alle reti neurali audio / audio per ricevere comandi vocali.
Nell'ambiente tecnologico in rapida evoluzione di oggi, i produttori di apparecchiature AR/VR devono selezionare immediatamente le piattaforme per i prodotti da commercializzare nel 2019, 2020 e anche in seguito. Dopo l'introduzione della nuova rete neurale, a causa dei continui cambiamenti nella sua architettura, non possiamo garantire l'efficacia dell'attuale piattaforma di lavoro efficace nel sistema futuro. Inoltre, queste applicazioni richiedono anche una bassa latenza e un basso consumo energetico, aspetto particolarmente importante; ma vista la continua crescita dei requisiti di rete neurale e il continuo progresso di questa tendenza, dobbiamo ancora garantire un certo grado di flessibilità e lungimiranza.
Attualmente, ci sono due opzioni principali per l'implementazione di reti neurali: CPU/GPU o l'utilizzo di acceleratori hardware e DSP di imaging corrispondente. Ciascuna di queste due opzioni può risolvere alcune delle sfide affrontate dai progettisti; ma entrambi presentano alcuni compromessi insoddisfacenti in termini di facilità di sviluppo, efficienza energetica, latenza, spazio di aggiornamento futuro o prestazioni. L'acceleratore hardware e il DSP di imaging corrispondente sono una delle scelte dei dispositivi embedded, ma questa combinazione è inefficiente e genererà un consumo energetico non necessario. Oltre alle difficoltà di sviluppo, il software deve anche essere partizionato tra il DSP e l'acceleratore. Solo scaricare lo strato convoluzionale aumenterà significativamente il carico della trasmissione dei dati e influirà sull'efficienza. Inoltre, l'hardware è riparato al momento del tapeout, quindi questi acceleratori non avranno spazio per futuri aggiornamenti.
Le soluzioni DSP per reti neurali che soddisfano le esigenze delle applicazioni embedded devono soddisfare i seguenti requisiti: facile da sviluppare, in grado di gestire enormi quantità di dati, avere spazio per futuri aggiornamenti, utilizzare l'energia in modo efficiente e ridurre al minimo i ritardi.
Soluzione di cadenza: processore di segnale digitale (DSP) Tensilica Vision C5
Come soluzione ottimizzata per applicazioni di sensori di visione e fusione, Cadence Tensilica Vision C5 DSP è il primo DSP del settore dedicato all'elaborazione di reti neurali e adatto per l'architettura multiprocessore. Questa soluzione raggiunge una velocità senza precedenti e un basso consumo energetico e soddisfa tutti i requisiti della tecnologia di rete neurale di fascia alta.
La soluzione si basa su quasi 20 anni di esperienza su più processori Xtensa, con funzionalità quali condivisione della struttura della memoria, interruzioni consentite, code sincronizzate e debug multiprocessore sincronizzato. Vision C5 DSP può realizzare l'accelerazione di calcolo di tutti i livelli della rete neurale (livello convoluzionale, livello completamente connesso, livello di pooling e livello di normalizzazione), non solo la funzione del livello convoluzionale. Pertanto, viene rilasciata la capacità del principale DSP di elaborazione della visione di eseguire applicazioni di miglioramento dell'immagine in modo indipendente; mentre il Vision C5 DSP esegue attività di inferenza. Rimuovendo la trasmissione dati ridondante dell'acceleratore hardware, il consumo energetico del DSP Vision C5 è molto inferiore a quello dell'acceleratore di rete neurale esistente.
Vision C5 DSP ha una potenza di calcolo di 1TMAC/sec, in grado di soddisfare i sempre crescenti requisiti di calcolo delle reti neurali; dispone anche di calcoli accurati, ha un'architettura di progettazione multi-core e supporta soluzioni embedded multi-TMAC. Vision C5 DSP è rivolto ad applicazioni che spesso eseguono più reti neurali. Grazie alle sue caratteristiche programmabili, la soluzione ha spazio per aggiornamenti futuri e può supportare nuovi livelli man mano che il progetto cambia.
Il sistema di elaborazione della visione deve essere progettato in modo completo, applicabile a tutte le piattaforme e sviluppare simultaneamente hardware e software. Per sviluppare questa tecnologia, i progettisti devono utilizzare strumenti e IP che supportano algoritmi efficienti e la piattaforma hardware utilizzata deve anche soddisfare i requisiti di costo target e consumo energetico di ciascuna applicazione. Dal punto di vista del sistema, Cadence può supportare i progettisti di dispositivi di visione integrati per sviluppare prodotti trasformativi nel modo più rapido ed efficiente possibile.
Il nostro altro prodotto:
