Un nuovo hardware permette di ridurre l’uso di energia della Intelligenza Artificiale di 1000 volte

I ricercatori dell’Università del Minnesota Twin Cities hanno presentato un dispositivo hardware che potrebbe rivoluzionare l’informatica dell’intelligenza artificiale (AI).

Il team sostiene che questo dispositivo, denominato Computational Random-Access Memory (CRAM), affronterà una delle sfide più pressanti del settore, riducendo il consumo di energia per le applicazioni di IA di almeno 1.000 volte. Il paper relativo è stato pubblicato su Unconventional Computing.

L’Agenzia Internazionale dell’Energia (AIE) ha recentemente previsto che il consumo di energia per l’IA è destinato a più che raddoppiare, passando da 460 terawattora (TWh) nel 2022 a uno sbalorditivo 1.000 TWh entro il 2026, equivalente all’intero consumo di elettricità del Giappone.

“Questo lavoro è la prima dimostrazione sperimentale di CRAM, in cui i dati possono essere elaborati interamente all’interno dell’array di memoria senza la necessità di lasciare la griglia in cui un computer memorizza le informazioni”, ha spiegato Yang Lv, ricercatore post-dottorato presso il Dipartimento di Ingegneria elettrica e informatica dell’università e autore principale della ricerca.

I metodi tradizionali di intelligenza artificiale prevedono il trasferimento di dati tra le unità logiche (dove le informazioni vengono elaborate) e la memoria (dove vengono memorizzate), con un notevole consumo di energia. CRAM, invece, elimina la necessità di questi trasferimenti ad alta intensità energetica mantenendo i dati all’interno della memoria.

Un dispositivo hardware personalizzato prevede di aiutare l’intelligenza artificiale a essere più efficiente dal punto di vista energetico. (Fonte: Università del Minnesota Twin Cities) Un guadagno che vale due decenni I ricercatori stimano che un acceleratore di apprendimento automatico basato su CRAM potrebbe ottenere un risparmio energetico fino a 2.500 volte rispetto ai metodi convenzionali.

Questa scoperta non è avvenuta da un giorno all’altro, ma è il risultato di oltre 20 anni di ricerca guidatav ne nWang,o Distinguished McKnight Professor e Robert F. Hartmann Chair del Dipartimento di Ingegneria elettrica e informatica.

“Il nostro concetto iniziale di utilizzare le celle di memoria direttamente per l’elaborazione 20 anni fa era considerato folle”, ha dichiarato Wang in un comunicato stampa. “Con un gruppo di studenti in continua evoluzione dal 2003 e un vero e proprio team di facoltà interdisciplinare costruito all’Università del Minnesota – dalla fisica, alla scienza e all’ingegneria dei materiali, all’informatica e all’ingegneria, alla modellazione e al benchmarking e alla creazione di hardware – siamo stati in grado di ottenere risultati positivi e ora abbiamo dimostrato che questo tipo di tecnologia è fattibile ed è pronta per essere incorporata nella tecnologia.”

La base del CRAM

L’architettura CRAM si basa sul precedente lavoro del team sulle giunzioni magnetiche a tunnel (MTJ) e sui dispositivi nanostrutturati. Questi ultimi hanno già trovato applicazione nei dischi rigidi, nei sensori e in altri sistemi microelettronici. Le MTJ costituiscono la base della memoria magnetica ad accesso casuale (MRAM), che è stata implementata in microcontrollori e smartwatch.

Ripensare l’architettura dei computer per l’intelligenza artificiale La CRAM rappresenta un cambiamento fondamentale rispetto alla tradizionale architettura di von Neumann, che è stata la base della maggior parte dei computer moderni. Consentendo il calcolo direttamente all’interno delle celle di memoria, elimina il collo di bottiglia tra calcolo e memoria che da tempo affligge la progettazione dei computer.

“Come substrato di calcolo in-memory digitale estremamente efficiente dal punto di vista energetico, CRAM è molto flessibile in quanto il calcolo può essere eseguito in qualsiasi posizione dell’array di memoria“, ha sottolineato Ulya Karpuzcu, professore associato presso il Dipartimento di Ingegneria elettrica e informatica e coautore dell’articolo.

“Di conseguenza, possiamo riconfigurare la CRAM per soddisfare al meglio le esigenze di prestazioni di una serie di algoritmi di intelligenza artificiale”.

La tecnologia sfrutta i dispositivi spintronici, che utilizzano lo spin degli elettroni piuttosto che la loro carica elettrica per memorizzare i dati. Questo approccio offre vantaggi significativi rispetto ai chip tradizionali basati su transistor, tra cui una maggiore velocità, un minore consumo energetico e la resistenza ad ambienti difficili.