Una startup in fibra ottica potrebbe diventare la più dura concorrente di Nvidia

Una startup in fibra ottica potrebbe diventare la più dura concorrente di Nvidia

All’inizio di questo mese, una startup poco conosciuta con sede in Israele, CogniFiber, ha chiuso un round A da 6 milioni di euro con l’alto obiettivo di reinventare “come viene fatta l’informatica moderna”; Ne più ne meno. Una serie di e-mail con il co-fondatore di CogniFiber, il dottor Eyal Cohen, fa più luce (gioco di parole) su quello che potrebbe essere il cambiamento più fondamentale nella tecnologia informatica degli ultimi decenni.

Al centro delle rivendicazioni c'è Deeplight, la tecnologia brevettata sviluppata da CogniFiber che è all'avanguardia nel fibre computing, la capacità dei cavi in ​​fibra ottica di "elaborare algoritmi complessi nella fibra stessa prima che il segnale non riesca a raggiungere il terminale".

In altre parole, il tessuto in fibra stesso fa il lavoro pesante con una buona dose di elettronica. Con un proof of concept già disponibile, CogniFiber prevede di rilasciare il suo prototipo di sistema completo nell'aprile 2022, tra poche settimane (al momento in cui scrivo) e sarà protagonista della conferenza internazionale CLEO di maggio 2022, che si concentrerà su scienza del laser e applicazioni della fotonica.

Nessuna di queste tecnologie influenzerà gli utenti finali a breve termine; non aspettarti che venga utilizzato presto su laptop o smartphone. L'industria dell'IA utilizzerà la maggior parte dei vantaggi nei data center o nella ricerca.

"Miglioramento delle prestazioni di 100 volte"

Utilizzando Nvidia DGX-A100 come benchmark, il Dr. Cohen ha detto a TechRadar Pro che potrebbero raggiungere 500 milioni di attività al secondo utilizzando il confronto del benchmark standard, MLPerf, 100 volte in più rispetto alle prestazioni attuali di Nvidia.

E sono solo all'inizio; Il ridimensionamento delle prestazioni può essere ottenuto tramite fibre multicore (fino a 100 per fibra), utilizzando più lunghezze d'onda, utilizzando molti processori per sistema (fino a 000 per rack) e aggiungendo più rack.

Quanto tempo impiegherà la concorrenza a recuperare il ritardo? Esistono numerose aziende fotoniche basate sul silicio, tra cui lightelligence, lightmatter, celestial.ai e Luminous, ma il dottor Cohen insiste sul fatto che altre lotteranno per eguagliare le prestazioni e l'efficienza energetica di CogniFiber. Inoltre, la proprietà intellettuale isolata (11 domande di brevetto) potrebbe dissuadere altri dall'utilizzare un approccio simile.

Ma questo non è tutto; Si prevede che il sistema di rete neurale autocoder fotonico addestrabile consumerà solo 500 W, che è una frazione di quello utilizzato dal resto della concorrenza. Questo è un miglioramento di alcuni ordini di grandezza sull'importante metrica TOPS per watt. Entro il 2026, l'azienda prevede di raggiungere più di 100 operazioni Exa al secondo con un'efficienza di un POP/Watt.

Latenza, jitter e altro

Questo sistema soffre di jitter? Il dottor Cohen afferma che durante la fase iniziale "hanno sviluppato un meccanismo di temporizzazione basato su FPGA per ridurre al minimo ritardo e jitter e con un clock relativamente lento (0,2-1 Ghz, rispetto a 10-40 Ghz), un campione robusto del i valori vengono emessi attraverso la parte stabile del ciclo.

E le tariffe delle linee? Sebbene non si riferiscano alla velocità della linea, il task clock è l'orologio del sistema ottico o, come lo chiamano, l'orologio di iniezione dei dati del sistema ottico, "il nostro prototipo alfa punta a 50-100 Mhz (aumento di velocità 10x). 20x) e il nostro prototipo beta e prodotti da 0.5 Ghz (accelerazione 100x), velocità più elevate saranno disponibili in seguito, ha aggiunto Cohen.

Per quanto riguarda la latenza, è divisa in due fasi: la comunicazione (ricezione di blocchi di dati dai client: 10G alpha, 100G beta, 400G per i prodotti 2023) richiederebbe diversi msec, a seconda della dimensione e della distanza dei dati (come qualsiasi altro fornitore di servizi ). Fase di calcolo: fino a 100 ns di latenza (FPGA + I/O + ottica).

La fase beta dovrebbe essere raggiunta nel primo trimestre del 2023 come soluzione AI come servizio; I primi prodotti commerciali dovrebbero arrivare alla fine del 2023, con sistemi completi venduti per quasi 1 milione di dollari, a seconda dei servizi inclusi nel pacchetto del prodotto.