K-Search porta l'esperienza CUDA su Apple Silicon e oltre

“From CUDA to MLX” pone una domanda concreta: si può trasferire in modo automatico la competenza maturata nei kernel CUDA verso Apple Silicon, senza riscrivere a mano mesi di lavoro? K-Search prova a farlo con ricerca evolutiva sui kernel, prendendo come indizi le ottimizzazioni note e testandole sul nuovo target MLX¹.

Il contesto è netto. CUDA ha raccolto anni di ottimizzazioni su operazioni critiche, come l’attenzione e i modelli a spazio di stato. Quei kernel rifiniti a mano valgono migliaia di ore di ingegneria. Altre piattaforme, tra cui Apple Silicon, crescono ma non hanno la stessa profondità di implementazioni curate. La tesi: invece di ripartire da zero a ogni cambio di hardware, si tenta di riusare sistematicamente ciò che già funziona in CUDA, lasciando alla ricerca automatizzata il compito di adattarlo¹.

K-Search si presenta come motore di esplorazione. Non copia il codice alla cieca. Genera varianti dei kernel, le valuta sul nuovo hardware e conserva ciò che funziona meglio. Le “best practice” diventano ipotesi da provare, non assunti intoccabili. Il post lo dice esplicitamente: l’obiettivo è portare “decenni di expertise sui kernel” su MLX, verificando se quell’eredità regge su Apple Silicon¹.

Il nodo da sciogliere riguarda proprio i costi di porting. I kernel GPU restano difficili da scrivere e ancora più da migrare tra architetture molto diverse. Ottimizzare per un chip significa spesso ripetere la stessa trafila su un altro. Automatizzare questa fase punta a evitare duplicazioni di lavoro quando si cambia vendor. Se la ricerca evolutiva trova versioni valide delle stesse operazioni su MLX, una parte del patrimonio CUDA diventa riutilizzabile anche fuori dall’ecosistema Nvidia¹.

Il post collega la scelta all’accelerazione degli strumenti di sviluppo. I generatori di codice comprimono in minuti ciò che prima richiedeva mesi. In questo quadro, spostare l’ottimizzazione dai ritocchi manuali a un ciclo sperimentale guidato dagli algoritmi appare una mossa pragmatica: si riduce la riscrittura, si libera tempo per l’innovazione sui modelli e sulle architetture superiori¹.

Gli esempi citati tengono i piedi per terra. Attenzione e modelli a spazio di stato: due blocchi che in CUDA hanno versioni lucidate. Su Apple Silicon, ricrearle richiede tempo e tentativi. K-Search offre un metodo per accelerare questi tentativi, a partire da ciò che già sappiamo funzionare altrove. Non promette risultati garantiti. Formula una prova misurabile: quanto di quella conoscenza sopravvive al cambio di piattaforma?¹

Se l’esperimento regge su MLX, l’impatto è immediato per chi sviluppa librerie di base: pipeline di porting più corte e un percorso chiaro per estendere le migliorie a nuovi acceleratori senza moltiplicare sforzi paralleli. È anche un banco di prova su come “decenni di expertise sui kernel” possano diventare un dataset di idee da testare, non un bagaglio vincolato a un solo ecosistema¹.