SubQ: la startup che dice di aver sbloccato il collo di bottiglia degli LLM
Scelta dalla redazioneSubquadratic, startup di Miami, ha presentato SubQ, modello con sparse attention dinamica che promette un contesto da 12 milioni di token e costi di inferenza fino a 56 volte inferiori a FlashAttention. Gli esperti indipendenti chiedono però verifiche su scala produttiva.
Perché conta
Se confermata, l'ottimizzazione abbatterebbe drasticamente i costi di elaborazione di contratti, documentazione tecnica e contenuti lunghi via AI.