Il transformer domina i modelli linguistici dal 2017, ma costi, cache in crescita e contesti sempre più lunghi ne mostrano i limiti. Startup e laboratori sperimentano attenzione sparsa, power retention, modelli ibridi, diffusione e architetture per trovare alternative più efficienti e flessibili
L’articolo AI, alla ricerca di alternative al transformer: a che punto siamo proviene da Agenda Digitale.
Powered by WPeMatico