Anuncian mejoras sustanciales de rendimiento de Llama file en CPU

Justine Tunney anuncia en blog una serie de mejoras para ejecutar modelos LLM localmente en CPU de forma mucho más eficiente.

Enlace de referencia: justine.lol/matmul/

Transcript