un mio amico ha creato questo simultore AI, ti dice quanti token/sec puoi avere con hardware/m modello che hai o oviceversa se hai un obiettivo di velocietà quale hardware/modello scegliere https://llmsimulation.ht-... "È un prototipo, semplice, ma funzionale.
Se ti occupi di hashtag#AI, product, infra o UX, mi farebbe piacere un feedback." da Linkedin Francesco Menegoni