@h0g3R@nrw.social @bjoern@social.sengotta.net Ich habe nur ein MacBook Air M2. Das ist jetzt nicht gerade das aktuellste high end Modell. 100 GB/s sind nicht die Welt. M4 pro hat schon 273 GB/s und M5 max schafft 307 GB/s. Und da die Speicherbandbreite hier das limitierenden Kriterium sind, dürften die Token/s durchaus (nahezu) linear skalieren und beim M5 Max wohl die 60 Token/s erreichen. Dedizierte aktuelle Grafikkarten sind aber immer schneller.