2026-09-23 10:52 UTC
@thoralf@gruene.social 20 tps ist ok, aber ich dachte da ginge mehr auf apple silicon. Da ist jede pascal und aufwärts Karte um Größenordnungen schneller.
Mit ner 3060 machste nix falsch wenn sie günstig ist.
@bjoern@social.sengotta.net
Replies (1)
-
@thoralf@gruene.social 2026-09-23 10:56
@h0g3R@nrw.social @bjoern@social.sengotta.net Ich habe nur ein MacBook Air M2. Das ist jetzt nicht gerade das aktuellste high end Modell. 100 GB/s sind nicht die Welt. M4 pro hat schon 273 GB/s und M5 max schafft 307 GB/s. Und da die Speicherbandbreite hier das limitierenden Kriterium sind, dürften die Token/s durchaus (nahezu) linear skalieren und beim M5 Max wohl die 60 Token/s erreichen. Dedizierte aktuelle Grafikkarten sind aber immer schneller.