Hardware

Ranked by memory bandwidth, which is what actually governs token generation speed — not teraflops, and not core count.

allNVIDIA 100AMD 60Apple 55Intel 24
AcceleratorMemory○Bandwidth○Tensor FP16○TDP○Models fit◐
Apple M1 Ultraunified64 GB48 usable819——1774
Apple M1 Ultraunified128 GB96 usable819——1815
Apple M3 Ultraunified96 GB72 usable819——1813
Apple M3 Ultraunified512 GB384 usable819——1878
Apple M2 Ultraunified128 GB96 usable819——1815
Apple M2 Ultraunified192 GB144 usable819——1847
Apple M2 Ultraunified64 GB48 usable819——1774
Apple M3 Ultraunified256 GB192 usable819——1861
Apple M5 Maxunified64 GB48 usable614——1774
Apple M5 Maxunified128 GB96 usable614——1815
Apple M5 Maxunified48 GB36 usable614——1697
Apple M4 Maxunified48 GB36 usable546——1697
Apple M4 Maxunified128 GB96 usable546——1815
Apple M4 Maxunified64 GB48 usable546——1774
Apple M5 Maxunified36 GB27 usable461——1661
Apple M3 Maxunified48 GB36 usable410——1697
Apple M1 Maxunified32 GB24 usable410——1635
Apple M1 Maxunified64 GB48 usable410——1774
Apple M4 Maxunified36 GB27 usable410——1661
Apple M2 Maxunified32 GB24 usable410——1635
Apple M2 Maxunified64 GB48 usable410——1774
Apple M2 Maxunified96 GB72 usable410——1813
Apple M3 Maxunified64 GB48 usable410——1774
Apple M3 Maxunified128 GB96 usable410——1815
Apple M5 Prounified64 GB48 usable307——1774
Apple M3 Maxunified36 GB27 usable307——1661
Apple M3 Maxunified96 GB72 usable307——1813
Apple M5 Prounified24 GB18 usable307——1429
Apple M5 Prounified48 GB36 usable307——1697
Apple M4 Prounified64 GB48 usable273——1774
Apple M4 Prounified48 GB36 usable273——1697
Apple M4 Prounified24 GB18 usable273——1429
Apple M1 Prounified32 GB24 usable205——1635
Apple M1 Prounified16 GB12 usable205——1064
Apple M2 Prounified32 GB24 usable205——1635
Apple M2 Prounified16 GB12 usable205——1064
Apple M3 Prounified18 GB14 usable154——1143
Apple M5unified12 GB9 usable154——905
Apple M5unified16 GB12 usable154——1064
Apple M5unified24 GB18 usable154——1429
Apple M5unified32 GB24 usable154——1635
Apple M3 Prounified36 GB27 usable154——1661
Apple M4unified32 GB24 usable120——1635
Apple M4unified16 GB12 usable120——1064
Apple M4unified12 GB9 usable120——905
Apple M4unified8 GB6 usable120——532
Apple M4unified24 GB18 usable120——1429
Apple M3unified16 GB12 usable102——1064
Apple M2unified16 GB12 usable102——1064
Apple M3unified8 GB6 usable102——532
Apple M3unified24 GB18 usable102——1429
Apple M2unified8 GB6 usable102——532
Apple M2unified24 GB18 usable102——1429
Apple M1unified8 GB6 usable68——532
Apple M1unified16 GB12 usable68——1064
○Spec sheet◐Predictedwhat these mean