Bij de introductie van Apple Intelligence werd duidelijk dat dit alleen lokaal werkt op een Mac of iPad met een M-chip of een iPhone 15 Pro of Pro Max met A17 Pro-chip. Op het internet natuurlijk voer voor speculaties dat Apple dit alleen maar doet om meer iPhones te verkopen.

Deze vraag kwam dan ook aan bod tijdens The Talk Show van John Gruber met Apple’s Greg ‘Joz’ Joswiak, Craig Federighi en John Giannandrea.


Op 1:20:32 vraagt host en interviewer John Gruber waarom daar de grens werd getrokken, Apple’s senior vice president of Machine Learning and AI Strategy John Giannandrea antwoordt daar het volgende op, en senior vice president of Worldwide Marketing Greg Joswiak vult het aan:

Giannandrea: So these models, when you run them at run times, it's called inference, and the inference of large language models is incredibly computationally expensive. And so it's a combination of bandwidth in the device, it's the size of the Apple Neural Engine, it's the oomph in the device to actually do these models fast enough to be useful. You could, in theory, run these models on a very old device, but it would be so slow that it would not be useful.

Gruber: So it's not a scheme to sell new iPhones?

Joswiak: No, not at all. Otherwise, we would have been smart enough just to do our most recent iPads and Macs, too, wouldn't we?

De vertaling hiervan:

Giannandrea: Deze modellen, als je ze uitvoert op de momenten waarop ze worden gemaakt, heet inferentie, en de inferentie van grote taalmodellen kost ongelooflijk rekenkracht. Het is dus een combinatie van bandbreedte in het apparaat, de grootte van de Apple Neural Engine en de kracht van het apparaat om deze modellen snel genoeg uit te voeren om bruikbaar te zijn. Je zou deze modellen in theorie kunnen uitvoeren op een heel oud apparaat, maar het zou zo langzaam zijn dat het niet werkt.

Gruber: Dus het is geen plan om nieuwe iPhones te verkopen?

Joswiak: Nee, helemaal niet. Anders zouden we toch ook zo slim zijn geweest om gewoon onze meest recente iPads en Macs te doen?

De hele video is trouwens een aanrader voor alle echte geeks onder ons, zo kom je bijvoorbeeld te weten dat er voor Private Cloud Compute niet alleen eigen chips werden gebruikt, maar dat er ook een apart besturingssysteem voor is geschreven.

Meer over Apple Intelligence is te vinden in dit persbericht, op deze pagina en in de video’s hieronder.