Apple maakt gebruik van ‘distillation’, een techniek waarbij de belangrijkste onderdelen van een groter model wordt overgedragen naar een kleiner model, om kleinere, efficiëntere AI-modellen te ontwikkelen voor verwerking op het apparaat zelf.

Hierdoor kan Apple de Gemini AI-modellen van Google gebruiken, en deze tegelijkertijd optimaliseren om te draaien op de iPhone.


Dit biedt meerdere voordelen, niet alleen werkt het ook zonder internetverbinding maar mèt zo’n verbinding gaat het in veel gevallen sneller dan wanneer er eerst met een server gecommuniceerd moet worden. Daarbij is het natuurlijk de beste optie voor de privacy, iets wat bij de opkomst van AI alleen nog maar belangrijker is geworden.

Hierbij fungeert het externe model van Apple als een leerling: het leert hoe de interne berekeningen van Gemini voor een bepaalde functie werken en bootst die verwerking na. Er wordt dan gekeken naar de resultaten die het veel grotere model genereert, en welke ‘redeneringsketen’ het Gemini-model daarbij gebruikt. Vervolgens kan dit worden gebruikt om het eigen kleinere model te trainen.

Het eindresultaat is een kleiner model dat precies dezelfde specifieke functie vervult als het grotere model. Dat kleinere model zou voor die functie ongeveer even snel en nauwkeurig werken (betaallink) als het oorspronkelijke Gemini-model.

Maar we zullen nog tot begin juni moeten wachten tot we dit allemaal in actie kunnen zien.