
Apple wil nog veel meer AI lokaal draaien
Apple onderzoekt manieren om nog grotere AI-modellen rechtstreeks op iPhones te draaien, mogelijk met behulp van technologie van
PrismML. Dit zou meer Apple Intelligence-functies op het apparaat zelf mogelijk maken, waardoor de kosten dalen en de privacy van gebruikers wordt verbeterd.
Dat er gesprekken met PrismML gaande zijn komt
van The Information (betaallink), dit is op dit moment de enige bron voor dit nieuws.
PrismML zou er inmiddels in geslaagd zijn om Qwen 3.6, het open-source grote taalmodel van Alibaba, zo te verkleinen dat het volledig op een iPhone 17 Pro kan draaien. Het model heeft 27 miljard parameters, wat groter is dan het AFM 3 Core Advanced-model van Apple en dat op dezelfde iPhone kan draaien (dat telt 20 miljard parameters).
Het model van Apple vormt de basis voor Apple Intelligence in iOS 27, zoals bijvoorbeeld de meer expressieve stemmen van Siri AI en verbeterde systeemwijde dicteerfuncties op de iPhone 17 Pro- en iPhone Air-modellen.
Maar het grootste verschil tussen AFM 3 Core Advanced van Apple en het model van PrismML is niet zozeer de toegenomen parameters, hoewel die natuurlijk ook meegenomen zijn, maar dat ze allemaal tegelijkertijd actief kunnen zijn.
Van de 20 miljard parameters van het model van Apple kunne er maximaal 4 miljard actief zijn, een toename naar 27 miljard zou dus een enorme sprong voorwaarts betekenen.
Als hiermee inderdaad grotere modellen rechtstreeks op iPhones kunnen draaien zouden meer Apple Intelligence-functies op het apparaat zelf kunnen worden uitgevoerd in plaats van op de Private Cloud Compute-servers van Apple. En dat is zowel goed voor de privacy als voor de kosten voor Apple, want er zou dan mogelijk minder server-ruimte nodig zijn.
Bij dat laatste is nog wel een kleine kanttekening, want AI lijkt tot nu toe een rupsje nooit-genoeg, vooruitgang betekent zelden besparingen op servers en het bijbehorende grote energieverbruik, maar in verreweg de meeste gevallen vertaalt het zich in nog meer functies en mogelijkheden.