geplaatst door: Robert
https://www.macfreak.nl/modules/news/images/Siri-AI-iOS27-icoon.jpg
Apple wil nog veel meer AI lokaal draaien
Apple onderzoekt manieren om nog grotere AI-modellen rechtstreeks op iPhones te draaien, mogelijk met behulp van technologie van PrismML. Dit zou meer Apple Intelligence-functies op het apparaat zelf mogelijk maken, waardoor de kosten dalen en de privacy van gebruikers wordt verbeterd.

Dat er gesprekken met PrismML gaande zijn komt van The Information (betaallink), dit is op dit moment de enige bron voor dit nieuws.


PrismML zou er inmiddels in geslaagd zijn om Qwen 3.6, het open-source grote taalmodel van Alibaba, zo te verkleinen dat het volledig op een iPhone 17 Pro kan draaien. Het model heeft 27 miljard parameters, wat groter is dan het AFM 3 Core Advanced-model van Apple en dat op dezelfde iPhone kan draaien (dat telt 20 miljard parameters).

Het model van Apple vormt de basis voor Apple Intelligence in iOS 27, zoals bijvoorbeeld de meer expressieve stemmen van Siri AI en verbeterde systeemwijde dicteerfuncties op de iPhone 17 Pro- en iPhone Air-modellen.

Maar het grootste verschil tussen AFM 3 Core Advanced van Apple en het model van PrismML is niet zozeer de toegenomen parameters, hoewel die natuurlijk ook meegenomen zijn, maar dat ze allemaal tegelijkertijd actief kunnen zijn.

Van de 20 miljard parameters van het model van Apple kunne er maximaal 4 miljard actief zijn, een toename naar 27 miljard zou dus een enorme sprong voorwaarts betekenen.

Als hiermee inderdaad grotere modellen rechtstreeks op iPhones kunnen draaien zouden meer Apple Intelligence-functies op het apparaat zelf kunnen worden uitgevoerd in plaats van op de Private Cloud Compute-servers van Apple. En dat is zowel goed voor de privacy als voor de kosten voor Apple, want er zou dan mogelijk minder server-ruimte nodig zijn.

Bij dat laatste is nog wel een kleine kanttekening, want AI lijkt tot nu toe een rupsje nooit-genoeg, vooruitgang betekent zelden besparingen op servers en het bijbehorende grote energieverbruik, maar in verreweg de meeste gevallen vertaalt het zich in nog meer functies en mogelijkheden.

Klik hier voor informatie over het onder de aandacht brengen van producten of diensten op MacFreak.
Apple wil nog veel meer AI lokaal draaien
vandaag 13:03    reactie #1
geplaatst door: doctor_apple
IN plaats van dat we telefoons krijgen met 40 uur of zelfs 45 uur in de super zuinige stand aan standby tijd, houden we de huidige tijd, maar gaat de processor als maar meer rekenen en "werk voor jou doen". Niet alleen dat "beslissing voor jou maken". Als een babysitter, of wil je de donkere variant: als die verzorger op de geriatrische afdeling van alzheimer patienten ...

... zelf denken is niet nodig, er wordt voor u gedacht ... Prachtig vooruitzicht voor de samenleving ... En of dit nu lokaal gebeurd of op de server maakt zeker wat uit, maar ik zie niet dat de server minder taken krijgt, maar gewoon : andere taken ...

Rupsje nooit genoeg, vond ik een mooie afsluiter  :thumbs-up: in het artikel.

Kortom, zoals ik in een andere thread al schreef: Apple zit nu echt op de AI bandwagon. En nu lijken ze een andere weg zijn ingeslagen dan de rest, dat is niet helemaal waar. AI chips op Intel en AMD alsook Snapdragon zijn er, en sommige sterker op het AI stuk dan Apple's implementatie, maar qua software loopt Apple voorop. Oftewel, dit kunnen ze terwijl de rest ervan droomt. Maar of ik nu blij wordt van nog meer AI. Manueel dingen verwerken heeft ook z'n voordelen voor geheugen training :-)
Apple wil nog veel meer AI lokaal draaien
vandaag 13:42    reactie #2
geplaatst door: Peter L
... zelf denken is niet nodig, er wordt voor u gedacht ... Prachtig vooruitzicht voor de samenleving ...

Dat denk ik ook.
Niet dat AI niet nuttig kan zijn natuurlijk, maar ik gruw ervan om te weten dat steeds meer mensen niet meer zélf zullen gaan nadenken - met alle gevolgen vandien, als de techgiganten (of erger) gaan bepalen wat, hoe en waarom...
Apple wil nog veel meer AI lokaal draaien
vandaag 14:07    reactie #3
geplaatst door: ouwemac
Doemdenken…….
In de 200+ jaar dat ik nu leef is die angst al heel vaak voorbij gekomen.
En steeds krabbelde de mens weer op en leefde verder.
Het was en zal altijd een kleine minderheid zijn die boven de rest uitsteekt.
Maar die wispelturige grote meerderheid zorgt ervoor dat die minderheid niet teveel macht krijgt. Wacht maar af en hou ze in de gaten.
En gebruik hun producten om je te organiseren.🙏🏻🙏🏻🙏🏻🙏🏻💪💪💪💪💪
Ik ben sprakeloos
Apple wil nog veel meer AI lokaal draaien
vandaag 14:56    reactie #4
geplaatst door: doctor_apple
Doemdenken…….
In de 200+ jaar dat ik nu leef is die angst al heel vaak voorbij gekomen.
En steeds krabbelde de mens weer op en leefde verder.
Het was en zal altijd een kleine minderheid zijn die boven de rest uitsteekt.
Maar die wispelturige grote meerderheid zorgt ervoor dat die minderheid niet teveel macht krijgt. Wacht maar af en hou ze in de gaten.
En gebruik hun producten om je te organiseren.🙏🏻🙏🏻🙏🏻🙏🏻💪💪💪💪💪

Dat is wat ik wil geloven, maar als ik kijk bij jongeren, die om communicatieadvies vragen in relaties : "moet ik hem nu wel of niet bellen?", als ik managers zie CVs door AI te halen, ook al heeft de policy het niet toegestaan, als ik mensen zie maaltijden te plannen en te zoeken, en sommigen zelfs onrustig te worden als de AI niet beschikbaar is, als ik zie dat mensen relatie problemen, maar ook AI gebruiken als "surrogaat psycholoog", dan ben ik iets minder optimistisch.

Apple wil nog veel meer AI lokaal draaien
vandaag 16:02    reactie #5
geplaatst door: ouwemac
Wat jij schrijft noem ik dus doemdenken doctor.
Als jij gelijk krijgt wat veranderd er dan eigenlijk?
De grote meerderheid laat zich toch al sturen en leiden.
Toen ik een puber waa vroeg ik iemand om advies die populair was. Zijn advies heb ik opgevolgd en een blauwtje gelopen. Daarna ben ik anderen om advies gaan vragen. Ik was namelijk een onzeker verlegen jochie. Uiteindelijk ben ik mijn eigen plan gaan trekken en trof ik de juiste toon. En niet onbelangrijk: lukte het wel.
Als je chatbots bekijkt als die raadgevers snap je wat ik bedoel.

En die populaire jongen? Die bleek niet zo fris te zijn. Die zou nu veroordeeld worden voor ongewenste intimiteiten.
Ik bedoel maar…… Die chatbots verdwijnen of worden aan banden gelegd door de EU.
Zoals Meta

En stel dat jouw vrees bewaarheid wordt en ik de ernst niet inzie?
Dan gebeurt het onvoorstebare misscien……. Wat dat ook mag zijn er zijn altijd mensen die in opstand komen.
Zullen we terug on topic gaan?
Ik ben sprakeloos