Als je je eigen LLMs wil draaien en genoeg geld hebt. 

https://tweakers.net/nieuws/253884/apple-mac-studio-met-512gb-geheugen-kost-minstens-25129-euro.html

Apple Mac Studio met 512GB geheugen kost minstens 25.129 euro
​
Apple heeft een nieuwe Mac Studio-variant uitgebracht. Die heeft nog steeds de krachtigste M5 Ultra-soc van het bedrijf, maar krijgt 512GB geheugen. Voorheen leverde Apple de Mac Studio met maximaal 256GB ram. Het nieuwe model kost minstens 25.129 euro.

Voor het genoemde bedrag levert de fabrikant een ingebouwde 1TB-ssd, zo blijkt op de Apple-website. Grotere ssd's kosten extra, waarbij de prijs voor het grootste 16TB-model oploopt tot 33.379 euro.

Apple rekent verder 12.650 euro voor de upgrade van 256GB naar 512GB. De Mac Studio-variant met 512GB ram kan ook alleen geleverd worden met de volledig ingeschakelde M5 Ultra-chip, met 36 cpu- en 80 gpu-cores.

Het was al bekend dat Apple eind oktober met een 512GB-variant van de Mac Studio met M5 Ultra zou komen. Apple leverde zijn voorganger met M3 Ultra eerder ook met 512GB ram, maar schrapte die optie in maart vanwege de torenhoge geheugenprijzen.

Als je nog vijf jaar kunt wachten...
Koop er dan een, die loopt dan voor, pak-em-beet € 3000,- rondjes om dit model.

Het zou inderdaad nog wel eens minstens vijf jaar kunnen duren voordat de geheugenprijzen weer een beetje 'normaal' worden.

Dankzij deze extreme situatie op de geheugenmarkt behaalde SK hynix in Q3 een omzet van 70,3 miljard euro. Dat is een stijging van 328 procent ten opzichte van hetzelfde kwartaal vorig jaar.

De operationele winst steeg nog harder, naar een recordhoogte van bijna 56 miljard euro, een stijging van 632 procent.

De nettowinst was uiteindelijk ruim 26,7 miljard euro, een stijging van 216 procent ten opzichte van vorig jaar.

Ben wel benieuwd wat voor een applicaties je kunt doen met zo een beest. Gaat alles gewoon veel sneller, bijvoorbeeld bij het bewerken van een video?

Ben wel benieuwd wat voor een applicaties je kunt doen met zo een beest.

Op het kanaal van Alex Ziskind kun je de nodige voorbeelden vinden. Bijvoorbeeld:

Gaat alles gewoon veel sneller, bijvoorbeeld bij het bewerken van een video?

Videobewerken is voornamelijk CPU-bound. Lokaal LLMs draaien is memory-bound. Daar kun je dus met dit soort 'monsters' veel winst behalen.