Mythos laat zien hoe gevaarlijk AI is voor cyberveiligheid
Dat Anthropic’s Claude erg goed is in het schrijven van code is onder ontwikkelaars al een tijdje bekend, er zijn er dan ook steeds meer die ervoor betalen en op zijn minst een gedeelte van de code van hun apps door Claude laten genereren (hoewel je op moet blijven letten, ook Claude is niet feilloos).
Datzelfde Anthropic heeft nu een AI gemaakt die fouten in software opspoort, die dus misbruikt zouden kunnen worden door kwaadwillenden.
Mythos laat zien hoe gevaarlijk AI is voor cyberveiligheid
klik of tap voor een grotere versie
En dat blijken er in hun nieuwe model Mythos zoveel te zijn, meer dan duizenden, ook in de grote besturingssystemen en browsers, dat ze het op dit moment nog niet toegankelijk hebben gemaakt. In plaats daarvan is nu
Project Glasswing opgezet, waarmee ontwikkelaars al kunnen zien waar de kwetsbaarheden zitten en ze al kunnen oplossen.
Anthropic zelf schrijft er dit bij:
AI models have reached a level of coding capability where they can surpass all but the most skilled humans at finding and exploiting software vulnerabilities. Given the rate of AI progress, it will not be long before such capabilities proliferate, potentially beyond actors who are committed to deploying them safely.
De vertaling:
AI-modellen hebben een zodanig niveau van programmeren bereikt dat ze alle mensen, behalve de meest ervaren, kunnen overtreffen in het opsporen en misbruiken van kwetsbaarheden in software. Gezien de snelheid waarmee AI zich ontwikkelt, zal het niet lang duren voordat dergelijke mogelijkheden op grote schaal worden toegepast, mogelijk ook door partijen die er niet op uit zijn deze op een veilige manier in te zetten.
Project Glasswing is dan ook opgezet met een aantal erg grote partners uit de tech-wereld, waaronder ook Apple, zoals je bovenaan dit artikel kunt zien.
De eerste 100 miljoen dollar voor het gebruik van Mythos wordt door Anthropic voorgeschoten, daarna zullen de bedrijven ervoor moeten betalen. De hoop is nu vooral dat Anthropic de eerste is die zover is, en dat er niet al een andere AI bestaat die hetzelfde kan, maar waar we helemaal geen weet van hebben.
Gast
