De ‘intelligentie’ van algoritmes voor AI komt voort uit de data waarmee ze getraind worden. Dat kunnen ingrediënten zijn die bijvoorbeeld voor problemen als vooringenomenheid kunnen zorgen, maar er kunnen ook makkelijk andere problemen ontstaan.

Want het gewenste gedrag wordt pas in een later stadium geprogrammeerd, dus als AI het zwaar krijgt is er een steeds grotere kans dat het mis gaat.



Want die correcties achteraf zijn eigenlijk niet meer dan pleisters, het onderliggend algoritmes gebruikt nog steeds exact dezelfde informatie.

Onderzoekers lieten dit zien door ASCII-tekeningen aan OpenAI’s GPT-3.5 en GPT-4, Google’s Gemini, Anthropic’s Claude en Meta’s Llama te geven, wat een bijzonder effectieve hack bleek, want de algoritmes worden zo afgeleid omdat ze zoveel moeite moeten doen om dit te interpreteren, dat de ingebouwde filters geen effect meer hadden.

Daarbij gingen ze trouwens niet de fout in wat betreft de eerder genoemde vooringenomenheid, maar als er ondertussen gevraagd werd naar instructies voor het bouwen van een bom werd die in detail gegeven.

Kennelijk zijn deze Large language Models wel in staat om zich te blijven gedragen volgens hun instructies zolang ze maar niet al te veel onder druk komen te staan. Gebeurt dat wel, dan zijn ze meer niet slim genoeg om te onthouden wat ze wel (of juist niet) door moeten geven.



 #KunstmatigeIntelligentie