AI mag geen discriminatie of het zaaien van haat veroorzaken of faciliteren. Een algoritme dat is getraind op een dataset waarin bijvoorbeeld vooral witte mannen vertegenwoordigd zijn, kan reacties van andere demografische groepen als “minder correct” beoordelen. AI moet daarom getraind zijn op diverse datasets.

Kernvraag: Welke maatregelen zijn genomen om ervoor te zorgen dat deze AI-tool vrij is van vooroordelen op basis van gender, etniciteit of andere identiteitskenmerken, en is er een externe audit uitgevoerd om vooroordelen te identificeren?