Tijdens het ontwikkelen van Artvise stond de ethiek van het gebruiken van data en AI centraal. Vraagstukken als “In hoeverre kunnen we verzamelde data van gebruikers gebruiken voor het trainen van AI?” en “Hoe kunnen we zo transparant mogelijk zijn over wat er met verzamelde data gebeurt?” kwamen aan de orde.

Artvise is een app waarin mensen hun tekeningen kunnen uploaden om daar van een AI advies op te krijgen. Uiteindelijk zijn er twee versies gemaakt van Artvise; een goedaardige en kwaadaardige. Het grootste verschil zit in hoe de twee versies met data omgaan. In de goedaardige app wordt er transparant omgegaan met data, de terms of service zijn altijd terug te vinden en voorkeuren kunnen altijd aangepast worden. Ook blijft alles wat geupload is in een lokale database. De kwaadaardige app hecht geen belang aan het goed informeren van de gebruiker over de terms of service. Ook worden bestanden automatisch geüpload naar de database van het bedrijf om hun eigen AI te trainen voor winstgevende doeleinden. Een account aanmaken is verplicht in de kwaadaardige versie, in de goedaardige versie niet omdat dit irrelevante data is voor het doel van de app.

Bij de goedaardige app is er ook voor gezorgd dat er zo min mogelijk sprake is van bias in de AI. Een AI kent namelijk alleen maar wat er al in de database staat. Hierdoor herkent de AI bepaalde dingen die buiten die database vallen niet en kan dan feedback terugkoppelen die niet van toepassing is. Daarom kan er in de goedaardige versie ook referentiemateriaal geüpload worden, zodat de AI meer weet over de behoeftes van de gebruiker.