Onderzoek heeft eerder al uitgewezen dat generatieve AI stereotyperend te werk gaat, met onder andere een voorkeur voor huidskleur en gender. Ook Gemini, de kunstmatige intelligentie van Google, ging ermee de mist in. Het bedrijf biedt nu excuses aan en heeft de functionaliteit uitgeschakeld.
Lees verder na de advertentie.
Google Gemini genereerde incorrecte historische figuren
Dat er geregeld foutjes in AI-afbeeldingen zitten, dat was duidelijk. Soms gaat kunstmatige intelligentie echter dusdanig de mist in, dat de ontwikkelaars moeten ingrijpen. Dat overkwam Google deze week, nadat er naar buiten kwam dat gegenereerde historische afbeeldingen inaccuraat of zelfs racistisch zijn.
Zo ontstond er kritiek nadat naar buiten kwam dat Gemini geregeld nazi’s uit de tweede wereldoorlog genereerde die zwart van kleur zijn. Ook werden er senatoren in het jaar 1800 uit de Verenigde Staten gegenereerd, maar werden er zwarte vrouwen en inheemse volkeren weergegeven.
De afbeeldingen zijn daarmee niet alleen historisch onjuist, maar ook vrij ongepast. Waar een aantal partijen in de VS Google ervan beschuldigt ‘woke’ te willen doen, ontstaat er opnieuw een discussie. Die gaat voornamelijk over dat diversiteit bij het genereren van afbeeldingen in sommige situaties beter overgeslagen kan worden.
Enkele maanden terug kreeg Google al een tik op de vingers door gebruikers omdat Gemini vooral witte mannen genereerde als je naar een CEO, huisarts of autobestuurder vroeg. Google beloofde dat er meer diversiteit zou komen, maar lijkt nu daarin te zijn doorgeschoten.
Excuses vanuit Google
Google heeft nu de excuses aangeboden voor “ongeregeldheden in enkele historisch onjuist gegenereerde afbeeldingen” die met de Gemini AI-tool zijn gemaakt. Het bedrijf zegt ook dat de pogingen om een breed aanbod van afbeeldingen aan te kunnen bieden zijn doel voorbij schiet.
Verder zegt Google te werken aan het verbeteren van dit soort prompts en mogelijkheden voor afbeeldingen, zodat ze accurater zijn. Wel zegt de techgigant een breed aanbod aan mensen te willen genereren, omdat de dienst wereldwijd in gebruik genomen wordt.
Het is de komende tijd niet mogelijk om afbeeldingen van mensen te genereren met AI. Google wil binnenkort een ‘verbeterde versie’ van Gemini introduceren.
Voor het laatste nieuws rondom Android download je onze gratis Androidworld-app of volg je ons op Telegram, Facebook, Instagram en Twitter.
Reacties
Inloggen of registreren
om een reactie achter te laten