Facebook schrapt ‘discriminerend’ algoritme in schikking Amerikaanse regering | Meta

Facebook zal zijn algoritmen wijzigen om discriminerende woningadvertenties te voorkomen en het moederbedrijf zal zichzelf onderwerpen aan toezicht van de rechtbank om een ​​rechtszaak te schikken die dinsdag door het Amerikaanse ministerie van Justitie is aangespannen.

In een persbericht zeiden Amerikaanse regeringsfunctionarissen dat Meta, voorheen bekend als Facebook, een overeenkomst had bereikt om de rechtszaak die dezelfde dag bij de federale rechtbank van Manhattan was aangespannen, te regelen.

Volgens de voorwaarden van de schikking zal Facebook stoppen met het gebruik van een advertentietool voor huisvestingsadvertenties waarvan de regering zei dat ze een discriminerend algoritme gebruikten om gebruikers te lokaliseren die op andere gebruikers “lijken” op basis van kenmerken die worden beschermd door de Fair Housing Act, aldus het ministerie van Justitie. Tegen 31 december moet Facebook stoppen met het gebruik van de tool die ooit “Lookalike Audience” heette, en die vertrouwt op een algoritme dat volgens de VS discrimineert op basis van ras, geslacht en andere kenmerken.

Facebook zal het komende half jaar ook een nieuw systeem ontwikkelen om raciale en andere ongelijkheden aan te pakken die worden veroorzaakt door het gebruik van personalisatie-algoritmen in zijn leveringssysteem voor huisvestingsadvertenties, zei het.

Volgens het persbericht was het de eerste zaak van justitie waarin de algoritmische discriminatie op grond van de Fair Housing Act werd aangevochten. Facebook zal nu worden onderworpen aan de goedkeuring van het ministerie van Justitie en het toezicht van de rechtbank voor zijn advertentietargeting- en weergavesysteem.

De Amerikaanse advocaat Damian Williams noemde de rechtszaak ‘baanbrekend’. Assistent-procureur-generaal Kristen Clarke noemde het “historisch”.

Ashley Settle, een Facebook-woordvoerder, zei in een e-mail dat het bedrijf “een nieuwe methode voor machinaal leren zonder ons advertentiesysteem bouwde die de manier zal veranderen waarop woningadvertenties worden weergegeven aan mensen die in de VS wonen in verschillende demografische groepen.”

Ze zei dat het bedrijf zijn nieuwe methode voor advertenties met betrekking tot werkgelegenheid en krediet in de VS zou uitbreiden. “We zijn verheugd om deze inspanning te pionieren”, voegde Settle toe in een e-mail.

Williams zei dat de technologie van Facebook in het verleden de Fair Housing Act online heeft geschonden “net zoals wanneer bedrijven zich bezighouden met discriminerende advertenties met behulp van meer traditionele advertentiemethoden.”

Clarke zei dat “bedrijven zoals Meta de verantwoordelijkheid hebben om ervoor te zorgen dat hun algoritmische tools niet op een discriminerende manier worden gebruikt.”

De aankondiging komt nadat Facebook er in maart 2019 al mee instemde om zijn advertentietargetingsystemen te herzien om discriminatie in advertenties voor huisvesting, krediet en werkgelegenheid te voorkomen als onderdeel van een juridische schikking met een groep waaronder de American Civil Liberties Union, de National Fair Housing Alliance en anderen .

De toen aangekondigde wijzigingen waren zo ontworpen dat adverteerders die advertenties voor huisvesting, werkgelegenheid of krediet wilden weergeven, niet langer mensen zouden mogen targeten op leeftijd, geslacht of postcode.

Het ministerie van Justitie zei dinsdag dat de schikking van 2019 de potentieel discriminerende targetingopties die beschikbaar zijn voor adverteerders heeft verminderd, maar andere problemen niet heeft opgelost, waaronder de discriminerende levering van woningadvertenties door Facebook via algoritmen voor machine learning.

Leave a Comment