Apple und die US-Investmentbank Goldman Sachs stehen wegen Geschlechterdiskriminierung in der Kritik. Konkret geht es um die angeblich willkürlichen Ausgabenlimiten bei der Kreditkarte Apple Card. Das New York Department of Financial Services (NY DFS) hat deshalb eine Untersuchung gegen Apples Bankpartner Goldman Sachs eingeleitet, berichtet die Finanznachrichtenagentur Bloomberg. Die New Yorker Finanzaufsicht will demnach wissen, warum Männer bei gleicher Vermögenssituation offenbar deutlich höhere Kreditrahmen erhalten.
Den Stein ins Rollen brachte letzte Woche der in den USA bekannte Software-Entwickler David Heinemeier Hansson. Er schrieb auf Twitter, dass ihm der undurchsichtige Algorithmus hinter der Apple Card das Zwanzigfache des Kreditrahmens seiner Frau beschert habe, obwohl er und seine langjährige Frau finanziell gleichgestellt seien. Er werde zusammen mit seiner Frau steuerlich veranlagt, sie besässen gemeinsam Immobilien und seien lange verheiratet. Tatsächlich habe seine Frau gar eine bessere Kreditwürdigkeit, sprich einen besseren Credit Score, als er. Dieser Wert wird in den USA von drei grossen Agenturen vergeben.
Seine Frau, Jamie Heinemeier Hansson, schildert in einem Blog-Artikel mit dem Titel «Ich habe eine Apple Card beantragt. Was sie anboten, war eine sexistische Beleidigung» ihre Erlebnisse mit Apple und Goldman Sachs – für die beiden Konzerne ist es wenig schmeichelhaft.
«Kein Einspruch» habe gegen die diskriminierende Kreditlimite geholfen. Die individuelle Ausgabenlimite bei der Apple Card, die von Algorithmen bestimmt wird, sei eine «Blackbox», sprich völlig undurchsichtig, so Hansson.
The @AppleCard is such a fucking sexist program. My wife and I filed joint tax returns, live in a community-property state, and have been married for a long time. Yet Apple’s black box algorithm thinks I deserve 20x the credit limit she does. No appeals work.
— DHH (@dhh) November 7, 2019
Apples Antwort:
Schützenhilfe bekam Hansson ausgerechnet von Apple-Mitbegründer Steve Wozniak: Dieser antworte auf Twitter, ihm und seiner Frau sei genau das Gleiche passiert. Er habe die zehn Mal höhere Kreditlimite erhalten, obwohl «wir keine getrennten Bank- oder Kreditkartenkonten oder andere getrennte Vermögenswerte haben». Es sei ausserdem «schwer, einen Angestellten für eine Korrektur zu erreichen», so Wozniak. Das sei «Big Tech im Jahr 2019», bilanziert der Apple-Mitgründer.
The same thing happened to us. I got 10x the credit limit. We have no separate bank or credit card accounts or any separate assets. Hard to get to a human for a correction though. It's big tech in 2019.
— Steve Wozniak (@stevewoz) November 10, 2019
Mehrere Twitter-Nutzer berichteten in den letzten Tagen über ähnliche Erfahrungen mit der Apple Card. Am Montag, als die Vorfälle in den Medien breit thematisiert wurden, reagierte Goldman Sachs und teilte mit, dass sich die Bewertung der Apple-Card-Bewerber «an der Kreditwürdigkeit des Kunden» orientiere, jedoch nicht an Faktoren wie «Geschlecht, Rasse, Hautfarbe, Alter, sexueller Orientierung oder irgendeiner anderen Bewertungsgrundlage, die gesetzlich verboten ist».
Da das Thema immer weitere Kreise zog und nun die Behörden ermitteln, wurde die Kreditlimite seiner Frau inzwischen erhöht, ohne dass Goldman Sachs zusätzliche Unterlagen verlangte, sagt Hansson. Der 40-jährige dänische Programmierer, der auch Sportwagenrennen fährt, glaubt selbst nicht, dass hinter den fragwürdigen Algorithmen eine «böse Person» stecke, die absichtlich «diskriminieren will».
Aber:
Offenbar lernten die Algorithmen Diskriminierung und weder Apple noch Goldman Sachs könnten dieses Verhalten bislang erklären, sagt Hansson. Am Montag doppelte der Programmierer auf Twitter nach und schreibt:
Hansson geht es laut Eigenaussage darum, eine Diskussion über die Rolle der allgegenwärtigen Algorithmen, die wir nicht verstehen, anzustossen. Es dürfe nicht sein, dass Algorithmen über unser Leben entscheiden, während Firmen wie Goldman Sachs oder Apple nicht erklären können (oder wollen), was genau dahinter steckt.
Apple has handed the customer experience and their reputation as an inclusive organization over to a biased, sexist algorithm it does not understand, cannot reason with, and is unable to control. When a trillion-dollar company simply accepts the algorithmic overlord like this...
— DHH (@dhh) November 8, 2019
Das Thema beschäftigt auch die linksliberale Präsidentschaftskandidatin Elizabeth Warren: Sie forderte im Juni, die Finanzaufsicht müsse «Massnahmen ergreifen, um sicherzustellen, dass die Antidiskriminierungsgesetze mit den technischen Innovationen Schritt halten».
Von der Finanzaufsicht heisst es: «Wir werden eine Untersuchung durchführen, um festzustellen, ob gegen New Yorker Recht verstossen wurde, und sicherstellen, dass alle Konsumenten unabhängig vom Geschlecht gleich behandelt werden». Und weiter: «Jeder Algorithmus, der bewusst oder unbewusst zu einer diskriminierenden Behandlung von Frauen oder anderen geschützten Gruppen von Menschen führt, verletzt New Yorker Recht.»
Hansson wirft Apple zudem vor, sich nun hinter Goldman Sachs zu verstecken, obwohl man in der Werbung behauptet, es handle sich um eine Apple-Kreditkarte – und eben nicht um eine Kreditkarte einer Bank.
This also makes it all the more disappointing that Apple has failed to comment. They just pass all responsibility to GS. Imagine if you had to call Foxconn yourself when your iPhone broke? If it says Apple on the box, it’s an Apple product. Own it.
— DHH (@dhh) November 11, 2019
Bei der Apple Card handelt es sich um ein gemeinsames Finanzprodukt von Apple, Goldman Sachs und Mastercard. Die Infrastruktur im Hintergrund wird von Goldman Sachs betrieben. Die Bank soll sicherstellen, dass Kreditkartenanträge schnell bearbeitet werden. Den Zahlungsverkehr selbst übernimmt Mastercard. Trotzdem wirbt Apple mit dem Slogan «Created by Apple, not a bank».
If @Apple isn’t going to be accountable for their card, maybe they should just rename it THE GOLD MAN CARD?
— DHH (@dhh) November 11, 2019
Die Karte besitzt ein Belohnungssystem mit dem Ziel, die Konsumenten zum Kauf immer neuer Apple-Produkte zu verführen – sprich eine langfristige Kundenbindung herzustellen. Für Apple ist die Karte nicht zuletzt ein Marketinginstrument, um seinen Bezahldienst Apple Pay zu pushen.
Der Name Apple Card dient Goldman Sachs primär dazu kaufkräftige Apple-Fans anzulocken, die lieber eine Kreditkarte von Apple als von einer Bank möchten. Effektiv steht hinter dem Produkt eine der mächtigsten und gleichzeitig berüchtigsten Banken der Wall Street. Goldman Sachs kann so neue Privatkunden gewinnen, die später allenfalls ein Darlehen aufnehmen müssen, weil sie Kreditkartenschulden haben (was in den USA weit verbreitet ist). Die Bank hat hierzu eine eigene Abteilung, die auf Kunden mit hohen Kreditkartenschulden spezialisiert ist.
Wenn bei YouTube fälschlicherweise ein Video gesperrt wird, ist ja auch nicht Google schuld, sondern das System.
Oder wenn man beim Provider bei der Umstellung auf Glasfaser neue IP-Adressen bekommt. Kann der Supporter nichts dafür, das System lässt es halt nicht zu, dass man die Adressen behält.
Oder wenn man ungerechtfertigterweise eine Maut-Busse erhält. Hat das System halt die Nummer nicht richtig erkannt.
Wenn die Kunden das weiterhin akzeptieren, haben es die Firmen in Zukunft sehr leicht...