KI und Behinderung: Zugänglichkeitsgewinne, Einstellungsschäden und ungeklärte Fälle

Zwei Bilanzen, nicht eine

Behinderung ist der schärfste Testfall für eine Behauptung, die sich durch dieses gesamte Handbuch zieht: dass die Wirkungen von KI weder durchgängig gut noch durchgängig schlecht sind, und welche davon sich zeigt, hängt davon ab, wer das System gebaut hat, wer es eingesetzt hat und welchen Rechtsweg es gibt, wenn es versagt. Für Menschen mit Behinderung sind beide Bilanzen bereits real und datiert, nicht hypothetisch. Multimodale Modelle haben blinden und sehbehinderten Nutzern ein Beschreibungswerkzeug gegeben, das es vor drei Jahren noch nicht gab. Dasselbe zugrunde liegende Mustererkennungsverfahren — aus Stimme, Bewegung oder Tippverhalten Rückschlüsse auf eine Person zu ziehen — ist zugleich Gegenstand einer bundesstaatlichen Diskriminierungsklage, einer zertifizierten Sammelklage und einer Untersuchung des US-Justizministeriums zu einem Kindeswohl-Algorithmus.

Diese Seite behandelt ausschließlich dokumentierte, datierte Fälle. Sie schließt bewusst eine breit verbreitete Geschichte aus dem Jahr 2026 über Meta-Kontosperrungen im Zusammenhang mit Fehlalarmen der Inhaltsmoderation aus, da die zugrunde liegende Berichterstattung dies als allgemeines Moderationsversagen einstufte, nicht als behinderungsspezifisches. Siehe Bürgerrechte, Diskriminierung und KI-Überwachung für den rechtlichen Rahmen der unten genannten Fälle und Arbeitsplatzverdrängung und wirtschaftliche Folgen für die Stellung automatisierter Einstellungsverfahren im breiteren Beschäftigungsbild.

Was tatsächlich funktioniert, und wie es validiert wurde

Der meistzitierte Erfolg ist Be My AI, integriert in die App Be My Eyes auf Basis von OpenAIs GPT-4V und im März 2023 als erste Drittanbieteranwendung auf diesem Modell gestartet (TechCrunch, 14. März 2023). Es lässt blinde oder sehbehinderte Nutzer eine Szene, ein Etikett oder ein Poststück fotografieren und erhält eine gesprochene Beschreibung. In einem Einsatz, als Ergänzung einer Support-Hotline innerhalb von Microsofts Betrieb, berichteten Be My Eyes und Microsoft von einer Erfolgsquote von 90 % und einer durchschnittlichen Lösungszeit von rund vier Minuten, weniger als der halben typischen Zeit eines menschlichen Agenten (Be My Eyes). Diese Zahl ist eine Selbstauskunft aus einem einzigen Partnereinsatz, nicht unabhängig geprüft — die eigene Darstellung eines Anbieters über sein eigenes Produkt. Dieselbe Quelle dokumentiert den folgenreichsten Fehlermodus des Werkzeugs, die selbstsichere Halluzination: Beta-Tester stellten fest, dass Be My AI Objekte beschrieb, die gar nicht vorhanden waren, mit derselben Sicherheit wie bei zutreffenden Beschreibungen. Für einen blinden Nutzer, der nach einer Beschreibung handelt — etwa beim Lesen eines Medikamentenetiketts —, ist eine nicht erkennbare Halluzination ein Sicherheitsproblem, kein UX-Fehler.

Voiceitt, das Spracherkennung für atypische und dysarthrische Sprache entwickelt, führte mit gehörlosen Nutzern einen Pilotversuch durch, der nach eigenen Angaben eine Wortfehlerrate von rund 8 % erreichte — besser als 90 % Genauigkeit — nach etwa 200 Trainingsaufnahmen pro Nutzer, und übertraf Berichten zufolge die gängige Spracherkennung für diese Sprecher bereits vor jeder Personalisierung (Hearing Review; PR Newswire). Dies ist ein einzelner, vom Unternehmen selbst validierter Pilotversuch, keine unabhängig replizierte Studie, wenngleich ein peer-reviewtes Methodenpapier Voiceitts Trainingsverfahren separat beschreibt (Assistive Technology, 2024, DOI 10.1080/10400435.2024.2328082). Google Project Relate verfolgt einen ähnlichen Ansatz — Erkennung und Synthese, personalisiert für die Sprache von Menschen mit ALS, Zerebralparese, Down-Syndrom, Parkinson, Schlaganfall und traumatischer Hirnverletzung, wofür rund 500 Phrasen nötig sind — und ging im November 2021 in die geschlossene Beta (TechCrunch). Für Project Relate konnte keine unabhängige Wirksamkeitszahl bestätigt werden; öffentlich zugänglich ist der Trainingsansatz, kein validiertes Ergebnis.

Das Muster ist durchgängig: echte Produkte, echte Nutzung, echte Zahlen — aber Zahlen, die von den Unternehmen berichtet werden, die die Werkzeuge gebaut haben, nicht unabhängig geprüft. Das macht die Gewinne nicht zunichte — für einen blinden Nutzer ist der Vergleich nicht ein validierter Goldstandard, sondern gar keine Beschreibung —, bedeutet aber, die Evidenz als Selbstauskunft der Unternehmen zu behandeln und weniger Zuverlässigkeit zu erwarten, als die Startberichterstattung suggeriert.

Wo dieselbe Technologie zum Problem der Gleichbehandlung wird

Die Beschäftigungsseite zeigt, wie schnell aus einer Zugänglichkeitslücke eine Diskriminierungsklage wird, sobald KI von einer unterstützenden in eine Zugangskontrollrolle wechselt.

Eine gehörlose, indigene Stellenbewerberin, vertreten durch die ACLU, reichte bei der Colorado Civil Rights Division und der EEOC Beschwerden ein, in denen sie geltend machte, dass die KI-Videointerview-Plattform von HireVue — genutzt von Intuit — sie benachteiligte, weil deren automatisiertes Spracherkennungs- und Bewertungssystem nicht in der Lage war, ihre Sprechweise angemessen zu erfassen. Sie hatte während des KI-bewerteten Interviews eine menschliche Untertitelung als Ausgleichsmaßnahme beantragt, wurde abgelehnt und später mit dem Feedback zurückgewiesen, „aktives Zuhören zu üben” (HR Dive). Dies ist eine Beschwerde, kein Befund — eine Behauptung, die ein Verwaltungsverfahren durchläuft, ohne berichtetes Urteil. Sie veranschaulicht den Mechanismus, vor dem EEOC und Justizministerium in ihrer Leitlinie vom Mai 2022 zu algorithmischer Personalauswahl warnten, näher behandelt unter Bürgerrechte, Diskriminierung und KI-Überwachung: Ein System, das anhand von Sprechmustern validiert wurde, die für behinderte Bewerber nicht repräsentativ sind, kann diese unabhängig von der Absicht aussortieren, und ein Antrag auf Ausgleichsmaßnahmen kann von einem Verfahren abgelehnt werden, in dem kein Mensch befugt ist, ihn zu gewähren.

Mobley v. Workday, eingereicht im nördlichen Bezirk Kaliforniens am 20. Februar 2024, ist eine größere Version derselben Klage: eine Sammel- und Kollektivklage, die geltend macht, das KI-Bewerber-Screening-System von Workday habe eine disparate Wirkung nach Rasse, Alter und Behinderung erzeugt. Am 16. Mai 2025 gewährte Richterin Rita Lin der Altersdiskriminierungs-Sammelklage nach dem ADEA die vorläufige Zertifizierung, und einem namentlich genannten Kläger — einem Bewerber mit Asthma und Krebsgeschichte — wurde separat gestattet, mit einer ADA-Klage fortzufahren, die seine Ablehnungen mit seiner Krankheitsurlaubs-Historie verknüpft (Holland & Knight; Norton Rose Fulbright). Was dieses Urteil ist und nicht ist, ist entscheidend: Es erlaubt weiteren Klägern beizutreten und der Beweisermittlung fortzuschreiten; es ist kein Befund, dass Workdays System tatsächlich diskriminiert hat. Der Fall blieb bis Mitte 2026 in der Beweisermittlungsphase, doch die Verfügung stellt fest, dass ein Bundesgericht die Behinderungstheorie als konkret genug befand, um eine Abweisung zu überstehen — eine wesentlich höhere Hürde, als eine eingereichte Klage allein überwindet. Siehe Arbeitsplatzqualität statt Arbeitsplatzzahlen dafür, wie automatisiertes Screening auch die Ergebnisse für Bewerber verschlechtert, die den Filter passieren.

Wenn dasselbe Muster das Kindeswohl erreicht

Der krasseste dokumentierte Fall verlässt den Bereich der Personalauswahl vollständig. Allegheny County in Pennsylvania nutzt in seinem Kindeswohlsystem einen prädiktiven Risikobewertungsalgorithmus, der nun vom US-Justizministerium untersucht wird, nachdem Beschwerden eingegangen waren, dass er behinderte Eltern fälschlich als vernachlässigend einstufte und in manchen Fällen zur Herausnahme von Kindern beitrug, ohne unabhängige Belege für Vernachlässigung. Diese Darstellung stammt aus dem unten genannten Bericht von 2025 des Center for Democracy & Technology und der American Association of People with Disabilities, der die Untersuchung des Justizministeriums als laufend beschreibt; darüber hinaus konnte kein bestätigtes Ergebnis verifiziert werden, und dies sollte als offene Angelegenheit behandelt werden, nicht als abgeschlossener Befund. Der behauptete Mechanismus ist aus der Bürgerrechtsliteratur im weiteren Sinne vertraut: Ein Modell, das auf historischen Fallakten trainiert wurde, kann die früheren Annahmen von Fallbearbeitern über die Eignung behinderter Eltern kodieren, und ein als objektiv präsentierter Risikowert kann eine alte Voreingenommenheit wie eine neutrale Zahl aussehen lassen.

Die umfassendste Darstellung dieses Musters über verschiedene Bereiche hinweg ist der gemeinsame Bericht von CDT und AAPD, Building a Disability-Inclusive AI Ecosystem: A Cross-Disability, Cross-Systems Analysis of Best Practices, veröffentlicht am 11. März 2025 (CDT; vollständiges PDF). Er dokumentiert Schäden für Menschen mit Behinderung in den Bereichen Beschäftigung, Bildung, öffentliche Leistungen sowie Informations- und Kommunikationstechnologie und ist die Quelle für die obige Darstellung zu Allegheny County. CDT hatte Jahre zuvor bereits eine verwandte, engere Warnung ausgesprochen und argumentiert, dass Einstellungsschnittstellen, die auf Mausbewegung, Tastenanschlagzeiten, Video- oder Sprachmusteranalyse aufbauen, behinderte Bewerber strukturell ausschließen, unabhängig von der Absicht des Anbieters — ein Bericht, der allgemein auf etwa Dezember 2020 datiert wird, wenngleich das genaue Datum nicht unabhängig bestätigt werden konnte (CDT, „Algorithm-driven Hiring Tools”).

Die beiden Bilanzen zusammen gelesen

Nichts davon löst sich in ein einziges Urteil über „KI und Behinderung” auf, und das sollte es auch nicht. Dieselbe Fähigkeit — ein Modell, das Bedeutung aus Sprach-, Bewegungs- oder Verhaltenssignalen ableitet, die eine Person nicht vollständig kontrollieren kann — erzeugt einen echten Zugänglichkeitsgewinn, wenn sie optional ist, transparent über ihre Grenzen und von der behinderten Nutzerin oder dem Nutzer kontrolliert wird, und ein echtes Diskriminierungsrisiko, wenn sie verpflichtend, undurchsichtig und von einem Torwächter kontrolliert wird, der die Beurteilung an einen Wert ausgelagert hat. Be My AI, Voiceitt und Project Relate sind Werkzeuge, die eine behinderte Person wählt und deren Nutzung sie beenden kann. Die Bewertung von HireVue, das Screening von Workday und das Risikomodell von Allegheny County sind Systeme, die einer behinderten Person von einer Institution auferlegt werden, mit Konsequenzen, die sie nicht ablehnen kann.

Diese Unterscheidung — unterstützend gegenüber entscheidend — sagt Schaden besser voraus als jede Behauptung über die Raffinesse eines Modells, und sie zieht sich durch Bürgerrechte, Diskriminierung und KI-Überwachung: Der Maßstab für ein rechtebetreffendes System ist nicht, ob es im Durchschnitt genau ist, sondern ob es für die Population validiert wurde, die es überprüft, ob eine Bewerberin einen Fehler anfechten kann, und ob am Entscheidungspunkt ein Mensch mit echter Autorität sitzt. Jede oben genannte Klage wegen verweigerter Ausgleichsmaßnahme oder disparater Wirkung führt auf dasselbe fehlende Element zurück — ein validiertes Verfahren, angewandt auf die betroffene Population, mit einer echten Widerspruchsmöglichkeit. Jeder oben genannte Zugänglichkeitsgewinn führt auf das Gegenteil zurück: ein Werkzeug, das die betroffene Person kontrolliert, mit einer offengelegten Fehlerrate. Fähigere multimodale Systeme könnten das Be-My-AI-Muster weiter ausdehnen. Nichts schließt das aus. Aber nichts zeigt auch, dass es automatisch eintritt: Dieselbe Fähigkeit ist genau das, was auch ein Screening-Anbieter erwerben würde.