Kalifornien räumt nun ein, gleich mehrere „hochrisikoreiche automatisierte Entscheidungssysteme“ im Staatsbetrieb einzusetzen. Noch im Vorjahr wollten die Behörden kein einziges derartiges System betrieben haben. Nun steht offiziell fest: Algorithmen bewerten unter anderem Strafgefangene, Arbeitslose und Studenten – und erzeugen dabei Kennzahlen, die spürbare Folgen für das Leben der Betroffenen haben können.
Vielleicht kennen Sie Philip K. Dicks SciFi-Kurzgeschichte „Minority Report“. Darin sammelt der Staat Unmengen an Daten, erstellt Risikoprofile und verdichtet einen Menschen zu einer Zahl, aus der sich ableiten lässt, wie er künftig behandelt werden soll. Doch in Kalifornien ist dies keine reine Science Fiction mehr. Das kalifornische Technologieministerium CDT hat in seinem jüngsten Pflichtbericht sechs sogenannte „High-Risk Automated Decision Systems“ aufgelistet. Systeme also, die KI-gestützt Risikobewertungen erstellen. Ein erster Schritt in Richtung Social Credit Score.
Noch letztes Jahr hatte Kalifornien im ersten entsprechenden Bericht erklärt, keine solchen Systeme zu betreiben. Nun heißt es plötzlich: Sechs Systeme seien bereits im Einsatz, ein weiteres befinde sich in Entwicklung. Das Ministerium begründet den Unterschied damit, diesmal genauer hingesehen, Behörden befragt und ihre Angaben überprüft zu haben. Also waren solche Systeme schon zuvor im Einsatz, nur hat offiziell niemand im von grün-linken Demokraten regierten Bundesstaat da so genau hingesehen. Inwieweit dies inoffiziell bereits seit Jahren unterstützt wird, wäre jedoch interessant zu erfahren.
Interessant ist hierbei unter anderem auch das sogenannte California Static Risk Assessment, kurz CSRA. Dieses System bewertet Häftlinge anhand fixer persönlicher Daten und erstellt daraus einen Risikowert. Berücksichtigt werden unter anderem Alter, Geschlecht, frühere Verurteilungen wegen Vergehen oder Verbrechen sowie Verstöße gegen Bewährungs- und Auflagenregelungen. Das Ergebnis ist eine Einstufung von 1 bis 5. Stufe 1 steht für ein niedriges Risiko, Stufe 5 für ein hohes Gewaltrisiko. Nach Darstellung des kalifornischen Justizvollzugs soll der Wert prognostizieren, wie wahrscheinlich es ist, dass eine Person innerhalb von drei Jahren nach ihrer Entlassung auf Bewährung erneut wegen eines Verbrechens verhaftet wird.
Und diese Kennzahl hat Folgen. Sie beeinflusst etwa, welche Priorität ein Häftling bei Bildungs-, Berufs- und Übergangsprogrammen erhält. Wer die höchste Stufe 5 erreicht, kann von bestimmten Wiedereingliederungsprogrammen ausgeschlossen werden und wird für die Bewährungsaufsicht als „High Control“ eingestuft. Aus einer statistischen Einschätzung wird damit ein Faktor, der über Chancen nach der Haft und über die Intensität staatlicher Kontrolle entscheidet. Der Staat betont zwar, dass es sich nicht um ein autonomes Urteilssystem handle. Der Score soll Beamte unterstützen, nicht ersetzen. Doch genau hier liegt das Problem: Sobald ein Risikowert in Akten, Programme, Aufsichtsentscheidungen und Verwaltungsabläufe einfließt, entwickelt er eine eigene Autorität. Der Computer hat gesprochen – und wer will schon später dafür verantwortlich sein, eine angeblich „objektive“ Warnung ignoriert zu haben?
Wann entscheiden Algorithmen über unser aller Leben?
Werden solche automatisierten Systeme auf kritische Bereiche wie Wohnen, Bildung, Beschäftigung, Kreditvergabe oder die Gesundheitsversorgung ausgedehnt, entscheiden Algorithmen über immer mehr Teilbereiche des alltäglichen Lebens. Und schon jetzt werden nicht „nur“ Häftlinge bewertet. Kalifornien führt außerdem ein Instrument zur Erkennung mutmaßlich betrügerischer Anträge auf Arbeitslosenhilfe. An der California State University werden Systeme für digitale Prüfungsaufsicht sowie zur Erkennung angeblich KI-generierter Texte eingesetzt. Hinzu kommen weitere Instrumente im Justizvollzug, darunter das bekannte COMPAS-System zur Einschätzung von Rehabilitationsbedarf und Rückfallrisiken.
Damit zeichnet sich ein Muster ab. Der Staat testet und etabliert automatisierte Bewertungen nicht nur dort, wo es um schwere Straftaten geht. Sie wandern Schritt für Schritt in soziale Leistungen, Hochschulen, Bewerbungen und Verwaltungsverfahren. Heute ist es der Risikoscore eines Häftlings. Morgen ist es der „Social Crédit Score“ des einfachen Bürgers, der über solche Systeme erstellt wird. Besonders aufschlussreich ist hierbei, was das links regierte Kalifornien derzeit nicht besitzt: eine klare gesetzliche Schranke dagegen, dass automatisierte Systeme zur alleinigen Grundlage einer staatlichen Entscheidung werden. Ein Gesetzesentwurf, der genau dies verhindern sollte, scheiterte erst im vergangenen Monat im parlamentarischen Verfahren.
„Minority Report“ handelt von einer Gesellschaft, die Menschen für Taten bestraft, die sie noch nicht begangen haben. Davon ist man zwar auch im Falle Kaliforniens noch weit entfernt – doch der globalistisch-technokratische Totalitarismus, der vom Weltwirtschaftsforum (WEF) und dessen Anhängern vorangetrieben wird, geht eben in diese Richtung. Totale Überwachung, totale Kontrolle und umfangreiche, automatisierte Bewertungssysteme für alle. Und dagegen wird das Social-Credit-System in China nur noch ein lahmer Prototyp sein.
