Der Klagsverband prüfte einen Entwurf zur Digitalisierung von Verwaltungsverfahren auf Risiken der Diskriminierung.
Derzeit befindet sich eine Novelle des Allgemeinen Verwaltungsverfahrensgesetz und des Verwaltungsstrafgesetzes in Vorbereitung, mit der die Digitalisierung von Verwaltungsverfahren geregelt werden soll. Der Klagsverband weist in seiner Stellungnahme zum vorliegenden Entwurf unter anderem darauf hin, dass automatisierte Dialog- und Entscheidungssysteme mittels Künstlicher Intelligenz (KI) das Risiko bergen, strukturelle Diskriminierungen zu verstärken. Zumal im vorliegenden Entwurf bei den zu treffenden technischen und organisatorischen Maßnahmen zur Vermeidung von Diskriminierung nicht alle im Rahmen des Antidiskriminierungs- und Gleichbehandlungsrecht geschützten Merkmale berücksichtigt sind. Wir fordern zudem bei der Auswahl der Trainingsdaten stereotype Muster zu vermeiden und schlagen auch eine laufende Kontrolle der Diskriminierungsfreiheit von Entscheidungssystemen vor.
Des Weiteren äußern wir uns zu Datenschutz, Transparenz, Betroffenenrechten und zur Barrierefreiheit von Chatbots.