KI kann die Öffentliche Verwaltung effizienter machen, birgt aber Risiken, denen man begegnen muss.
In der Öffentlichen Verwaltung sollen schrittweise künstliche Intelligenz und automatisierte Bearbeitungen und Entscheidungen die Abläufe beschleunigen. In Kärnten etwa ist das bei der privatwirtschaftlichen Leistungsverwaltung geplant– also zum Beispiel bei der Bearbeitung von Förderungen.
Welche Risiken birgt KI in der Öffentlichen Verwaltung?
Die „Gleichbehandlungsstelle des Landes Kärnten“ – Mitglied des Klagsverbands – macht in ihrer Stellungnahme zum entsprechenden Gesetzesentwurf auf die Risiken aufmerksam, die dadurch entstehen. Es müsse bei der Umsetzung auf Transparenz, Betroffenenrechte und mögliche diskriminierende Wirkungen geachtet werden. Denn automatische Entscheidungssysteme auf Basis von von Sprach- oder mathematischen Modellen sind nicht notwendigerweise neutral. Durch Verzerrungen in den verwendeten Trainingsdaten oder durch bei der Entwicklung getroffene strukturelle Annahmen besteht die Gefahr, gesellschaftliche Ungleichheiten zu reproduzieren oder zu verstärken.
Transparenz und Rechte für Betroffene
Die Gleichbehandlungsstelle regt an, die Rechte der betroffenen Personen noch deutlicher hervorzuheben. Betroffene sollten bei Anträgen oder in anderen Verwaltungsverfahren klare und verständliche Informationen erhalten, wenn automatisierte Entscheidungsmodelle zum Einsatz kommen und im Zuge dessen personenbezogene Daten verarbeitet werden. Ebenso sollte den Betroffenen Auskunftsrechte darüber eingeräumt werden, auf welcher Basis die automatisierte Entscheidungsfindung abläuft und welche personenbezogenen Daten dafür herangezogen werden.