Sachverhalt:
Die Anwendung von Künstlicher Intelligenz wird zunehmend auch in Wirtschaft und der öffentlichen Verwaltung diskutiert. Neben den Chancen, die ein Einsatz von KI birgt, sind jedoch auch Risiken damit verbunden. So beschäftigt sich der Bereich Critical Data Studies mit den Gefahren und Folgen diskriminierender Auswirkungen von KI auf unsere Gesellschaft. KI-Algorithmen lernen beispielsweise mithilfe großer Datensätze, in denen diskriminierende Muster, wie beispielsweise die strukturelle Benachteiligung von Frauen oder die fehlende Repräsentation von BIPoC, reproduziert werden. Insbesondere bei sogenannten „prädiktiven Algorithmen“, die für die statistische Vorhersage eingesetzt werden, aber auch beim generellen Einsatz von KI ist daher auf eine besondere Sensibilität zu achten.

Beispiel: Eine KI, die für Gesichtsanalysen nur mit Gesichtern weißer Menschen trainiert wird, kann/wird bei BIPoC zu Fehlanalysen kommen.

Wir bitten daher um Beantwortung folgender Fragen:

1. Werden KI-Anwendungen oder prädiktive Algorithmen in der Stadt bewusst eingesetzt oder ist der Einsatz geplant?

2. Wenn ja, in welchen konkreten Anwendungsfällen sollen/werden diese eingesetzt?

3. Wurde beim Training der eingesetzten KI-Modelle auf große und vielfältige Datensätze und auf die Gefahr der Diskriminierung geachtet?