KI im Vergabewesen: Chancen und rechtliche Risiken im Überblick

Der Einsatz von Künstlicher Intelligenz (KI) bietet auch im Bereich der öffentlichen Vergabe bedeutende Potenziale. KI kann Prozesse beschleunigen, effizienter gestalten und Kosten einsparen. Doch die Nutzung dieser Technologien birgt erhebliche rechtliche Risiken. Insbesondere Aspekte des Datenschutzes, Urheberrechts und das Bundesvergabegesetz (BVergG 2018) stellen Anforderungen, die Auftraggeber:innen beachten müssen.

Aktuelle Technologien und Einsatzmöglichkeiten

Derzeit nutzen öffentliche Auftraggeber:innen automatisierte Texterkennung, Datenextraktion und strukturelle Analyse. Zukünftige Anwendungen generativer KI-Modelle wie GPT-4 umfassen die Markterkundung, Textgenerierung sowie die Bewertung und Prüfung von Angeboten. Dennoch ist die Implementierung solcher KI-Systeme bisher selten oder experimentell.

Rechtliche Herausforderungen

Die Anwendung von Künstlicher Intelligenz (KI) in der öffentlichen Vergabe ist rechtlich herausfordernd, da sie verschiedene Rechtsgebiete berührt. Das BVergG 2018 legt fest, welchen Regeln öffentliche Auftraggeber:innen bei der Vergabe von Aufträgen folgen müssen. Dabei ist sicherzustellen, dass der Einsatz von KI insbesondere die Grundsätze der Transparenz und Nichtdiskriminierung nicht verletzt.

Da KI-Systeme oft personenbezogene Daten verarbeiten, stellt der Datenschutz eine zentrale Herausforderung dar. Besonders bei der Prüfung von Angeboten oder Eignungskriterien können datenschutzrechtliche Bedenken auftreten, wenn KI-Systeme mit sensiblen Daten, wie strafrechtlich relevanten Informationen, arbeiten.

Die EU-KI-Verordnung (AI Act) ergänzt diesen rechtlichen Rahmen durch eine risikobasierte Einteilung von KI-Anwendungen. Sie klassifiziert KI-Systeme nach ihrem Risikopotenzial und legt spezielle Anforderungen für solche mit „hohem Risiko“ fest. Die Nutzung von KI im Bereich der öffentlichen Vergabe fällt häufig in diese Kategorie, da der Einsatz von Algorithmen das Vertrauen und die Sicherheit im Vergabeverfahren wesentlich beeinflussen kann.

Zentrale Anwendungsfälle und Risiken

Eignungsprüfung: Die Nutzung von KI zur Eignungsbewertung könnte personenbezogene und sensible Informationen umfassen, die sowohl unter das Datenschutz- als auch das Vergaberecht fallen. Eine datenschutzkonforme Handhabung ist dabei essenziell.
Angebotsprüfung: Auch bei der Prüfung von Angeboten, wo KI Betriebs- und Geschäftsgeheimnisse analysiert, bestehen Risiken für die Vertraulichkeit und Sicherheit sensibler Daten.
Transparenzanforderungen: Da KI häufig schwer nachvollziehbar ist, kann die Erklärbarkeit automatisierter Entscheidungen leiden. Öffentliche Auftraggeber:innen sind jedoch zur transparenten Entscheidungsfindung verpflichtet.

Datenschutz- und Sicherheitsanforderungen

Bei der Nutzung von KI ist sicherzustellen, dass die Datenverarbeitung den gesetzlichen Vorgaben entspricht. So erfordert das BVergG 2018 eine gesetzliche Grundlage für die Verarbeitung personenbezogener Daten. Da KI-Systeme oft Cloud-Dienste außerhalb der EU nutzen, unterliegt der Datentransfer in Drittstaaten strengen DSGVO-Vorgaben, die eine entsprechende Absicherung verlangen. Zudem ist bei der Einführung neuer Technologien wie KI eine Datenschutzfolgenabschätzung (DSFA) verpflichtend, um mögliche Datenschutzrisiken frühzeitig zu erkennen und zu minimieren.

Weiterführende Infos und Quellen

Hörtipps zum Thema KI und öffentliche Vergabe

Zu dem spannenden Themenkomplex von Künstlicher Intelligenz in der Vergabe haben wir von auftrag.at in unserer Podcast-Reihe „Vergabe Insights“ zwei spannende Gespräche mit Expert:innen geführt:

Vergabe Insights Podcast, Folge 11: #11 Künstliche Intelligenz: Wie ChatGPT und andere KI-Modelle im Vergaberecht echte Hilfe leisten können
Vergabe Insights Podcast, Folge 12: #12 Urheberrecht vs. KI: Was Schutzrechte für den Einsatz von Künstlicher Intelligenz in der Vergabe bedeuten

Quellen

Vergabeforum 2024, Schweinhammer „Game Changer KI in der öffentlichen Auftragsvergabe – rechtliche Risiken durch den Einsatz von KI“