Datenschutz-Folgenabschätzung nach Art. 22 DSG bei KI-Systemen

Die Datenschutz-Folgenabschätzung ist im Schweizer Datenschutzrecht das zentrale Instrument der vorgelagerten Risikobeurteilung. Für KI-Systeme, die Personendaten bearbeiten, ist sie in vielen Fällen der erste formale Nachweis, dass ein Unternehmen die Risiken seines Systems überhaupt erfasst hat — und damit die Grundlage jeder späteren Rechenschaft gegenüber Aufsicht, Vertragspartnern oder betroffenen Personen.

Schweizer Rechtsrahmen

Massgeblich ist Art. 22 des Bundesgesetzes über den Datenschutz (DSG, SR 235.1), in Kraft seit dem 1. September 2023, flankiert von der Verordnung über den Datenschutz (DSV, SR 235.11) und Art. 23 DSG zur Konsultation des Eidgenössischen Datenschutz- und Öffentlichkeitsbeauftragten (EDÖB).

Nach Art. 22 Abs. 1 DSG erstellt der Verantwortliche vorgängig eine Datenschutz-Folgenabschätzung, wenn eine Bearbeitung ein hohes Risiko für die Persönlichkeit oder die Grundrechte der betroffenen Person mit sich bringen kann. Das Gesetz stellt damit auf eine Prognose ab: Es genügt, dass das hohe Risiko eintreten kann. Art. 22 Abs. 2 DSG konkretisiert, dass sich ein hohes Risiko namentlich aus der Verwendung neuer Technologien sowie aus Art, Umfang, Umständen und Zweck der Bearbeitung ergibt, und nennt zwei Regelbeispiele: die umfangreiche Bearbeitung besonders schützenswerter Personendaten und die systematische umfangreiche Überwachung öffentlicher Bereiche.

Für KI-Systeme ist bereits das Tatbestandsmerkmal «neue Technologien» einschlägig, sobald das System nicht bloss eine etablierte, gut verstandene Verarbeitungslogik abbildet. Das führt in der Praxis dazu, dass die DSFA-Prüfung bei KI-Vorhaben eher die Regel als die Ausnahme ist — wobei zu betonen ist: Pflicht ist zunächst die Prüfung, ob eine DSFA nötig ist, und deren Dokumentation.

Konkrete Regelung

Der gesetzlich vorgegebene Mindestinhalt ergibt sich aus Art. 22 Abs. 3 DSG. Die Folgenabschätzung enthält eine Beschreibung der geplanten Bearbeitung, eine Bewertung der Risiken für die Persönlichkeit oder die Grundrechte der betroffenen Person sowie die Massnahmen zum Schutz dieser Persönlichkeit und Grundrechte. Auf KI-Systeme übertragen heisst das konkret: Datenkategorien und Datenquellen, Zweck und Rechtsgrundlage der Bearbeitung, die Rolle des Modells im Entscheidungsprozess, Empfänger und allfällige Bekanntgabe ins Ausland, Aufbewahrungsdauer sowie die technischen und organisatorischen Massnahmen nach Art. 8 DSG.

Bei der Risikobewertung sind die für KI typischen Risikoquellen ausdrücklich zu adressieren — unter anderem die Qualität und Repräsentativität der Trainings- und Eingabedaten, systematische Verzerrungen in den Ergebnissen, die Nachvollziehbarkeit der Modellausgaben, die Zuverlässigkeit über die Zeit (Drift) sowie die Frage, ob Personendaten in Eingaben an Dritt-Anbieter fliessen.

Art. 22 Abs. 4 DSG sieht eine Entlastung vor: Wer ein Produkt, ein System oder eine Dienstleistung einsetzt, das zertifiziert ist, oder wer einen von der zuständigen Stelle genehmigten Verhaltenskodex einhält, dessen Einhaltung eine Folgenabschätzung erübrigt, kann auf die DSFA verzichten. Für private Verantwortliche entfällt die Pflicht zudem nach Art. 22 Abs. 5 DSG, wenn sie gesetzlich zur Bearbeitung verpflichtet sind.

Ergibt die Folgenabschätzung, dass die Bearbeitung trotz der vorgesehenen Massnahmen weiterhin ein hohes Restrisiko aufweist, ist der EDÖB nach Art. 23 Abs. 1 DSG vorgängig zu konsultieren. Der EDÖB kann Einwände erheben und Änderungen vorschlagen. Private Verantwortliche können die Konsultation nach Art. 23 Abs. 4 DSG durch den Beizug ihres Datenschutzberaters ersetzen, sofern dieser die gesetzlichen Anforderungen erfüllt und unabhängig beigezogen wird.

Die DSFA ist kein einmaliges Dokument. Ändern sich Modell, Datenbasis, Einsatzzweck oder Anbieter wesentlich, ist die Beurteilung nachzuführen — bei KI-Systemen mit laufendem Retraining ein besonders relevanter Punkt.

Abgrenzung zum EU AI Act

Die DSFA nach Art. 22 DSG ist Datenschutzrecht und hat ihr funktionales Gegenstück in Art. 35 der EU-Datenschutz-Grundverordnung, nicht im EU AI Act. Sie beurteilt eine konkrete Datenbearbeitung und deren Risiken für die betroffenen Personen.

Der EU AI Act setzt an einer anderen Stelle an: Er reguliert KI-Systeme nach Risikoklassen und knüpft Pflichten an die Rolle als Anbieter oder Betreiber — unabhängig davon, ob im Einzelfall Personendaten bearbeitet werden. Beide Instrumente können nebeneinander greifen, ersetzen einander aber nicht: Eine sauber durchgeführte DSFA erfüllt keine Pflicht aus dem EU AI Act, und umgekehrt entbindet eine Konformitätsbewertung nach EU-Recht nicht von Art. 22 DSG.

Für Schweizer Unternehmen bedeutet das: Art. 22 DSG gilt aus eigenem Schweizer Recht. Wer zusätzlich KI-Systeme im EU-Markt anbietet oder einsetzt, kann parallel vom EU AI Act erfasst sein — diese marktzugangsbezogene Brücke wird auf ki-verordnung.ch vertieft. Was der EU-Rechtsrahmen unter Hochrisiko-Anwendungen versteht, ist auf hochrisiko-ki.com dargestellt.

Praxis für Schweizer Unternehmen

Sinnvoll ist ein vierstufiges Vorgehen. Erstens ein Vorabtriage-Schritt: Für jedes KI-Vorhaben, das Personendaten bearbeitet, wird dokumentiert geprüft, ob ein hohes Risiko im Sinne von Art. 22 Abs. 1 und 2 DSG vorliegen kann. Auch das negative Ergebnis gehört festgehalten — es ist der Nachweis, dass geprüft wurde.

Zweitens die eigentliche Folgenabschätzung entlang der drei gesetzlichen Elemente, mit expliziter Behandlung der KI-spezifischen Risikoquellen. Drittens die Verzahnung mit den übrigen DSG-Pflichten: dem Verzeichnis der Bearbeitungstätigkeiten (Art. 12 DSG), der Auftragsbearbeitung bei externen KI-Anbietern (Art. 9 DSG), der Informationspflicht bei automatisierten Einzelentscheiden (Art. 21 DSG) und den Datensicherheitsmassnahmen (Art. 8 DSG). Viertens die Entscheidung über die Konsultation nach Art. 23 DSG — samt Begründung, warum das Restrisiko als hoch oder als nicht hoch eingestuft wurde.

Praktisch bewährt sich, die DSFA nicht als Rechtsdokument am Ende des Projekts zu schreiben, sondern als Artefakt, das mit dem System mitläuft: versioniert, mit nachvollziehbarer Herkunft der Aussagen und mit einem definierten Auslöser für die Nachführung. Genau diese Nachweisführung — wer hat wann auf welcher Grundlage was beurteilt — entscheidet im Aufsichts- oder Streitfall über die Belastbarkeit der Dokumentation.

Verweise

• Bundesgesetz über den Datenschutz (DSG), SR 235.1 — insbesondere Art. 8, Art. 9, Art. 12, Art. 21, Art. 22 und Art. 23
• Verordnung über den Datenschutz (DSV), SR 235.11
• Eidgenössischer Datenschutz- und Öffentlichkeitsbeauftragter (EDÖB): Erläuterungen und Leitfäden zum revidierten DSG, abrufbar über edoeb.admin.ch
• Fedlex, die amtliche Gesetzessammlung des Bundes: fedlex.admin.ch

Trust-Infrastructure die Schweizer und EU-Anforderungen gleichzeitig adressiert: aegira.ai.