FAQ – Knotenpunkt Recht - CNAI - Kompetenznetzwerk für künstliche Intelligenz

Knotenpunkt Recht: Beschreibung und Abgrenzung der Aufgaben

Der Knotenpunkt Recht ist eine Anlaufstelle für rechtliche Fragen in Zusammenhang mit künstlicher Intelligenz (KI). Er ist an das Kompetenznetzwerk für künstliche Intelligenz (CNAI) angeschlossen. Die administrative Leitung liegt bei der Direktion für Völkerrecht (DV) und dem Bundesamt für Justiz (BJ). Das Ziel des Knotenpunkts Recht besteht darin, die Bundesbehörden bei rechtlichen Fragen in Zusammenhang mit KI zu unterstützen. So können beispielsweise in der Bundesverwaltung erstellte Analysen überprüft oder konkrete und spezifische Fragen beantwortet werden.

Aufgrund der beschränkten Ressourcen kann der Knotenpunkt Recht allerdings keine Dienstleistungen eines «klassischen» Rechtsdienstes erbringen. Vertiefte Analysen der rechtlichen Herausforderungen beim Einsatz von KI-Systemen oder die vollständige Begleitung eines Projekts sind nicht möglich.

Zur Unterstützung der Dienste, die für ihre Aufgaben KI-Systeme einsetzen möchten, hat der Knotenpunkt Recht häufig gestellte Fragen mit konkreten Beispielen zusammengestellt.

Trotzdem ist jeder Fall einzeln zu prüfen, denn die allgemeinen Antworten lassen sich nicht auf alle Situationen übertragen. Eine vertiefte rechtliche Analyse sollte in jedem Fall durchgeführt werden.

Schliesslich gilt es zu betonen, dass für Gesetzgebungsvorhaben in Zusammenhang mit Digitalisierung der Fachbereich Rechtsetzung in Digitalisierungsfragen (RDI) im BJ zuständig ist. Dieser steht den Diensten der Bundesverwaltung bei der Erarbeitung gesetzlicher Grundlagen von Beginn weg zur Seite.

Einrichtung eines Chatbots: Datenschutzfragen

Ein Dienst eines Bundesamts wendet sich an den Knotenpunkt Recht, um die rechtlichen Fragen in Zusammenhang mit einem Chatbot-Projekt zu klären, insbesondere mit Blick auf den Datenschutz und die Übereinstimmung mit den Gesetzesgrundlagen der Schweiz. Er bittet den Knotenpunkt Recht um eine Analyse der Rechtsgrundlagen für ein solches Projekt und möchte wissen, was diese Analyse kostet.

Antwort:
Die rechtliche Analyse des Projekts muss vom Rechtdienst des betroffenen Bundesamts durchgeführt werden. Der Knotenpunkt Recht steht bei allfälligen konkreten Fragen jedoch zur Verfügung.
Da die Frage den Datenschutz betrifft, gilt es die besonderen Anforderungen für Bundesorgane im neuen Datenschutzrecht zu beachten. Auf der Website des BJ stehen den Bundesbehörden verschiedene Dokumente zur Verfügung, die allgemeine oder spezifische Informationen enthalten, namentlich zur Vorbereitung der gesetzlichen Grundlagen für eine Datenverarbeitung (vgl. FAQ «Wo sind auf der Website des BJ relevante Informationen zu KI zu finden?»). Diese Dokumentation kann auch im Rahmen von Projekten nützlich sein, bei denen KI-Systeme zum Einsatz kommen und personenbezogene Daten verarbeitet werden.
Insbesondere der Bericht «Totalrevision des Datenschutzgesetzes (DSG) – Übersicht zu den wichtigsten Änderungen für die Erarbeitung der Rechtsgrundlagen betreffend Datenbearbeitungen durch Bundesorgane» auf der Website des BJ enthält spezifische Ausführungen zum Thema KI in der Bundesverwaltung (S. 18 ff).
In manchen Fällen kann für personenbezogene Daten eine Datenschutz-Folgenabschätzung sinnvoll sein. Weitere Informationen dazu finden Sie auf der Website des BJ.
Der Knotenpunkt Recht steht zur Verfügung, um das Ergebnis der Analyse zu prüfen. Dafür werden keine Kosten in Rechnung gestellt.

Einrichtung eines Chatbots: Grundsatz von Treu und Glauben

Ein Dienst wendet sich an den Knotenpunkt Recht, um die rechtlichen Fragen in Zusammenhang mit einem Chatbot-Projekt zu klären. Er hat insbesondere Fragen zum allfälligen Einsatz eines «Disclaimers», der auf die Unzuverlässigkeit von Chatbot-Antworten hinweist.

Antwort:
Es stellt sich die Frage, inwiefern ein «Disclaimer» zur Unzuverlässigkeit der Antworten im Hinblick auf Artikel 9 BV (Schutz vor Willkür und Wahrung von Treu und Glauben) ausreicht. Nach Lehre und Rechtsprechung schützt dieser Artikel ganz allgemein vor Benachteiligung (oder Schaden) durch die Handlungen eines staatlichen Organs, die gegen die Regeln von Treu und Glauben verstossen. Der «Commentaire romand» nennt als Beispiel eine ungenaue Rechtsmittelbelehrung: Eine falsch adressierte oder verspätete Beschwerde muss für zulässig erklärt werden, wenn der Beschwerdeführer sich auf den Hinweis verlassen hat und den Fehler bei Anwendung der nach den Umständen gebotenen Aufmerksamkeit nicht erkannt hat – und auch nicht hätte erkennen müssen. Wenn die vom Chatbot gelieferten Informationen eindeutig falsch sind, sollte dies grundsätzlich keine Konsequenzen haben. Es ist jedoch denkbar, dass scheinbar plausible Angaben eine Person zu einem bestimmten Verhalten veranlassen (z. B. falsche Angaben zu einer Frist), was die Behörde berücksichtigen muss, um die Person nicht zu benachteiligen. In jedem Fall muss der Hinweis auf die Unzuverlässigkeit des Chatbots möglichst gut sichtbar sein bzw. direkt ins Auge stechen, sodass die Nutzenden wissen, dass sie für eine zuverlässige Auskunft einen anderen Kanal verwenden sollten.

Roboter als IT-Benutzer

Ein Dienst möchte vom Knotenpunkt Recht wissen, ob und unter welchen Umständen ein «Roboter» Zugriffsrechte auf ein System erhalten und als Benutzer Transaktionen durchführen könnte. Konkret stellt der Dienst folgende Fragen:

Rechtliche Rahmenbedingungen: Gibt es einen Rechtsrahmen für den Einsatz von Robotern als Benutzer von IT-Systemen in der öffentlichen Verwaltung?

Haftung und Compliance: Welche Compliance- und Haftungsaspekte müssen beim Einsatz von Robotern in diesem Kontext berücksichtigt werden?

Datenschutz: Was sind die möglichen Auswirkungen mit Blick auf den Datenschutz und wie ist damit umzugehen?

Praktische Empfehlungen: Gibt es Empfehlungen oder Best Practices, um sicherzustellen, dass bei beim Einsatz von Robotern die gesetzlichen und ethischen Normen eingehalten werden?

Antwort:
Rechtliche Rahmenbedingungen:
Uns ist kein bestehender Rechtsrahmen bekannt, der sich spezifisch auf den Einsatz von Robotern als Benutzer von IT-Systemen bezieht. Die einschlägigen Rechtsgrundsätze der schweizerischen Rechtsordnung, die dem technologieneutralen Ansatz der Schweizer Gesetzgebung entsprechen, sind in einer solchen Situation jedoch anwendbar. Insbesondere sind die Bestimmungen der Bundesverfassung, des Datenschutzgesetzes (DSG), des Bundesgesetzes über das Verwaltungsverfahren (VwVG), des Obligationenrechts (OR), des Zivilgesetzbuches (ZVG), des Strafgesetzbuches (StGB), des Bundesgesetzes über die Verantwortlichkeit des Bundes sowie seiner Behördenmitglieder und Beamten (VG) und des Bundesgesetzes über die Produktesicherheit (PrSG) einzuhalten.

Haftung und Compliance:
Die oben genannten Rechtsgrundlagen gelten insbesondere auch hinsichtlich Haftung und Compliance.

Datenschutz:
Soll ein KI-basierter Roboter auch Personendaten verarbeiten, muss er hinsichtlich der Risiken für die Grundrechte der betroffenen Personen einer Datenschutz-Folgenabschätzung unterzogen werden. Weiter müssen die Rechte und Pflichten gemäss Artikel 21 und 25 DSG eingehalten werden, wenn aus dem Einsatz des KI-Systems eine automatisierte Einzelentscheidung hervorgeht. Darüber hinaus gelten die Anforderungen hinsichtlich der Rechtsgrundlagen gemäss Artikel 34 DSG. Generell wird bezüglich Datenschutz und KI-Systeme auf die Dokumentation verwiesen, die auf der Website des BJ verfügbar ist: https://www.bj.admin.ch/bj/de/home/staat/datenschutz/info-bundesbehoerden.html

Praktische Empfehlungen:
Automatisierte (rein mechanische) Entscheide müssen immer von Menschen überprüft werden. Die Personen, die entsprechende Systeme nutzen, müssen gezielt geschult werden, damit sie die Funktionsweise des Systems in groben Zügen verstehen und somit die von der Maschine vorgeschlagenen Ergebnisse einschätzen und hinterfragen können.
Wenn das System entscheidungsfähig ist, müssen sämtliche Interaktionen mit dem KI-System und die daraus resultierenden Entscheide klar als solche erkennbar sein.
Für noch mehr Transparenz kann das KI-Projekt beim Kompetenznetzwerk für künstliche Intelligenz (CNAI) des BFS gemeldet werden, damit es in der Datenbank der KI-relevanten Projekte in der Bundesverwaltung erscheint.
Generell gelten die KI-Leitlinien des Bundes.

Transkription von Protokollen durch einen Roboter

Gibt es gesetzliche Bestimmungen, die vorschreiben, dass Protokolle im Rahmen von Verfahren vor Verwaltungsinstanzen zwingend von einem Menschen verfasst werden müssen, oder wäre es aus rechtlicher Sicht auch möglich, die Transkription zukünftig vollständig von einem KI-Programm erstellen zu lassen?

Antwort:
Die vollständige Aufzeichnung einer Anhörung in digitaler Form ist kein adäquater Ersatz für ein Protokoll. Das Protokoll muss, um den Anspruch der betroffenen Person auf rechtliches Gehör zu wahren (Art. 29 Abs. 2 BV), den Sachverhalt schriftlich wiedergeben, der für das weitere Verfahren wesentlich ist. Eine verfassungsrechtliche Verpflichtung, eine vollständige Abschrift der Anhörung zu den Akten zu nehmen, gibt es hingegen nicht. Ein auf den wesentlichen Inhalt der Anhörung beschränktes Protokoll ist ausreichend.

Es bestehen einige Softwarelösungen, die Audiodateien mithilfe eines KI-Systems automatisch transkribieren. Die Verwaltung darf eine solche Transkriptionssoftware – wie erwähnt – grundsätzlich als Hilfsmittel verwenden. Die Behörde, die diese Software verwendet, ist aber in der Pflicht, die Qualität der Transkription zu überprüfen. Dies gilt auch bei einer vollständigen, wortgemässen Transkription. Zu untersuchen ist insbesondere, ob das gesprochene Wort korrekt verschriftlicht und die nonverbale Kommunikation berücksichtigt wurde. Daher ist es erforderlich, dass eine Person, die an der Anhörung teilgenommen hat, die Transkription überprüft. Die Behörde trägt – auch wenn sie eine Transkriptionssoftware als Hilfsmittel verwendet – die Verantwortung dafür, dass (mindestens) der für das weitere Verfahren wesentliche Sachverhalt protokolliert wird. Nach Massgabe des Verfahrensrechts ist es denn auch Aufgabe der Behörde, den Sachverhalt festzustellen (Art. 12 VwVG). Wird die Transkriptionssoftware in diesem Sinne verwendet, bewegt sich das staatliche Handeln innerhalb der Rechtsordnung, weshalb es aus rechtlicher Sicht nichts dagegen einzuwenden gibt.

Die Ausfertigung des Protokolls kann nach dem Gesagten zwar nicht «gänzlich» einem KI-System überlassen werden. Der Verwaltung ist es aber möglich, eine Softwarelösung als Hilfsmittel zu verwenden, solange eine Person, die an der Anhörung teilgenommen hat, die Qualität der Transkription überprüft. Alle weiteren Bedingungen des Verwaltungsverfahrens bleiben vorbehalten, insbesondere das Recht der betroffenen Personen auf rechtliches Gehör.

Wo sind auf der Website des BJ relevante Informationen zu KI zu finden?

www.bj.admin.ch > Staat & Bürger > Datenschutz > Fragen und Antworten zum Datenschutz
- FAQ Datenschutzrecht: Automatisierte Einzelentscheidung, Kap. 6.2 / Profiling, Kap. 2.3 / Datenschutz-Folgenabschätzung, Kap. 6.3
www.bj.admin.ch > Staat & Bürger > Datenschutz > Informationen für Bundesorgane
- Totalrevision des Datenschutzgesetzes (DSG) – Übersicht zu den wichtigsten Änderungen für die Erarbeitung der Rechtsgrundlagen betreffend Datenbearbeitungen durch Bundesorgane: Automatisierte Einzelentscheidungen, Kap. 2.2.1 Bst. c (mit spezifischen Ausführungen zu KI) / Profiling, Kap. 2.2.1 Bst. b / Datenschutz-Folgenabschätzung, Kap. 4.3
- Gesetzgebungsleitfaden Datenschutz: Automatisierte Einzelentscheidung: Kap. 2.3.4 und 3.2.3 / Automatisierte Unterstützung der individuellen Entscheidfindung durch künstliche Intelligenz, Kap. 2.3.5 und 3.2.3 / Profiling, Kap. 2.3.3 und 3.2.2
- Instrument für die Risikovorprüfung (Excel-Tabelle)
- DSFA-Leitfaden, S. 3 und 17

KI und Urheberrecht (FAQ bereitgestellt vom Eidgenössischen Institut für Geistiges Eigentum)

Ist der Output von KI-Systemen wie ChatGPT urheberrechtlich geschützt?

In der Schweiz ist urheberrechtlich nur geschützt, was von einem Menschen stammt.
Wenn eine Person ChatGPT lediglich als Werkzeug einsetzt, aber dabei eine kreative Leistung erbringt, dann ist ein Urheberrechtsschutz des Outputs möglich. Das ist mit einem Fotografen vergleichbar, der eine Kamera benützt. Wird die Leistung hingegen, gestützt auf einen banalen Prompt, durch ChatGPT erbracht, dann stammt sie nicht von einem Menschen und der Output ist nicht urheberrechtlich geschützt.

Wenn der Output urheberrechtlich nicht geschützt ist, darf ich diesen frei verwenden?

Auch hier muss man Vorsichtig sein: Man hat bei KI-Systemen einen sog. Memory Effekt festgestellt. Es ist möglich, dass die Ergebnisse eines KI-Systems urheberrechtlich geschützte Inhalte enthalten. Wenn das der Fall ist, braucht man für die Weiterverwendung dieser Ergebnisse eine Erlaubnis der Urheberinnen und Urheber oder des Gesetzes. Wer urheberrechtsverletzende Outputs verwendet, begeht eine Urheberrechtsverletzung. Eine Verantwortlichkeit ist gegeben, auch wenn der Nutzer nicht weiss, dass sich das KI-Ergebnis geschützte Inhalte enthält. Es empfiehlt sich deshalb, KI-Ergebnisse vor der Verwendung auf mögliche Rechtsverletzungen zu prüfen, beispielsweise über eine Google Text- oder Bildersuche und eine visuelle Prüfung auf Rechteinformationssysteme (Watermarks), Künstlersignaturen oder bekannte Persönlichkeiten.
Weiter sind auch die Nutzungsbedingungen oder AGB zu beachten. Diese verbieten unter Umständen eine kommerzielle Nutzung des Outputs.

Darf ich KI-generierte Inhalte «im Stil» von bekannten Künstlern frei verwenden?

Ein Stil ist nicht urheberrechtlich geschützt. Wenn aber ein Output oder Teile davon zu nahe an einem Original (geschütztes Werk) eines Künstlers sind, dürfte eine unerlaubte Bearbeitung und damit eine Urheberrechtsverletzung vorliegen. Das kann wegen des sog. Memory-Effekts passieren.
Wenn der Output den Stil des Künstlers so imitiert, dass es zu Verwechslungen kommen und man den Output dem Künstler zuschreiben könnte, dürfte aber eine Persönlichkeitsverletzung vorliegen.

Ist die Nutzung von geschützten Inhalten für das Training (machine learning) von KI-Systemen urheberrechtlich relevant?

Dies ist noch umstritten.
Gestützt auf einer grammatikalischen Auslegung des Urheberrechts wird argumentiert, dass das Vervielfältigungsrecht die Verwendung von geschützten Werken für das KI-Training erfasst. Teilweise wird aber auch vertreten, dass die Nutzung von geschützten Inhalten für das Training von KI nicht urheberrechtlich relevant ist, weil sie letztlich nicht zu einem Werkgenuss führt. Es gibt Gerichtsverfahren in den USA und in England zu dieser Frage, aber entschieden ist noch nichts.
Das Schweizer Urheberrecht enthält eine Schranke zu Text and Data Mining zum Zweck der wissenschaftlichen Forschung. Diese Bestimmung wurde nicht mit Blick auf das KI-Training eingeführt. Ob sie auf solche Fälle Anwendung finden kann, müssen die Gerichte entscheiden.