EPUB-Informationen

Bezeichnung:

548

Stand/Datum des Downloads:

27.03.2026

Ordnung über die Nutzung Künstlicher Intelligenz in der Erzdiözese Freiburg
(KI-Nutzungsordnung)

Vom 27. Februar 2026

ABl. 2026, S. 199

Zur Umsetzung der EU-Verordnung über künstliche Intelligenz (EU-KI-Verordnung) wird nachfolgende Regelung erlassen:

§ 1
Zweck

( 1 ) 1 KI-Technologien bieten große Möglichkeiten. 2 Sie bringen zugleich Herausforderungen in der Anwendung und im Umgang mit den Ergebnissen mit sich. 3 Diese Ordnung soll den sicheren, bewussten und verantwortungsvollen Einsatz von Künstlicher Intelligenz (KI) in der Erzdiözese Freiburg gewährleisten. 4 Sie legt fest, unter welchen Voraussetzungen KI mit den sie bietenden Chancen genutzt werden darf.

( 2 ) Der Einsatz von KI-Systemen muss den Kriterien Zweckmäßigkeit, Sinnhaftigkeit und Aufgabenorientierung genügen und dem Menschen in seiner sinnstiftenden Entfaltung dienen.

( 3 ) 1 Der Einsatz von KI führt zu einem erhöhten Ressourcenverbrauch. 2 Daher ist im Sinne der Nachhaltigkeit ein verantwortungsbewusster Einsatz von KI geboten und eine Abwägung zwischen umweltfreundlicheren und ressourcenschonenderen Alternativen vorzunehmen.

( 4 ) 1 Die EU-KI-Verordnung regelt den Einsatz und die Entwicklung von KI-Systemen in der Europäischen Union. 2 Zweck dieser EU-KI-Verordnung ist es, die Einführung einer auf den Menschen ausgerichteten KI in Europa zu fördern und dabei ein hohes Schutzniveau in Bezug auf Gesundheit, Sicherheit und die Grundrechte der Bürger sicherzustellen (Artikel 1 der EU-KI-Verordnung). 3 Dazu definiert die EU-KI-Verordnung KI-Anwendungsszenarien, die von vornherein untersagt sind und solche, die voraussichtlich mit einem „hohen Risiko“ einhergehen und daher besondere Sorgfalt erfordern.

( 5 ) Die Risikoklassen nach der EU-KI-Verordnung werden für die Erzdiözese Freiburg in der Anlage dieser Ordnung spezifiziert.

§ 2
Geltungsbereich

Diese Ordnung gilt für die Nutzung von KI in der Erzdiözese Freiburg, insbesondere für alle Dienststellen und Einrichtungen der Erzdiözese Freiburg und der Kirchengemeinden.

§ 3
Begriffsbestimmungen

( 1 ) Ein „KI-System“ ist ein maschinengestütztes System, das für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt ist und das nach seiner Betriebsaufnahme anpassungsfähig sein kann und das aus den erhaltenen Eingaben für explizite oder implizite Ziele ableitet, wie Ausgaben wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden, die physische oder virtuelle Umgebungen beeinflussen können.[1]

( 2 ) 1 Ein „generatives KI-System“ bezeichnet ein KI-System, das auf Basis vorhandener Daten neue, synthetische Inhalte erzeugen kann, die eine abstrakte variierte Repräsentation von zuvor trainierten Daten darstellt. 2 Diese Inhalte können insbesondere Text, Bilder, Audio, Video, Programmcodes und 3D-Modelle sein. 3 Es verfügt über das Potential, Inhalte zu bearbeiten[2], deren Medialität zu transformieren[3], Informationen zu extrahieren[4], Datensätze zu klassifizieren oder zu interpretieren sowie komplexere Aufgaben autonom durchzuführen[5].

( 3 ) 1 „Information Retrieval“ ist der Prozess des Auffindens und Abrufens relevanter Informationen aus einem Datensatz oder einer Sammlung von Ressourcen. 2 Er spielt eine entscheidende Rolle beim Datenabruf und ermöglicht den effizienten Zugriff auf Informationen durch Suchalgorithmen und Techniken zur Abfrageverarbeitung.

( 4 ) „KI-Kompetenz“ beinhaltet Fähigkeiten, Kenntnisse und Verständnis, die es Anbietern, Anwendern und Betroffenen ermöglichen, KI-Systeme unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten in Kenntnis der Sachlage einzusetzen und sich über die Chancen und Risiken von KI und mögliche Schäden, die sie verursachen kann, bewusst zu sein.

§ 4
Schulungsverpflichtung

1 Entsprechend Artikel 4 der EU-KI-Verordnung hat der Dienstgeber die KI-Kompetenz der Mitarbeitenden sicherzustellen. 2 KI-Systeme dürfen nur von Mitarbeitenden genutzt werden, die zuvor an einer grundlegenden Schulung zum Thema „KI“ teilgenommen und dies dem Dienstgeber gegenüber über den Dienstvorgesetzten nachgewiesen haben.

§ 5
Genehmigungsfreiheit und Genehmigungsbedürftigkeit der Nutzung von KI-Systemen

( 1 ) KI-Systeme dürfen im dienstlichen Kontext ohne Genehmigung genutzt werden, wenn keine personenbezogenen, vertraulichen, internen, betrieblichen oder sicherheitsrelevanten Daten verarbeitet oder eingegeben werden.

( 2 ) 1 Für die Nutzung von KI-Systemen, die nicht unter Absatz 1 fallen, ist grundsätzlich eine vorherige Genehmigung durch die Stabsstelle Informationstechnik und den Dienstvorgesetzten erforderlich. 2 Dies gilt insbesondere in den Fällen, in denen eine der folgenden Bedingungen vorliegt:

1. Das KI-System ist kostenpflichtig.

2. Das KI-System verarbeitet personenbezogene oder vertrauliche Daten.

3. Ein Dienstleister soll KI im Sinne einer Auftragsverarbeitung einsetzen.

4. Es sollen eigene KI-Systeme entwickelt, trainiert oder mit Information-Retrieval-Techniken (beispielsweise Retrieval Augmented Generation (RAG) angepasst werden.

( 3 ) Eine Genehmigung nach Absatz 2 darf nur erteilt werden, sofern keine technischen, sicherheitsrelevanten oder datenschutzrechtlichen Belange entgegenstehen.

( 4 ) KI darf in der Erzdiözese Freiburg ausschließlich im Kontext der Risikoklassen 4 (Minimales Risiko) und 3 (Geringes Risiko) gemäß dem Anhang dieser Ordnung eingesetzt werden.

( 5 ) Die Nutzungsbedingungen des Anbieters des KI-Systems sind zwingend einzuhalten.

§ 6
Rechte Dritter; Datenschutz; Vertraulichkeit, Prüfpflicht des Nutzers

( 1 ) 1 Die Eingabe von Daten muss rechtlich zulässig sein. 2 Insbesondere darf sie nicht gegen Datenschutz-, Urheber- oder Markenrecht verstoßen. 3 Es ist untersagt, Inhalte abzurufen, zu verbreiten oder zu speichern, die gegen Persönlichkeits-, Datenschutz-, Lizenz-, Urheber- oder Strafrecht verstoßen.

( 2 ) 1 Eine Eingabe von vertraulichen und/oder personenbezogenen Daten auf öffentlichen frei zugänglichen KI-Plattformen ist stets untersagt. 2 Dazu gehören Dienst- und Geschäftsgeheimnisse, steuerlich geschützte Informationen, personenbezogene Daten sowie sicherheitsrelevanter interner Programmcode. 3 Inhalte aus Verschlusssachen dürfen nicht eingegeben werden. 4 Verstöße gegen das Dienstgeheimnis oder besondere Geheimhaltungspflichten können dienst- und strafrechtliche Konsequenzen haben.

( 3 ) 1 Eine ungeprüfte Übernahme von KI-generierten Inhalten ist nicht zulässig. 2 KI-Systeme sind nur einzusetzen, wenn der Mensch aktiv am Betrieb, der Überwachung oder der Entscheidungsfindung eingebunden ist.

§ 7
Sorgfaltspflichten

( 1 ) 1 KI-generierte Inhalte sind vor ihrer Verwendung auf ihre Richtigkeit bzw. Plausibilität, Angemessenheit und Diskriminierungs- und Bias-Freiheit zu prüfen. 2 Texte sind zudem einer redaktionellen Kontrolle zu unterziehen.

( 2 ) 1 Insbesondere bei von KI-Systemen erzeugten Texten und Bildern ist darauf zu achten, dass diese keine Reproduktion urheberrechtlich geschützter Werke darstellen. 2 Bei Zweifeln hat die Verwendung zu unterbleiben.

( 3 ) 1 Bevor Informationen aus externen Quellen wie insbesondere aus KI-gestützten Suchmaschinen, Social Media oder Internet übernommen oder in eigene Entscheidungsprozesse oder dienstliche Erledigungen einfließen, sind diese kritisch zu hinterfragen und auf Nachvollziehbarkeit zu prüfen. 2 Insbesondere generative KI-Systeme stellen kein Wissensmanagementsystem dar.

( 4 ) 1 Zur Vermeidung von Desinformation und Täuschung und ihre schnelle Verbreitung in sozialen Medien sind Faktenchecks durchzuführen. 2 Dabei sind KI-generierte Inhalte auf ihren Wahrheitsgehalt zu überprüfen, um echte von verfälschten Inhalten zu unterscheiden. 3 Dies gilt insbesondere in Bezug auf potenziell von KI-Werkzeugen generierte verfälschte bzw. manipulierte Bilder. 4 Auf diese Weise wird die Glaubwürdigkeit von Medieninhalten der Erzdiözese Freiburg sichergestellt.

§ 8
Transparenzpflicht

1 Wenn generative KI-Systeme für die Erstellung von Texten, Bildern oder sonstigen Inhalten verwendet werden, ist dies durch eine Kennzeichnung in einer Fußzeile, einer Bildunterschrift oder auf sonstige eindeutige Weise transparent zu machen. 2 Dies gilt nicht für Rechtschreibprüfungen oder Übersetzungsprogramme.

§ 9
Inkrafttreten

Diese Ordnung tritt am 5. März 2026 in Kraft.

Anhang – Risikoklassifizierung von KI-Anwendungen

Klasse

Risikoklasse 4
Minimales Risiko

Risikoklasse 3
Geringes Risiko

Risikoklasse 2
Hohes Risiko

Risikoklasse 1
Unannehmbares Risiko

Eigenschaften

Alle KI-Systeme können unter Einhaltung des allgemeinen geltenden Rechts entwickelt und verwendet werden; d. h. ohne Beachtung zusätzlicher rechtlicher Verpflichtungen.

Durch die KI-Anwendung besteht eine Manipulationsgefahr; Nutzenden könnte beispielsweise nicht bewusst sein, dass sie es mit einer Maschine zu tun haben.

Die KI-Anwendung wirkt sich nachteilig auf die Sicherheit der Menschen oder ihre Grundrechte aus.

Die KI-Anwendung verstößt gegen die Werte der EU, weil sie Grundrechte verletzt.

Beispiele

Großteil der KI-Systeme, die derzeit in der EU verwendet werden;
SPAM-Filter;
KI-gestützte Videospiele.

Einsatz von Chatbots.

Kritische Infrastrukturen;
Strafverfolgung /Recht;
Bewertungsprozesse (z.B. Kreditwürdigkeit).

Manipulation menschlichen Verhaltens; Social Scoring durch den Staat.

Folgen

Keine Verpflichtung

Transparenzverpflichtung

Konformitätsprüfung

untersagt

[1]

Die Begriffsbestimmung ist Artikel 3 Nummer 1 der EU-KI-Verordnung entnommen.

[2]

insbesondere Übersetzung, Textprüfung, Korrektur, Bildbearbeitung.

[3]

insbesondere Text-to-speech, Bild-zu-Text.

[4]

insbesondere Textzusammenfassungen, Protokolle, „Chatten mit Dokumenten“.

[5]

insbesondere Recherchen durchführen, Buchungen durchführen, KI-Agenten.