Datenschutzfolgeabschätzung (DSFA) für den Einsatz KI in PATFAK

Die Datenschutzfolgeabschätzung dient als Vorlage zur Anpassung an die eigenen Nutzung und IT-Umgebung.

1. Ergebnis und Freigabeentscheidung

Für den vorgesehenen Einsatz ist vor Beginn des Produktivbetriebs eine Datenschutz-Folgenabschätzung

erforderlich. Art. 35 Abs. 1 DSGVO verlangt sie bei einer voraussichtlich hohen Gefährdung der Rechte und

Freiheiten, insbesondere beim Einsatz neuer Technologien. Bei umfangreicher Verarbeitung besonderer Kategorien personenbezogener Daten besteht die Pflicht ausdrücklich.

Die Risiken sind beherrschbar, wenn die in Abschnitt 8 formulierten zwingenden Maßnahmen vollständig umgesetzt und nachweisbar sind. Ohne diese Voraussetzungen verbleibt ein hohes Restrisiko, namentlich wegen der Offenlegung hochsensibler Gesundheits- und Suchtdaten, der möglichen Fehlverarbeitung KI-generierter Inhalte und einer unzulässigen Nutzung für Modelltraining.

Die DSK verlangt eine DSFA vor Aufnahme der Verarbeitung und beschreibt sie als Instrument zur

„Beschreibung, Bewertung und Eindämmung“ von Risiken.

2. Beschreibung der geplanten Verarbeitung

PATFAK wird in Suchthilfeeinrichtungen eingesetzt. Corti soll zwei Funktionen erfüllen:

1. Aktiv gestartete Diktate: Beschäftigte sprechen Behandlungs-, Verlaufs- oder

Verwaltungsinformationen ein. Corti transkribiert diese Sprache und erzeugt strukturierte

Textentwürfe.

2. Gesprächsaufzeichnungen: Gespräche zwischen Fachpersonal und Patientinnen beziehungsweise

Patienten werden nach erteilter Einwilligung aufgezeichnet, transkribiert, zusammengefasst und gegebenenfalls kodiert.

Die Audiodaten werden an eine Azure-Instanz im EU/EWR übermittelt. Dort erfolgen Spracherkennung, Transkription, Zusammenfassung und Kodierung; die Ergebnisse sollen in PATFAK beziehungsweise die elektronische Behandlungsdokumentation zurückübertragen werden. Corti beschreibt für sein Produkt eine Azure-basierte Cloud-Bereitstellung, TLS-gesicherte Verbindungen, rollenbasierte Schlüsselverwaltung undprotokollierte Schlüsselverwendung.

Die Verarbeitung umfasst insbesondere:

• Patientendaten: Stammdaten, Kontaktdaten, Behandlungsanlass, Diagnosen, Suchterkrankungen,

Medikationen, psychosoziale Angaben, Gesprächsinhalte, Stimme, Transkripte,

Zusammenfassungen und Kodierungen.

• Beschäftigtendaten: Name, Nutzerkennung, Rolle, Diktate, Gesprächsanteile, technische Protokoll- und Zugriffsdaten.

• Abgeleitete Daten: KI-generierte Zusammenfassungen, Strukturierungen und

Kodierungsvorschläge.

• Empfänger: Redline-Data, Corti, Microsoft Azure und die vertraglich festgelegten

Unterauftragsverarbeiter im EU/EWR sowie die jeweilige Suchthilfeeinrichtung.

Sprachaufnahmen und Transkripte sind nicht nur Gesundheitsdaten, sondern enthalten im Bereich der Suchthilfe regelmäßig besonders schutzbedürftige Angaben über Abhängigkeitserkrankungen, psychische Krisen, soziale Beziehungen, strafrechtlich oder sozialrechtlich relevante Umstände und gegebenenfalls

Informationen Dritter.

3. Rollenmodell und Verantwortlichkeit

Die Annahme, Redline-Data sei für die gesamte Behandlungsverarbeitung Verantwortliche, ist vor dem Start nochmals zu korrigieren oder belastbar zu begründen.

Die Einrichtung bestimmt normalerweise, ob, bei welchen Patientinnen und Patienten und zu welchem Behandlungszweck Diktate und Gespräche verarbeitet werden. Für diese Verarbeitung liegt die Verantwortlichkeit daher regelmäßig bei der Einrichtung. Redline-Data verarbeitet als Anbieterin des KIS nach Weisung, und Corti beziehungsweise Azure verarbeiten als weitere Auftragsverarbeiter. Dies erfordert eine lückenlose Auftragsverarbeitungsstruktur nach Art. 28 DSGVO. Redline-Data wäre nur dann selbst Verantwortliche für die Behandlungsdaten, wenn sie Zwecke und wesentliche Mittel eigenständig festlegt. Dies ist denkbar, soweit Redline-Data Daten für eigene Produktanalyse, Entwicklung, Modelltraining oder Qualitätsverbesserung einsetzen will. Diese Eigenverarbeitung ist strikt von der Auftragsverarbeitung für die Einrichtung zu trennen.

Verbindliche Festlegung vor Go-live:

• Suchthilfeeinrichtung als Verantwortliche für Aufnahme, Behandlung, Dokumentation und

Verwendung der KI-Ergebnisse.

• Redline-Data als Auftragsverarbeiterin für PATFAK, soweit sie nur weisungsgebunden handelt.

• Corti und Azure nur als genehmigte Unterauftragsverarbeiter.

• Getrennte Vereinbarung und eigenes Verzeichnis der Verarbeitungstätigkeiten, falls Redline-Data

eigene Nutzungs- oder Trainingszwecke verfolgt.

• Keine Nutzung von Audio, Rohtranskripten, Zusammenfassungen oder Kodierungen für Training,

Qualitätssicherung oder Produktentwicklung ohne gesonderte Prüfung. Diese Abgrenzung ist zentral: Die Rechtsprechung macht deutlich, dass Gesundheitsdaten einem besonderen Schutzregime unterliegen und eine arbeitsteilige technische Organisation die datenschutzrechtliche Verantwortung nicht beseitigt. „Die Eingabe von Bestelldaten und deren Benutzungzum Zwecke der Ausführung der Bestellung stellt eine Verarbeitung im Sinne von Art. 4 Nr. 1, Art. 9 Abs. 1

DSGVO dar.“ (BGH I ZR 222/19 vom 27-03-2025)

4. Zweck, Erforderlichkeit und Verhältnismäßigkeit

Die zulässigen Zwecke sind abschließend festzulegen:

• zeitnahe, vollständige und lesbare Dokumentation der Behandlung;

• Entlastung des Fachpersonals bei der Dokumentation;

• Unterstützung bei der Strukturierung und Kodierung bereits erhobener Behandlungsinformationen;

• Fehlerreduktion durch fachliche Nachkontrolle der Dokumentation.

Die Verarbeitung ist für aktiv ausgelöste Diktate grundsätzlich geeignet, wenn das Personal alternativ weiterhin manuell dokumentieren kann. Sie ist nur erforderlich, wenn die Eingaben auf den für die Behandlung und Dokumentation notwendigen Inhalt beschränkt werden. Die vollständige Aufzeichnung eines Patientengesprächs ist deutlich eingriffsintensiver als ein Diktat. Sie ist nur verhältnismäßig, wenn ein konkreter dokumentierter Nutzen besteht, etwa die Erstellung einer Behandlungsdokumentation aus einem tatsächlich geführten Gespräch. Eine dauerhafte oder routinemäßige Aufnahme aller Gespräche ist nicht freigegeben. Für die Dokumentation der Behandlung bestehen eigenständige gesetzliche Anforderungen. Die Behandlungsakte ist in unmittelbarem zeitlichem Zusammenhang mit der Behandlung zu führen (§ 630f BGB). Daraus folgt aber keine Erforderlichkeit einer dauerhaften Speicherung der Roh-Audiodatei, sobald ein fachlich überprüfter Dokumentationseintrag erstellt wurde.

5. Rechtsgrundlagen

Für jede Verarbeitung sind eine Rechtsgrundlage nach Art. 6 Abs. 1 DSGVO und eine Ausnahme vom

Verarbeitungsverbot für Gesundheitsdaten nach Art. 9 Abs. 2 DSGVO erforderlich.

Die ausdrückliche Einwilligung muss sich klar auf Aufnahme, Cloud-Verarbeitung, Transkription, Zusammenfassung, Kodierung, Empfängerkategorien, Löschfristen und das Recht zum jederzeitigen Widerruf beziehen. Eine konkludente Einwilligung reicht bei Gesundheitsdaten nicht. „Art. 9 Abs. 2 Buchst.

a DSGVO fordert … eine ausdrückliche Einwilligung. Damit genügt eine konkludente Einwilligung nicht.“ (BGH I ZR 222/19 vom 27-03-2025) Der Widerruf darf die Behandlung nicht beeinträchtigen. Die Suchthilfeeinrichtung muss daher eine gleichwertige Möglichkeit ohne Gesprächsaufzeichnung anbieten. Für bereits rechtmäßig in die Behandlungsakte übernommene, medizinisch erforderliche und dokumentationspflichtige Einträge gilt der Widerruf nicht rückwirkend, soweit deren weitere Aufbewahrung gesetzlich erforderlich ist. Die Weitergabe an IT-Dienstleister muss außerdem die berufs- und strafrechtliche Schweigepflicht berücksichtigen. Die Einbindung der Dienstleister ist so zu gestalten, dass sie als zur Mitwirkung herangezogene Personen nur im erforderlichen Umfang Zugriff erhalten und wirksam zur Vertraulichkeit verpflichtet sind.

6. Datenschutz durch Technikgestaltung

Die DSGVO verlangt datenschutzfreundliche Voreinstellungen und angemessene technische und organisatorische Maßnahmen.

Die vorhandenen Unterlagen zeigen relevante Sicherheitsansätze:

• Hosting in einer regionalen Azure-Umgebung mit mandantenbezogener Datenisolation.

• TLS für die Kommunikation zwischen Client und Azure-Service. (

• Rollenbasierte Zugriffskontrolle, Auditierung der Schlüsselnutzung und Protokollierung.

• Ein Penetrationstest im März 2025 ergab beim Retest keine kritischen oder hohen Befunde, aber

fünf niedrig bewertete Schwachstellen, darunter IDOR-Risiken, unzureichende Eingabevalidierung und fehlende HTTP-Sicherheitsheader. Diese Nachweise reduzieren das Risiko, ersetzen aber weder die eigene Wirksamkeitsprüfung im PATFAK-Produktivkontext noch die unten genannten Maßnahmen.

7. Risikobewertung

Die DSK betont, dass KI-Anwendungen nur für vorab ausdrücklich bestimmte Zwecke eingesetzt werden

sollen und für jeden Verarbeitungsschritt mit personenbezogenen Daten eine Rechtsgrundlage benötigt

wird. (06-05-2024 - Orientierungshilfe der DSK zu Künstlicher Intelligenz und Datenschutz)

8. Zwingende Abhilfemaßnahmen vor Produktivbetrieb

A. Datenminimierung und Löschung

1. Die Aufnahmefunktion ist standardmäßig deaktiviert. Sie darf nur durch bewusstes Handeln des

berechtigten Nutzers je Gespräch aktiviert werden.

2. Sichtbare und akustische Aufnahmeanzeige während der gesamten Aufzeichnung.

3. Roh-Audio darf nur so lange gespeichert werden, wie die Transkription und die fachliche Prüfung

dies tatsächlich verlangen. Regelwert: automatische Löschung nach erfolgreicher Übernahme des

geprüften Texts, spätestens innerhalb von 24 Stunden.

4. Die Speicherung von Audiodaten über 24 Stunden hinaus bedarf einer dokumentierten,einzelfallbezogenen Begründung.

5. Transkriptentwürfe und KI-Outputs, die nicht in die geprüfte Behandlungsdokumentation

übernommen werden, sind automatisiert nach einer kurzen fachlich festgelegten Frist zu löschen.

6. Löschkonzept für Primärsystem, Backups, Fehlerprotokolle, Support-Tickets und temporäre

Speicherbereiche erstellen und testen.

B. Verbot der Zweckausweitung

1. Keine Verwendung von Patientendaten, Stimmen, Transkripten, Zusammenfassungen, Kodierungen

oder Metadaten zum Training, Fine-Tuning, Benchmarking oder zur Produktverbesserung.

2. Ausnahmen nur nach einer eigenständigen Zweck-, Rechtsgrundlagen- und DSFA-Prüfung. Die

Behauptung einer Anonymisierung genügt nicht. Es ist durch ein dokumentiertes

Reidentifikationsrisiko-Konzept nachzuweisen, dass tatsächlich anonyme Daten vorliegen.

3. Die DSK hält Anwendungen, die Ein- und Ausgabedaten nicht zu Trainingszwecken verwenden,

datenschutzrechtlich für vorzugswürdig. (06-05-2024 - Orientierungshilfe der DSK zu Künstlicher

Intelligenz und Datenschutz)

4. Vertragliche Regelung mit Corti und Azure: kein Training, keine eigene Inhaltsanalyse, kein Zugriff

für Support ohne dokumentierte Freigabe, keine Übermittlung außerhalb EU/EWR.

C. Menschliche Kontrolle und Datenqualität

1. KI-Transkripte, Zusammenfassungen und Kodierungen sind im Interface deutlich als „KI-Entwurf,

fachlich ungeprüft“ zu kennzeichnen.

2. Eine automatische Übernahme in die Patientenakte ist technisch auszuschließen.

3. Nur fachlich berechtigte Personen dürfen Outputs freigeben oder ändern.

4. Jede Übernahme, Korrektur und Verwerfung ist revisionssicher zu protokollieren.

5. Es ist ein Verfahren für erkannte systematische Fehler, Bias, Modelländerungen und

Nutzerbeschwerden einzurichten.

6. Die DSK verlangt, Ergebnisse personenbezogener KI-Anwendungen kritisch zu hinterfragen und vor

der Weiterverarbeitung zu überprüfen. (06-05-2024 - Orientierungshilfe der DSK zu Künstlicher

Intelligenz und Datenschutz)

D. Transparenz und Betroffenenrechte

Vor der Verarbeitung erhalten Patientinnen und Patienten eine verständliche Information gemäß Art. 13

DSGVO. Diese muss mindestens enthalten:

• Verantwortliche Stelle und Datenschutzbeauftragte;

• Zweck und Rechtsgrundlage für Diktatfunktion, Gesprächsaufzeichnung und KI-gestützte

Verarbeitung;

• Kategorien der Empfänger und Unterauftragsverarbeiter;

• EU/EWR-Verarbeitungsorte;

• konkrete Löschfristen für Audio, Entwürfe und Dokumentation;

• Hinweis, dass KI-Ergebnisse fachlich überprüft und nicht automatisch entscheidend verwendetwerden;

• Widerrufsrecht für die Einwilligung in Aufzeichnungen;

• Möglichkeit einer Behandlung und Dokumentation ohne Gesprächsaufzeichnung;

• Rechte auf Auskunft, Berichtigung, Löschung, Einschränkung und Beschwerde.

Art. 13 DSGVO verlangt diese Information bei Erhebung der Daten bei der betroffenen Person. (Artikel 13)

Die Prozesse müssen es ermöglichen, unrichtige Inhalte nicht nur in der Patientenakte, sondern auch in

noch vorhandenen Transkripten und KI-Entwürfen zu berichtigen oder zu löschen. (06-05-2024 -

Orientierungshilfe der DSK zu Künstlicher Intelligenz und Datenschutz)

E. Sicherheit und Betrieb

1. MFA für alle administrativen und fachlichen Nutzerkonten.

2. Strikte Rollen mit getrennter Administration, Support und Fachzugriff.

3. Regelmäßige Wirksamkeitsprüfung der Zugriffskontrollen und mindestens jährlicher externer

Penetrationstest.

4. Schließung der im Pentest genannten niedrig bewerteten Befunde vor Produktivbetrieb oder

dokumentierte Risikobehandlung mit verbindlichem Termin.

5. Verschlüsselung während der Übertragung und Speicherung, getrennte Schlüsselverwaltung sowie

dokumentierter Zugang zu Schlüsselmaterial.

6. SIEM- oder gleichwertige Überwachung für ungewöhnliche Zugriffe und Exfiltration.

7. Notfall- und Meldeprozess für Datenschutzverletzungen, einschließlich der 72-Stunden-Prüfung

nach Art. 33 DSGVO.

8. Wiederherstellungstest und manueller Notfallprozess für die Behandlungsdokumentation.

9. Besondere Anforderungen für Beschäftigtendaten

Gesprächsinhalte betreffen auch das Fachpersonal. Die Nutzung darf nicht zu einer verdeckten Leistungs-

oder Verhaltenskontrolle führen.

Die Anwendung ist deshalb so zu konfigurieren, dass:

• Aufzeichnungen und KI-Auswertungen nur der Behandlungsdokumentation dienen;

• keine personenbezogenen Leistungskennzahlen, Rankings oder Qualitätsprofile aus

Gesprächsaufzeichnungen erzeugt werden;

• Zugriffe von Vorgesetzten auf einzelne Gesprächsdaten nur bei einem dokumentierten

Behandlungs- oder Sicherheitsanlass erfolgen;

• bei einer Einrichtung mit Betriebsrat dessen Beteiligungsrechte vor Aktivierung geprüft und

gewahrt werden;

• die Beschäftigten transparent über Verarbeitung, Protokollierung und Aufbewahrung informiert

werden.

10. Bewertung des Restrisikos und Konsultation

Bei vollständiger Umsetzung der Maßnahmen ist das verbleibende Risiko für Diktate sowie für menschlich

geprüfte Zusammenfassungen und Kodierungen als mittel einzustufen und vertretbar.Für Gesprächsaufzeichnungen verbleibt ein erhöhtes Risiko, weil die Aufzeichnung selbst zusätzliche,

besonders intime Informationen erzeugt. Dieses Restrisiko ist nur vertretbar, wenn die Aufnahme freiwillig,

transparent, fallbezogen und technisch begrenzt erfolgt. Eine pauschale Daueraktivierung oder

Aufzeichnung ohne echte Alternative ist nicht vertretbar.

Bleibt nach Umsetzung der Maßnahmen ein hohes Restrisiko, darf die Verarbeitung nicht aufgenommen

werden. Dann ist die zuständige Datenschutzaufsichtsbehörde vorab zu konsultieren. Die DSK formuliert

hierzu: „Ergibt eine DSFA, dass trotz technischer und organisatorischer Maßnahmen zur Risikoeindämmung

weiterhin ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen besteht … muss nach Art. 36

DS-GVO der Verantwortliche die zuständige Aufsichtsbehörde konsultieren.“

11. Freigabevotum

Produktivfreigabe nur unter den folgenden Bedingungen:

1. Rollenmodell und Verträge nach Art. 28 DSGVO sind geprüft und unterzeichnet.

2. Die Suchthilfeeinrichtung ist für die Behandlungsverarbeitung als Verantwortliche dokumentiert,

soweit sie Zweck und Mittel bestimmt.

3. Audioaufzeichnung ist standardmäßig deaktiviert und technisch mit einer kurzen automatischen

Löschfrist versehen.

4. Eine ausdrückliche, getrennte Einwilligung samt Alternative ohne Aufnahme ist produktiv

umgesetzt.

5. Personenbezogene Inputs und Outputs sind technisch und vertraglich vom Modelltraining

ausgeschlossen.

6. KI-Outputs können nur nach dokumentierter menschlicher Prüfung in die Behandlungsakte

übernommen werden.

7. Datenschutzbeauftragte, Informationssicherheit, fachliche Leitung und gegebenenfalls Betriebsrat

haben die finale Konfiguration geprüft.

Mit Erfüllung dieser Bedingungen ist der Einsatz freigegeben.