Which AI Scribe Belongs in the Consultation Room? (Welcher KI-Scribe darf ins Sprechzimmer?)

• Der Sieben-Anforderungen-Entscheidungsrahmen, von der Datenverarbeitung und dem Auftragsverarbeitungsvertrag bis zum Nachweis der Genauigkeit und einem sauberen Ausstieg
• Die Auslassungsanalyse: warum die Auslassung und nicht die Halluzination die vorherrschende Fehlerform ist
• Die KI-Verordnung der EU: die gestufte Zeitachse, die vier Risikokategorien und die Frage, wann ein Scribe „hochriskant" wird
• Die MDR/IVDR (EU-Medizinprodukteverordnungen): die Medizinproduktefrage und der Weg, den eine Herstellerangabe in Gang setzt
• Die DSGVO: die Pflicht zur Datenschutz-Folgenabschätzung, die Artikel 9 und 35 und die Rollenverteilung zwischen verantwortlicher Stelle und Datenschutzbeauftragter
• Das WGBO (niederländisches Behandlungsvertragsgesetz): die Dokumentationspflicht und die zwanzigjährige Aufbewahrungsfrist
• Das Berufsdisziplinarrecht nach Artikel 47 des Wet BIG (niederländisches Heilberufegesetz) und die Frage, wo die Verantwortlichkeit zu liegen kommt
• Die menschliche Aufsicht sowie der Einwilligungs- und Transparenzablauf
• Fälle aus der Praxis: der Lethargie-Fall und „identische Technik, andere Rechtsstellung"
• Die unterschätzten Fallstricke: sekundäre Nutzung von Daten und Automation Bias
• Checklisten und Arbeitsblätter für den Verhandlungstisch
• Häufig gestellte Fragen, Glossar und vollständige Rechenschaft, einschließlich aller 33 Quellen

Einen KI-Scribe zu wählen ist eine Governance-Entscheidung, kein Einkauf. Sie beurteilen einen Ambient Scribe nicht nach der Zeitersparnis, die in der Demonstration alle spüren, und nicht nach der Bedienfreundlichkeit, die ein Vertriebsmitarbeiter Ihnen zeigt. Sie beurteilen ihn nach Governance, danach, was er nachweislich nicht aus der Patientenakte weglässt. Dieser Leitfaden dreht das Einkaufsgespräch deshalb um. Nicht, was dieses Produkt kann, sondern was es Sie kosten kann, wenn es im falschen Moment schweigt. Diese Frage stellen Sie vor der Unterschrift, nicht danach.

Der blinde Fleck liegt in der Asymmetrie des Nachlesens. Sie prüfen, was dasteht, Sie lesen die Notiz noch einmal, Sie korrigieren ein falsches Wort. Aber niemand prüft, was fehlt, denn eine Auslassung hat keinen Platz auf der Seite und zieht keine Aufmerksamkeit auf sich. Die vorherrschende Fehlerform eines KI-Scribes ist nicht die sichtbare Erfindung, es ist die stille Auslassung, und sie tritt erst zutage, wenn Sie nicht mehr zurückschauen können. Dieser Leitfaden macht diesen blinden Fleck sichtbar und gibt Ihnen das Instrument, dieses Schweigen vor der Unterschrift ans Licht zu zwingen.

Was der Leitfaden Ihnen gibt, ist eine vertretbare Entscheidung, keine Garantie. Er verspricht Ihnen keinen fehlerfreien Scribe und nimmt die Risiken der Technologie nicht weg. Er gibt Ihrer Wahl eine tragfähige Grundlage am Vorstandstisch, gegenüber Ihrer Datenschutzbeauftragten und, wenn es darauf ankommt, vor dem Tuchtcollege (niederländisches Berufsdisziplinargericht im Gesundheitswesen), weil Sie sie auf Governance gebaut haben statt auf ein Versprechen. Was das Berufsdisziplinargericht letztlich beurteilt, ist Ihr eigenes Handeln, einschließlich des Nachlesens und Korrigierens der Notiz. Der Leitfaden stärkt die Begründung Ihrer Entscheidung, er ersetzt diese Beurteilung nicht.

• Der Sieben-Anforderungen-Entscheidungsrahmen: das Herzstück des Leitfadens, Ihr Einkaufsinstrument für den Verhandlungstisch. Sieben konkrete Anforderungen, an denen Sie einen Anbieter messen, von der Datenverarbeitung und dem Auftragsverarbeitungsvertrag bis zum Nachweis der Genauigkeit und einem sauberen Ausstieg. Zu jeder Anforderung die Frage, die Sie wörtlich stellen, die Begründung in Gesetz oder Risiko, und wie Sie sie zum Bestandteil des Einkaufs machen. Der Rahmen verschiebt die Beweislast für die Produktaussagen weg von Ihrer Unterschrift, hin zum Anbieter.
• Die Auslassungsanalyse: warum die Auslassung und nicht die Halluzination die gefährlichste Fehlerform ist. Mit den harten Zahlen aus der Untersuchung: Bis zu 76,3 % der Fehler waren Auslassungen, und nur 35,8 % der korrekt berichteten Elemente blieben über alle Plattformen hinweg durchgängig korrekt. Jede Zahl steht mit Quelle im Leitfaden.
• Das rechtliche Spielfeld, praktisch nutzbar gemacht: die KI-Verordnung der EU (AI Act) und die Frage, wann ein Scribe „hochriskant" wird, die MDR/IVDR (EU-Medizinprodukteverordnungen) und die Frage, ob der Scribe ein Medizinprodukt ist, die DSGVO mit der DSFA-Pflicht und den Artikeln 9 und 35, das WGBO (niederländisches Behandlungsvertragsgesetz) mit der Dokumentationspflicht und der zwanzigjährigen Aufbewahrungsfrist, sowie das Berufsdisziplinarrecht nach Artikel 47 des Wet BIG (niederländisches Heilberufegesetz).
• Fünf Abbildungen, die den Stoff ordnen: die gestufte Zeitachse der KI-Verordnung, die vier Risikokategorien, der MDR/IVDR-Weg, die menschliche Aufsicht sowie der Einwilligungs- und Transparenzablauf.
• 33 überprüfbare Quellen: Jede Aussage im Leitfaden stützt sich auf eine von 33 echten, nachverfolgbaren Quellen, [S1] bis [S33]. Keine erfundenen Autoritäten, keine frei schwebenden Zitate.
• Checklisten und Arbeitsblätter: bereit für den Verhandlungstisch, damit Sie den Sieben-Anforderungen-Rahmen unmittelbar an ein Angebot halten können.
• Fälle aus der Praxis: der Lethargie-Fall, in dem eine Plattform den Befund Lethargie wegließ und andere Plattformen nicht, also genau jene Abweichung zwischen Scribes, die den Nachweis der Genauigkeit unverzichtbar macht, und der Fall „identische Technik, andere Rechtsstellung", in dem zwei auf derselben Technik beruhende Produkte je nach Herstellerangabe eine unterschiedliche Rechtsstellung erhalten.
• Die unterschätzten Fallstricke: die sekundäre Nutzung von Daten, also die Weiterverwendung für das Modelltraining oder der Weiterverkauf, und der Automation Bias, die Neigung, einer Ausgabe gerade deshalb zu vertrauen, weil sie aus einem System stammt.
• Nachschlagematerial für die gesamte Entscheidung: häufig gestellte Fragen, ein Glossar und eine vollständige Rechenschaft, damit alle am Tisch dieselbe Sprache sprechen.

Dieser Leitfaden ist für alle, die bei der Einführung eines KI-Scribes mitentscheiden oder Mitverantwortung tragen. Für Vorstände und Praxisinhaberinnen, die das Vertragsdokument unterschreiben. Für Qualitäts- und Datenschutzverantwortliche sowie die Datenschutzbeauftragte, die die Datenschutz-Folgenabschätzung vorbereiten und dazu beraten, denn die Pflicht zur Folgenabschätzung selbst (Artikel 35 DSGVO) liegt bei der verantwortlichen Stelle, während die Datenschutzbeauftragte berät und überwacht. Für Einkäufer und Informationsmanagerinnen, die den Anbieter auswählen und den Auftragsverarbeitungsvertrag prüfen. Und für die behandelnde Person, die die Notiz am Ende unterschreibt: die Ärztin, den Zahnarzt, die Apothekerin, den Gesundheitspsychologen, die Psychotherapeutin, den Physiotherapeuten, die Hebamme, die Pflegefachkraft.

Denn dort liegt die Variable, die niemand delegieren kann. Das Modell schreibt die Notiz, Sie setzen Ihre Unterschrift darunter, und nach Artikel 47 des Wet BIG (niederländisches Heilberufegesetz) bleibt die Verantwortlichkeit bei Ihnen, nicht beim Modell. Ein System kann einen Befund weglassen, aber ein Berufsdisziplinargericht beurteilt kein System, es beurteilt die behandelnde Person, die unterschrieben hat. Dieser Leitfaden sorgt dafür, dass Sie nicht im Dunkeln unterschreiben.

Für deutschsprachige Leserinnen und Leser: Der Leitfaden geht vom niederländischen Gesundheitsrecht aus, das WGBO, das Wet BIG und das niederländische Berufsdisziplinarrecht eingeschlossen. Der europäische Teil, also die KI-Verordnung, die MDR/IVDR und die DSGVO, gilt in allen Mitgliedstaaten. Die berufsrechtlichen Einordnungen beschreiben nicht die Rechtslage in Deutschland.

In diesem Markt ist Unabhängigkeit knapp, und genau darauf ruht dieser Leitfaden: Kein Anbieter hat für eine Aufnahme bezahlt, und jedes Urteil steht unabhängig davon, wer das Produkt verkauft. Die Frage ist, wer über einen Scribe das letzte Wort bekommt, der Vertrieb mit seiner Demonstration oder eine unabhängige Lesart der Belege. Hier ist es das Zweite.

Das Bild, das aus dieser Lesart entsteht, ist eindeutig: Die Aufsichtsbehörden halten ausnahmslos am Vorrang des Menschen vor der Maschine fest. Zugleich verschiebt sich das Spielfeld, das Recht bewegt sich, und die Praxis läuft der Kontrolle voraus. Genau in dieser Bewegung soll eine Entscheidung Bestand haben, die Ihre Akten jahrelang prägt.

Während der Markt vor allem Vorführungen und Versprechen über gesparte Zeit zeigt, macht dieser Leitfaden den fachlichen Konsens nutzbar, ruhig und präzise, sodass Sie auf der Grundlage dessen entscheiden können, was feststeht. Er verlangt keine juristische Ausbildung von Ihnen und liefert Ihnen zugleich die Formulierungen, mit denen Sie einen Anbieter zur Antwort verpflichten.

Alle 33 Quellen sind echt und nachverfolgbar, [S1] bis [S33]. Die Zahlen zu den Fehlerformen stammen aus der Untersuchung und werden mit ihrer Quelle wiedergegeben: Bis zu 76,3 % der Fehler waren Auslassungen, und nur 35,8 % der korrekt berichteten Elemente blieben über alle Plattformen hinweg durchgängig korrekt. Beim Einführungsstand zeigt sich dasselbe Muster: Rund eine von drei Praxen arbeitet inzwischen mit einem Scribe, während das Tempo der Einführung der Validierung und der Aufsicht vorausläuft, und weniger als die Hälfte der behandelnden Personen kennt den Standpunkt der eigenen Berufsorganisation zur Haftung. Die Unterschrift wird gesetzt, lange bevor die Governance steht. Diesen Abstand schließt der Leitfaden. Umfang: 58 Seiten, Ausgabe 2026, fünf Abbildungen, Lieferung als PDF, verfügbar auf Niederländisch und Englisch. Der Preis beträgt 34,95 Euro, einmalig, ohne Abonnement und ohne Beratungshonorare.