Vitamin Q Folge 1 -  Apothekenentwicklung

Künstliche Intelligenz in der Apotheke – Herausforderung und Chance

Ob Prozessoptimierung oder Kundenbindung: Der Einsatz digitaler Technologien bietet Apotheken eine Vielzahl an Möglichkeiten. Sie prüft Rezepte, gibt Hinweise zu Wechselwirkungen, plant Lagerbestände oder beantwortet Kundenfragen. Apotheken entdecken die KI – Schritt für Schritt, aber tiefgreifend. In einer Umfrage^[1] unter ApothekerInnen schreiben 77 Prozent Künstlicher Intelligenz (KI) das Potenzial zu, die Qualität der Arzneimittelversorgung verbessern zu können. So ist sich auch ein Großteil der befragten Apothekeninhaberinnen und Apothekeninhaber sicher: Ohne den Einsatz digitaler Technologien wird es schwierig, in der Apothekenbranche wettbewerbsfähig zu bleiben (86 %). Der Beitrag zeigt die Chancen und Risiken beim Einsatz von KI in der Apotheke auf und gibt ApothekerInnen einen Handlungsleitfaden an die Hand.

KI nutzende Apotheken müssen ihre Mitarbeiter schulen

Seit Februar 2025 ist die neue EU-Verordnung über Künstliche Intelligenz (KI-VO) in Kraft^[2]. Auch ApothekeninhaberInnen müssen nunmehr die „KI-Kompetenz“ ihrer Mitarbeitenden gewährleisten, indem sie sie zum Thema schulen. Die Schulungspflicht gilt für alle Arbeitgeber, die KI-Systeme entwickeln oder nutzen ‒ unabhängig von der Unternehmensgröße oder Branche. Sie ergibt sich aus Art. 4 KI-VO: „Die Anbieter und Betreiber von KI‑Systemen ergreifen Maßnahmen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI‑Systemen befasst sind, über ein ausreichendes Maß an KI‑Kompetenz verfügen, wobei ihre technischen Kenntnisse, ihre Erfahrung, ihre Ausbildung und Schulung und der Kontext, in dem die KI‑Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI‑Systeme eingesetzt werden sollen, zu berücksichtigen sind.“

Wie die Schulungspflicht konkret aussehen soll, ist nicht geregelt, sie müssen nur ein „ausreichendes Maß an KI-Kompetenz“ sicherstellen. Zwar hat die Regelung in Art. 4 KI-VO eher Appellcharakter, aber unterlassene Schulungen können im Schadensfall haftungsrelevant sein. Nutzen Sie daher die Angebote der einschlägigen Anbieter.

Vom Pilotprojekt zur Routine: Der richtige strategische Ansatz

Der Weg zur KI-Apotheke ist kein Sprint, sondern ein Marathon. Erfolgreiche Apotheken starten am besten mit einem „Proof of Concept“, testen Sie eine kleine Funktion (z. B. die digitale Rezeptprüfung) und erweitern Sie den Einsatz von KI dann schrittweise. Beginnen Sie mit am wenigsten riskanten Modulen (z. B. der Warenwirtschaft), um Erfahrungen zu sammeln, bevor Sie KI in patientenbezogene Prozesse integrieren.

Hier einige Praxisbeispiele für KI in der Apotheke:

• Warenwirtschaft und Bestandsprognose = selbstlernende Systeme optimieren die Lagerverwaltung
• Rezeptprüfung (hochriskant, KI-VO-relevant) = automatische Plausibilitätsprüfung von Rezepten
• Interaktionscheck = KI erkennt Kontraindikationen und schlägt Alternativen vor
• Kunden-Chatbot = KI informiert über Öffnungszeiten der Apotheke, Lieferzeiten und Wechselwirkungen von Arzneien
• Telepharmazie-Unterstützung = KI protokolliert Beratungsgespräche und erstellt Dokumentationen
• Diagnostische Vorprüfung = KI-Bilderkennung bei Haut- oder Wundfragen (nur zulässig unter Aufsicht)
• Marketing-Assistenz = Textvorschläge für Social Media, rechtlich geprüft im Freigabeprozess durch den Verantwortlichen oder externe Expertise
• Schulungs-KI = personalisierte Lernsysteme für Mitarbeiter, z. B. zu Interaktionen oder zu neuen Wirkstoffen

Konkrete Produkte können an dieser Stelle nicht empfohlen werden, denn sie müssen stets mit der jeweils genutzten Apothekensoftware zusammenpassen bzw. mit dem Warenwirtschaftssystem. Hier zwei Beispiele von ADG und CGM sowie ein Beispiel einer Telefonlösung. Achten Sie also immer darauf, dass Ihre KI-Lösungen an die IT-Systeme in Ihrer Apotheke angepasst sind und sprechen Sie mit Ihrem Softwareanbieter.

Der rechtliche Rahmen

Doch mit der Effizienz zieht auch rechtliche Komplexität ein: 

• Wer haftet, wenn ein Chatbot eine falsche Empfehlung gibt? 
• Darf eine KI Gesundheitsdaten verarbeiten?
• Und was sagt die KI-Verordnung zu einem selbstlernenden Beratungssystem im Gesundheitswesen?

Denn die größten Herausforderungen bei der Anwendung von KI in Apotheken sehen die Befragten der eingangs genannten Befragung

• in Haftungsrisiken und unklaren gesetzliche Regelungen (42 % sehen hierin eine sehr große Herausforderung), 
• Bedenken rund um Datenschutz und -sicherheit (38 %) sowie 
• mangelnder Beherrschbarkeit und Transparenz von KI-Technologien (35 %).

Haftungsrecht: Zwischen Algorithmus und Apothekenleitung

Die Haftung bleibt beim Anwender. ApothekerInnen haften zwar nicht dafür, dass eine KI fehlerfrei arbeitet – aber dafür, dass sie sie verantwortungsvoll einsetzen. Wird eine falsche Medikationswarnung ignoriert oder eine ärztliche Verschreibung unzulässig automatisiert korrigiert, drohen zivil- und strafrechtliche Konsequenzen.

Beispiele:

• Automatisierte Rezeptprüfung: Eine KI erkennt fälschlicherweise eine Kontraindikation und lehnt das Rezept ab. Der Apotheker übernimmt diese Entscheidung ungeprüft, sodass der Patient das Medikament zu spät erhält. Hier könnte eine Haftung wegen einer Sorgfaltspflichtverletzung (§§ 276, 823 Bürgerliches Gesetzbuch [BGB]) in Betracht kommen. Diese Ansprüche treffen zunächst den Apotheker direkt. Je nach Einzelfall kann dieser bei Fehlerhaftigkeit der Software Regress beim KI-Anbieter nehmen.
• Bot-Beratung: Ein KI-Chatbot empfiehlt ein rezeptfreies Präparat, das mit einem Dauermedikament interagiert. Wird dies nicht kontrolliert, könnte eine Haftung nach dem Arzneimittelgesetz i. V. m. § 630a Abs. 2 BGB (Behandlungsvertrag) in Betracht kommen. 

Um den hohen Standard menschlicher Fachkenntnisse hervorzuheben und die Grenzen von KI zu definieren, empfiehlt sich in einer Arbeitsanweisung zum Umgang mit KI in der Apotheke folgende Musterformulierung: „KI-Systeme dienen ausschließlich der Entscheidungsunterstützung. Jede Empfehlung muss durch pharmazeutisches Personal geprüft werden. Eine eigenständige Abgabeentscheidung durch KI ist nicht zulässig.“

Datenschutzrecht: Die Achillesferse der KI

Kaum ein Bereich ist sensibler als der Umgang mit Gesundheitsdaten. Gemäß Art. 9 Datenschutz-Grundverordnung (DS-GVO) ist deren Verarbeitung grundsätzlich untersagt, es sei denn, es liegt 

• eine gesetzliche Ausnahme oder
• eine ausdrückliche Einwilligung vor. 

Ein KI-System, das Patientendaten analysiert oder Chatverläufe speichert, benötigt daher:

• Eine Rechtsgrundlage nach Art. 9 Abs. 2h DS-GVO (Gesundheitsversorgung)
• Eine sogenannte Datenschutz-Folgenabschätzung (Art. 35 DS-GVO)
• Ggf. einen Vertrag zur Auftragsverarbeitung (Art. 28 DS-GVO)
• Technisch-organisatorische Maßnahmen (z. B. Verschlüsselung, Pseudonymisierung nach Art. 32 DS-GVO)

Beispiel: Ein Apotheken-Chatbot speichert Gesprächsprotokolle, um seine Antworten zu verbessern. Da diese Protokolle Gesundheitsinformationen enthalten, ist eine Einwilligung mit Transparenzpflicht erforderlich. Es ist daher empfehlenswert, zu Beginn des Chats einen kurzen und klaren Hinweis zu geben, wie z. B.: „Dieser digitale Assistent nutzt KI-Technologie. Ihre Eingaben werden anonymisiert verarbeitet, um unsere Beratung zu verbessern. Bei sensiblen Fragen steht Ihnen jederzeit ein Apotheker persönlich zur Verfügung.“

IT-Recht und Compliance

Auch Softwareverträge zwischen KI-Anbieter und -Nutzer müssen künftig präziser formuliert sein. Hier sollten folgende Punkte beachtet werden:

• Wie steht es um die Verfügbarkeit und den Support der KI?
• Welche Regelungen gelten bei Systemfehlern und Datenverlusten?
• Wer ist für Fehlentscheidungen verantwortlich? Bestehen Regressansprüche?
• Welche Lizenzrechte gelten für die generierten Inhalte?

Apotheken sollten ein KI-Verzeichnis analog zum Verzeichnis von Verarbeitungstätigkeiten gemäß der DS-GVO führen. Dieses sollte folgende Punkte enthalten:

• Die Beschreibung der eingesetzten Systeme
• Der Zweck und die Risikokategorie der eingesetzten Systeme
• Die Verantwortlichkeiten
• Die Prüf- und Update-Zyklen
• Die Nachweise der Lieferantenkonformität

Zudem sollte ein KI-Beauftragter (intern oder extern) benannt werden, der regelmäßig Schulungen, Audits und Datenschutz-Folgenabschätzungen koordiniert bzw. vornimmt.

Beachten Sie: Planen Sie parallel dazu eine Kommunikationskampagne. Transparenz gegenüber Patienten und Mitarbeitern schafft Akzeptanz und Vertrauen.

Fazit: Richtig eingesetzte KI ist eine gute Unterstützung

Die Apotheke der Zukunft wird digital, aber nicht entmenschlicht. KI-Systeme sind keine Ersatzapotheker, sondern präzise Werkzeuge. Wer sie einführen möchte, muss das juristische und organisatorische Fundament sorgfältig legen. Der Apotheker bleibt der verantwortliche Entscheider, doch mit KI an seiner Seite kann er schneller, sicherer und sogar empathischer handeln. Das Motto lautet daher: „Kontrolle behalten, Intelligenz teilen.“