Nicht die Branche allein entscheidet über das Risiko
Ein KI-System wird nicht allein deshalb zum Hochrisiko-System, weil es in einer Apotheke oder einem Healthcare-Unternehmen läuft. Entscheidend sind vorgesehener Zweck, Funktion und die Rolle des Unternehmens. Ein Tool zur internen Textformatierung ist anders zu bewerten als Software, die eine medizinische Entscheidung beeinflusst.
Deshalb schreiben wir die Zweckbestimmung früh auf und gleichen sie mit Oberfläche, Marketing und tatsächlicher Nutzung ab. Ein System darf nicht als rein administrativ beschrieben werden, wenn es praktisch individuelle Behandlungsempfehlungen erzeugt.
Vier Fragen für jeden KI-Use-Case
Eine frühe Einordnung verhindert, dass ein Pilot unbemerkt in einen sensibleren Zweck wächst. Sie ersetzt keine Rechtsberatung, schafft aber die nötige Entscheidungsgrundlage.
- Welche Rolle haben wir: Anbieter, Betreiber oder Integrator?
- Welche Entscheidung oder Handlung beeinflusst das System?
- Welche Personen und Grundrechte können betroffen sein?
- Welche Aufsicht, Dokumentation und KI-Kompetenz sind erforderlich?
Regulierung als laufender Betriebsbestandteil
Der AI Act wird stufenweise anwendbar. Unternehmen sollten deshalb Verantwortlichkeiten, Inventar, Schulung und Beschaffung nicht bis zum letzten Termin aufschieben. Auch Modell- oder Zweckänderungen müssen beobachtet werden.
Apothekenagenten setzt technische und organisatorische Guardrails um, ersetzt aber keine individuelle Rechtsberatung. Bei Grenzfällen – insbesondere medizinischer Zweckbestimmung – beziehen wir spezialisierte Expertise ein oder begrenzen den Use Case konsequent auf administrative Funktionen.