Herr Dr. Gantner, ist der AI Act als weltweit erste gesetzliche Regulierung von KI Ihrer Meinung nach ein Meilenstein und verschafft sich die EU damit eine Vorreiterposition im internationalen Wettbewerb?

Ja, der AI Act der EU kann als Meilenstein angesehen werden und verschafft der EU eine Vorreiterposition im internationalen Wettbewerb in mehreren wichtigen Aspekten:

Der AI Act ist die erste umfassende gesetzliche Regulierung von Künstlicher Intelligenz weltweit. Dadurch setzt die EU einen globalen Standard und zwingt andere Regionen, ähnliche Regelungen zu erwägen, um auf dem europäischen Markt wettbewerbsfähig zu bleiben. Die EU wird damit Regulierungsvorreiter. Durch die Einführung strenger Vorschriften und Transparenzanforderungen zielt der AI Act darauf ab, das Vertrauen in KI-Technologien zu stärken. Dies kann die Akzeptanz und Nutzung von KI in verschiedenen Sektoren fördern, was wiederum Innovationen und wirtschaftliches Wachstum begünstigt. 

Die Fokussierung auf ethische und sicherheitsrelevante Aspekte stellt sicher, dass KI-Systeme die Grundrechte und Freiheiten der Bürger respektieren. Dies könnte als Modell für andere Regionen dienen, die ähnliche Werte teilen. Unternehmen, die sich an die EU-Regulierungen halten, können einen Wettbewerbsvorteil erlangen, da sie ihre Produkte und Dienstleistungen als sicher und vertrauenswürdig kennzeichnen können. Dies könnte auch zu einem Anstieg der Investitionen in europäische KI-Unternehmen führen.

Trotz der strengen Vorschriften gibt es auch Maßnahmen zur Förderung von Innovationen, wie z.B. regulatorische Sandboxes, in denen neue KI-Technologien in einem kontrollierten Umfeld getestet werden können.

Insgesamt positioniert sich die EU durch den AI Act als globaler Vorreiter im Bereich der KI-Regulierung, was sowohl kurzfristige als auch langfristige Vorteile für die europäische Wirtschaft und Gesellschaft bringen kann. Dies könnte andere Länder und Regionen dazu veranlassen, ähnliche Maßnahmen zu ergreifen, um mit der EU auf diesem Gebiet Schritt zu halten. Auch wenn ich eigentlich kein großer Freund von staatlichen Eingriffen bin, denke ich doch, dass klare Regeln in diesem Fall wichtig sind. Es bleibt abzuwarten, wie sie angewendet und interpretiert werden.

Welche Maßnahmen müssen ergriffen werden, um sicherzustellen, dass die verwendeten KI-Systeme im Marketing den Anforderungen des AI Acts entsprechen?

Um sicherzustellen, dass KI-Systeme im Marketing den Anforderungen des AI Acts entsprechen, müssen Unternehmen, also auch Marketingagenturen, mehrere Maßnahmen ergreifen:

KI Systeme müssen klassfiziert werden, um zu bestimmen, ob das verwendete KI-System in die Kategorie "Hohes Risiko", "Begrenztes Risiko" oder "Minimales Risiko" fällt. Für Marketing-KI-Systeme ist meiner Meinung nach in der Regel die Einstufung in "Begrenztes Risiko" wahrscheinlich, aber eine genaue Überprüfung ist in jedem Fall notwendig.

Gegenüber den Endnutzern ist offenzulegen, dass KI-Systeme im Marketing verwendet werden, insbesondere in Interaktionen mit Verbrauchern (z.B. bei der Nutzung von Chatbots oder personalisierter Werbung). Das heißt, Verbraucher müssen informiert werden, wenn sie mit einem KI-System interagieren. Es muss sichergestellt werden, dass Datenschutz und Datensicherheit eingehalten. Das heißt, alle Daten, die für das Training und die Ausführung der KI-Systeme verwendet werden, müssen den Datenschutzanforderungen der DSGVO entsprechen.

Unternehmen müssen Maßnahmen zur Sicherung der Datenintegrität und -vertraulichkeit implementieren und nachweisen. Diskriminierung und Voreingenommenheit, also Bias, müssen vermieden werden. Datensätze und Algorithmen sollten regelmäßig auf Bias und Diskriminierung überprüft und ggf. korrigiert werden. Damit wird sichergestellt, dass die KI-Systeme fair und ethisch arbeiten und keine diskriminierenden Praktiken fördern.

Regelmäßige Audits und Bewertungen der KI-Systeme sind durchzuführen, um ihre Konformität mit dem AI Act sicherzustellen. Das bedeutet, es werden Mechanismen zur Überwachung der Leistung und der Entscheidungsprozesse der KI verlangt. Ferner müssen alle Entscheidungen und Prozesse der KI-Systeme umfassend dokumentiert werden. Nachverfolgbare Aufzeichnungen werden gefordert, um im Falle von Beschwerden oder Untersuchungen klare Informationen bereitzustellen zu können.

Mitarbeiter werden verpflichtend im Umgang mit KI-Systemen und den Anforderungen des AI Acts geschult, ähnlich, wie wir das ja auch aus Compliance Schulungen kennen. Dadurch soll ein Bewusstsein für ethische und rechtliche Aspekte von KI im Unternehmen geschaffen werden. Manchmal werden auch externe Experten hinzugezogen müssen, um die Konformität der KI-Systeme zu überprüfen. Man sollte somit auch Zertifizierungen durch unabhängige Stellen in Betracht ziehen, um die Einhaltung der Vorschriften nachzuweisen.

Durch die Umsetzung dieser Maßnahmen können Unternehmen sicherstellen, dass ihre KI-Systeme im Marketing den Anforderungen des AI Acts entsprechen und gleichzeitig das Vertrauen der Kunden und Verbraucher stärken.

Wie wird die Compliance überprüft?

Die Compliance der KI-Systeme mit dem AI Act wird durch verschiedene Mechanismen und Prozesse überprüft, die sowohl interne als auch externe Kontrollen umfassen. Hier sind die wichtigsten Methoden zur Überprüfung der Einhaltung:

Unternehmen sind verpflichtet, regelmäßige Selbstbewertungen und interne Audits ihrer KI-Systeme durchzuführen. Diese Überprüfungen umfassen die Bewertung der Risikoklassifizierung, die Einhaltung der Transparenz- und Datenschutzanforderungen sowie die Kontrolle auf Diskriminierung und Bias.

Dazu kommt dann noch die Dokumentationspflicht: Unternehmen müssen umfangreiche Dokumentationen über die Entwicklung, den Einsatz und die Überwachung ihrer KI-Systeme führen. Diese Dokumentation sollte alle relevanten Informationen zur Funktionsweise, den Datenquellen, den Algorithmen und den Entscheidungsprozessen der KI-Systeme enthalten.

Wie bei vielen anderen Systemen gitl auch für KI-Systeme, die als hochriskant eingestuft werden, dass externe Konformitätsbewertungen durch unabhängige Prüfinstanzen erforderlich sind, wie externe Überprüfungen und Audits. Diese externen Auditoren überprüfen die Einhaltung der Vorschriften und können Zertifikate ausstellen, die die Konformität bestätigen.

Überwacht wird das von Regulierungsbehörden. Das sind nationale Aufsichtsbehörden und eine zentrale EU-Behörde (European Artificial Intelligence Board), die eingerichtet werden, um die Einhaltung des AI Acts zu überwachen. Diese Behörden haben die Befugnis, Inspektionen durchzuführen, Dokumentationen anzufordern und Unternehmen zu überprüfen.

Außerdem bestehen Meldepflichten und Transparenzanforderungen, die besagen, dass Unternehmen Vorfälle melden müssen, bei denen ihre KI-Systeme zu Schäden oder schwerwiegenden Fehlfunktionen führen. Es gibt spezifische Anforderungen zur Offenlegung von Informationen über die Funktionsweise und die Nutzung der KI-Systeme gegenüber den Aufsichtsbehörden.

Bei Verstößen gegen den AI Act drohen Unternehmen hohe Geldstrafen, die bis zu 6% des weltweiten Jahresumsatzes betragen können. Diese Sanktionen dienen als Anreiz für Unternehmen, die Einhaltung der Vorschriften ernst zu nehmen.

Und schließlich sieht der Act regulatorische Sandboxes vor. Das heißt, Unternehmen können regulatorische Sandboxes nutzen, um neue KI-Technologien in einem kontrollierten Umfeld zu testen. Diese Sandboxes ermöglichen es den Aufsichtsbehörden, neue Technologien zu bewerten und sicherzustellen, dass sie den Vorschriften entsprechen, bevor sie auf den Markt kommen.

Durch diese vielfältigen Überprüfungsmechanismen stellt der AI Act sicher, dass die KI-Systeme der Unternehmen den gesetzlichen Anforderungen entsprechen und gleichzeitig das Vertrauen der Öffentlichkeit in KI-Technologien gestärkt wird. Wir haben leider bei der Einführung der Social Media solche Codices nicht festgeschrieben und sehen nun, wie schwer es ist, mit den unerwünschten Nebenwirkungen umzugehen.

Haben Sie Bedenken, dass die neuen Richtlinien zu einer Verlangsamung der Entwicklung der KI-Technologien in der Pharmabranche führen wird?

Es gibt sowohl Potenziale als auch Herausforderungen, die die neuen Richtlinien des AI Acts für die Entwicklung von KI-Technologien in der Pharmabranche mit sich bringen. Wir haben uns bei den HealthCare Futurists natürlich einige Gedanken dazu gemacht zu möglichen Bedenken und deren Auswirkungen.

Zu den Bedenken gehören der Bürokratischer Aufwand und Kosten: Die Einhaltung der neuen Vorschriften kann erhebliche administrative und finanzielle Ressourcen erfordern. Dies könnte insbesondere kleinere Unternehmen und Start-ups belasten, die möglicherweise nicht über die gleichen Ressourcen wie große Pharmaunternehmen verfügen. Der Aufwand für Dokumentation, interne und externe Audits sowie kontinuierliche Überwachung kann die Entwicklungsgeschwindigkeit neuer Technologien verlangsamen.

Die umfangreichen Konformitätsbewertungen und Zertifizierungen, die für hochriskante KI-Systeme erforderlich sind, könnten zu Verzögerungen bei der Markteinführung neuer Technologien führen. Strenge Anforderungen könnten den Innovationszyklus verlängern und die Wettbewerbsfähigkeit der EU im Vergleich zu weniger regulierten Märkten beeinträchtigen.

Wie immer kann die Einführung neuer Vorschriften anfänglich zu Unsicherheiten führen, da Unternehmen und Aufsichtsbehörden Zeit benötigen, um sich an die neuen Anforderungen anzupassen. Unklare Interpretationen bestimmter Vorschriften könnten zu rechtlichen Unsicherheiten und Verzögerungen bei der Entwicklung und Implementierung von KI-Technologien führen.

Ich sehe aber auch große potentielle Vorteile des Acts:
Ganz oben steht dabei für mich die Förderung von Vertrauen und Akzeptanz: Strenge Vorschriften können das Vertrauen von Patienten, Ärzten und der Öffentlichkeit in KI-Technologien erhöhen, was langfristig die Akzeptanz und Nutzung dieser Technologien fördert. Dabei ist für mich besonders interessant, dass transparente und ethische KI-Systeme auch die Reputation der Pharmabranche stärken und neue Marktchancen eröffnen können.

Außerdem können die Anforderungen des AI Acts können dazu beitragen, die Qualität und Sicherheit von KI-Systemen zu verbessern, was insbesondere in der Pharmabranche von großer Bedeutung ist. Regulatorische Sandboxes bieten Unternehmen die Möglichkeit, Innovationen in einem kontrollierten Umfeld zu testen und weiterzuentwickeln. Das kann durchaus auch zu einer Beschleunigung von Innovation führen, wenn die Regeln einmal feststehen.

Wie auch bei Medizinprodukten, können Unternehmen, die die Vorschriften des AI Acts erfüllen, sich als vertrauenswürdige und verantwortungsbewusste Akteure positionieren. Compliance mit hohen EU-Standards kann auch den Zugang zu internationalen Märkten erleichtern, da ähnliche Vorschriften möglicherweise auch in anderen Regionen eingeführt werden und sich der AI Act als globaler Standard etablieren kann. Etwa als etwas, das das Siegel „Made in EU“ oder „Made by EU Standards“ trägt.

Während also der AI Act zu einer Verlangsamung der Entwicklung von KI-Technologien in der Pharmabranche führen könnte, bieten die Vorschriften auch Chancen zur Verbesserung der Qualität und Sicherheit sowie zur Steigerung des Vertrauens in diese Technologien. Unternehmen müssen sich auf die neuen Anforderungen einstellen und Strategien entwickeln, um die Compliance effizient zu managen und gleichzeitig Innovationen voranzutreiben. Langfristig könnten die Vorteile die anfänglichen Herausforderungen überwiegen, insbesondere wenn regulatorische Unsicherheiten geklärt und Prozesse optimiert werden.

Ein Trend im Pharmamarketing heißt Personalisierung. Wird es zukünftig ein Problem, an die notwendigen Daten heranzukommen bzw. diese zu verarbeiten?

Die Personalisierung im Pharmamarketing ist ein bedeutender Trend, der ja insbesondere durch den Einsatz von KI-Technologien und datengetriebenen Ansätzen ermöglicht wird. Mit den neuen Vorschriften des AI Acts und der Datenschutz-Grundverordnung (DSGVO) könnten jedoch einige Herausforderungen auftreten, die den Zugang zu den notwendigen Daten und deren Verarbeitung betreffen. Das könnte zu Wettbewerbsverwerfungen führen.

Dabei sehe ich insbesondere das Primat des Datenschutzes und der Compliance. Die DSGVO stellt strenge Anforderungen an die Erhebung, Verarbeitung und Speicherung personenbezogener Daten. Dies betrifft insbesondere sensible Gesundheitsdaten, die für personalisierte Marketingkampagnen benötigt werden. Unternehmen müssen also sicherstellen, dass sie die Zustimmung der Betroffenen für die Verarbeitung ihrer Daten einholen und dass diese Daten sicher und transparent verarbeitet werden. Das könnte bei multiple Use Datensätzen schwierig werden, aber genau dahin wird uns die Kombination aus KI und Wissenschaft ja bringen: Wir werden neue Fragestellungen aufwerfen, da wir Muster erkennen, die bislang unbekannt waren. In diesem Zusammenhang wird es wichtig, die Daten wiederholt nutzen zu können.

Und wenn wir schon bei Daten sind: Der Zugang zu qualitativ hochwertigen und umfangreichen Daten kann eingeschränkt sein, da Patienten und Verbraucher möglicherweise zurückhaltender sind, ihre Daten zu teilen, insbesondere wenn sie Bedenken hinsichtlich des Datenschutzes haben.

Es könnte schwieriger sein, ausreichende Datenmengen zu sammeln, um effektive personalisierte Marketingstrategien zu entwickeln.

Und natürlich haben wir auch regulatorische Hürden, denn die Einhaltung der Vorschriften des AI Acts erfordert umfangreiche Dokumentationen und Konformitätsbewertungen, die den Einsatz von KI zur Datenanalyse und -verarbeitung verlangsamen könnten. Unternehmen müssen sicherstellen, dass ihre KI-Systeme transparent und frei von Bias sind, was zusätzliche technische und administrative Ressourcen erfordert.

Aber ich sehe das als evolutionäre Prozesse. Wo es Herausforderungen gibt, sind wir angehalten durch menschliche Kreativität neue Lösungeswege zu finden. Wichtig wird sein, dass der AI Act nicht zu einer Erstarrung führt, sondern immer wieder auch der Realitätsscheck durchgeführt wird. Positiv sind für ich daher Themen wie Transparenz und Aufklärung. Denn durch transparente Kommunikation und Aufklärung der Patienten und Verbraucher über die Verwendung ihrer Daten und die Vorteile personalisierter Ansätze kann das Vertrauen gestärkt werden. Unternehmen sollten klare Datenschutzrichtlinien implementieren und sicherstellen, dass die Einwilligung der Betroffenen auf informierter Basis erfolgt.

Dazu kommt der kluge Einsatz technologischer Maßnahmen, z. B. die Anonymisierung und Pseudonymisierung von Daten. Das kann dazu beitragen, den Datenschutz zu gewährleisten und gleichzeitig nützliche Informationen für personalisierte Marketingkampagnen zu gewinnen.

Datenschutzfreundliche Technologien (Privacy-Enhancing Technologies, PETs) können eingesetzt werden, um den Schutz personenbezogener Daten zu gewährleisten.

Es wird zu neuen Kooperation und Partnerschaften kommen, denn die Zusammenarbeit mit vertrauenswürdigen Partnern und Institutionen, wie Gesundheitsdienstleistern und Forschungseinrichtungen, kann den Zugang zu hochwertigen Daten erleichtern. Brancheninitiativen und Konsortien könnten gemeinsame Standards und Best Practices entwickeln, um den Datenschutz zu gewährleisten und gleichzeitig die Datenverfügbarkeit zu verbessern.

Und für ganz besonders wichtig halte ich die vorher schon erwähnten regulatorischen Sandboxes. Die Nutzung von regulatorischen Sandboxes, die vom AI Act vorgesehen sind, um innovative Ansätze zur Datennutzung und -verarbeitung in einem kontrollierten Umfeld zu testen und weiterzuentwickeln. Diese Sandboxes können dazu beitragen, regulatorische Unsicherheiten zu klären und die Effizienz von Compliance-Prozessen zu verbessern.

Während also die neuen Vorschriften des AI Acts und der DSGVO Herausforderungen beim Zugang zu und der Verarbeitung von Daten für personalisiertes Pharmamarketing darstellen, bieten sie auch Chancen zur Verbesserung des Datenschutzes und zur Stärkung des Vertrauens der Verbraucher. Unternehmen im Pharma Marketing müssen proaktive Strategien entwickeln, um diese Herausforderungen zu bewältigen und gleichzeitig innovative und datengesteuerte Marketingansätze zu fördern. Dazu arbeite wir bereits an individuellen Lösungen. Langfristig könnten diese Maßnahmen zu nachhaltigeren und vertrauenswürdigen Marketingpraktiken führen und Geschäftsprozesse in Unternehmen und Interaktionsprozesse mit Kunden auf ganz andere Beine stellen.

Werden sich Arbeits- und Entscheidungsprozesse von Mediziner:innen so wandeln, dass KI eine ernstzunehmende Konkurrenz im Pharma-Marketing wird? Welche Möglichkeiten bieten sich Pharma-Marketeers hierauf zu reagieren?

Ja, es ist sehr wahrscheinlich, dass sich Arbeits- und Entscheidungsprozesse von Mediziner:innen durch den Einsatz von KI in der Pharmazie und im Pharma-Marketing erheblich wandeln werden. KI kann zur Analyse großer Datenmengen, zur Identifizierung von Trends und zur Personalisierung von Behandlungs- und Marketingstrategien beitragen. Wir haben bei den HealthCare Futurists bereits einige Mögl