Telefon E-Mail Serviceanfrage Suche
 
TELEFON

Rufen Sie uns an unter +49 (0)89 461 487-0

Unsere Service-Hotline +49 (0)89 461 487-222

 
SERVICEANFRAGE

    Generative KI und Natural Language Processing: Chancen und Risiken

    I und Natural Language Processing: Chancen und Risiken

    Es ist nicht übertrieben zu sagen, dass generative künstliche Intelligenz in den vergangenen Monaten sowohl die Aufmerksamkeit der Öffentlichkeit als auch die der Technologiebranche erregt hat. Mittlerweile gibt es generative KI-Tools („GenAI“), die auf Grundlage einfacher Aufforderungen in natürlicher Sprache Texte, Bilder, Codes, Entwürfe, Video- und Audiodaten usw. erzeugen können. Es handelt sich hierbei um eine Art kambrische Explosion von synthetischen oder automatisch generierten Inhalten.

    Bei den Akteuren im Gesundheitswesen werden sowohl auf Seiten der medizinischen Leistungserbringer als auch unter den Industrievertretern große Visionen diskutiert und an neuen Lösungen gearbeitet, die einen echten Mehrwert bieten. Aber auch abseits der großen bekannten Technologie-Anbieter entstehen gerade einige neue innovative Player. Wir dürfen daher gespannt in die Zukunft blicken.

    Lesedauer: 4 min

    Inhaltsverzeichnis

    Die Potenziale für das Gesundheitswesen
    Rechtliche Rahmenbedingungen sind erforderlich!

    Die Potenziale für das Gesundheitswesen

    Generative künstliche Intelligenz wird nicht nur die Diagnostik verbessern, personalisierte Behandlungspläne erstellen und den Prozess der Arzneimittelentwicklung unterstützen. Sie wird vor allem die Akteure (medizinisches Personal und Pflegekräfte) in ihrer täglichen Routine unterstützen und entlasten. „Ambient Voice“, oft auch als „ambient clinical intelligence“ oder „ACI“ bezeichnet, ist ein neuer, auf generativer KI basierender und vielversprechender Lösungsansatz. Erste Prototypen hierzu, die aus einem Arzt-Patienten-Gespräch eine automatisch generierte und strukturierte Dokumentation und Zusammenfassung erstellen, wurden auf der diesjährigen DMEA gleich an mehreren Ständen vorgestellt. Die Systeme weisen automatisch auf noch fehlende relevante Informationen hin und geben evidenzbasierte Handlungsempfehlungen. Für das dokumentationsgeplagte medizinische und pflegerische Personal bedeutet dies ein Segen und einen Mehrwert für die Behandlungsqualität. Damit verbindet sich die Hoffnung, dass die behandelnden Akteure hierdurch mehr Zeit für die Patienten gewinnen. In Anbetracht der Entwicklungen stellt sich natürlich die Frage: Wann kann das klinische Personal gänzlich auf Tastatur und Maus verzichten?

    Rechtliche Rahmenbedingungen sind erforderlich!

    Während die Aussichten auf die Nutzung und die Fähigkeiten dieser neuen Technologien sehr vielversprechend sind, gibt es jedoch auch Risiken und Themen, die wir berücksichtigen sollten. Schon vor dem Aufkommen der generativen KI hat man sich mit den Herausforderungen im Bereich des Natural Language Processing auseinandergesetzt. Neben ethischen Bedenken sind durch die zunehmende Verbreitung von generativer KI weitere Themen hinzugekommen, die eine rechtliche Klarheit und Regulierung erfordern. Vor allem stellt sich die Frage, wo die Verantwortung liegt und wie die Haftung geregelt werden kann, wenn Anwender auf generative KI-Tools zurückgreifen. Für die Einrichtungen des Gesundheitswesens sowie die Hersteller von KI-basierten Lösungen entstehen eine Reihe neuer Aufgaben.

    Ein jüngst bekannt gewordener Fall über einen Chatbot-Error hat gezeigt, dass sich längst nicht alle Betreiber von Generativer KI der damit verbundenen Verantwortung bewusst sind: Artikel im Edmonton Journal über Chatbot-Error

    Auch wenn die Gerichte im o. g. Fall richtig und zu Gunsten des Betroffenen entschieden haben, zeigt dieses Beispiel, dass weitere Regulierungen und rechtliche Rahmenbedingungen erforderlich sind, insbesondere für den Einsatz von generativer KI im Gesundheitswesen.

    Mit dem im Mai dieses Jahres durch die EU-Mitglieder verabschiedeten AI Act ist ein wichtiges Fundament hierfür geschaffen worden. Jetzt gilt es, bei der nationalen Umsetzung in den kommenden Monaten die Innovationskraft kleiner/mittlerer innovativer Unternehmen nicht zu ersticken und zugleich den Schutz des Patienten und die Würde des Menschen im Blick zu behalten.


    Herr Feiler

    Dennis Feiler, Geschäftsführer DFC-SYSTEMS GmbH

    dennis.feiler@dfcsystems.de

    Bildnachweis: Titelbild: © Adobe Stock, Bild 1: © Adobe Stock, Bild 2: © DFC-SYSTEMS