Von der Forschung in die Praxis

Sie forschen zu KI in Bielefeld: Prof.’in Dr. Britta Wrede an der Universität Bielefeld und Prof. Dr.-Ing. Hans Brandt-Pook an der Hochschule Bielefeld. Wir haben mit ihnen über die möglichen gesellschaftlichen Auswirkungen und über gezielte Anwendungen von KI für Unternehmen gesprochen.

Wie wirkt sich eine stärkere Nutzung von KI-Anwendungen auf die Gesellschaft aus? 

Hans Brandt-Pook: Was die Nutzung von KI-Anwendungen betrifft, stehen wir noch ganz am Anfang. Das ist kein Hype, der wieder verschwindet. KI wird die Welt verändern, so wie das Internet die Welt verändert hat: Heute verreisen wir anders als vor 30 Jahren: Wir suchen unser Ziel online aus, schauen uns Bilder an, buchen Unterkünfte im Netz und bei der Anreise vertrauen wir dem Navigationssystem unseres Smartphones. Wie wir in den 1990er-Jahren nicht ahnen konnten, welche gravierenden Veränderungen das Internet uns gebracht hat, so wissen wir heute nicht, was KI uns künftig bietet. Das gilt auch für die Arbeitswelt. Schon jetzt übersetzt KI Texte oder fasst sie zusammen. Es werden sich im Laufe der Zeit sehr, sehr viele neue Use Cases ergeben. 

Britta Wrede: Die Auswirkungen sind noch gar nicht absehbar. Im positiven Szenario dürften die Kompetenzen des Menschen durch die Nutzung von KI zunehmen. Vor allem, wenn es um die Entscheidungsunterstützung geht. Das EU-Gesetz zur Künstlichen Intelligenz – der Artificial Intelligence Act (AI Act) – sieht vor, dass man nachvollziehen kann, wie die KI bzw. mit welchen Klassifikationen sie zu einem Ergebnis gekommen ist. Das heißt, die Verordnung macht die Erklärbarkeit zu einer verpflichtenden Eigenschaft von KI-Modellen. Und das ist gut so. Denn fehlende Transparenz und Erklärbarkeit können dazu führen, dass Fehler unerkannt bleiben. Ein Beispiel: Eine Bank wird bei der Kreditvergabe durch KI unterstützt. Diese berechnet die Rückzahlungsfähigkeit aus den der Bank vorliegenden Angaben und entscheidet aufgrund des monatlichen Einkommens, des jeweiligen PLZ-Gebiets oder des Geschlechts über die Kreditvergabe. Allerdings können automatische Entscheidungssysteme, die auf maschinellem Lernen basieren, einen sogenannten „Bias“ enthalten und führen durch Vorurteile bzw. Verzerrungen unter Umständen zu falschen oder ungerechten Bewertungen. Zu wissen, welche Faktoren eine Rolle spielen, ist mit Blick auf das Thema Fairness wichtig.

Welche Chancen bzw. Einsatzmöglichkeiten bietet KI?

Britta Wrede: KI birgt viele Chancen. Sie ermöglicht eine größere Produktivität zum Beispiel bei Routineaufgaben, aber auch Autonomie, wenn die KI den Menschen darin unterstützt, mehr zu können als ohne. So könnte KI bestimmte Defizite zum Beispiel bei der Kommunikation von Menschen mit körperlichen, aber auch mit kognitiven Beeinträchtigungen ausgleichen. Das wäre ein echter Lichtblick. Entscheidend ist es jedoch, KI in die richtige Richtung zu entwickeln. 

Hans Brandt-Pook: KI eignet sich beispielsweise gut, einfache Fragen im Kundenkontakt zu beantworten. Ein Anwendungsfall aus der Praxis: Ein Softwarehaus bekommt sehr viele Fragen zu seiner Software, wie man sich einloggt oder wo die Kundennummer zu finden ist. Diese Prozesse können automatisiert werden, um den Kundendienst zu entlasten, der somit mehr Zeit für kompliziertere Fragen hat. Ein aktuelles Feld ist der Einsatz von KI, um Handlungsanweisungen zu visualisieren. Bei Wartungen von Maschinen gibt es oft ellenlange Texte, die Ingenieure formuliert haben. Der Mensch, der die Arbeiten ausführt, ist aber kein Muttersprachler. Wir haben für diesen Use Case einen Prototypen gebaut und dabei mit der Visualisierung von Kochrezepten begonnen. Auch die Darstellung paralleler Arbeitsschritte hat gut funktioniert. Für den Bereich Prozessoptimierung ist es ein Gewinn, wenn Aufgeschriebenes visualisiert werden kann. Maschinen sind zwar anders als Kochrezepte, aber wir sind auf dem Weg (lacht). 

Welche Risiken sehen Sie? 

Britta Wrede: Die Risiken werden viel diskutiert. Vor allem, wenn es um generative KI geht, die Texte oder Bilder produzieren kann. Die Gefahr einer nicht eindämmbaren Desinformation ist gegeben. Und natürlich kann KI Menschen in einigen Berufen ersetzen, zu Abhängigkeiten führen und den Verlust von Autonomie nach sich ziehen, wenn man sie falsch einsetzt. 

Hans Brandt-Pook: Wir als Gesellschaft müssen lernen, mit KI umzugehen. Es wird immer schwieriger, Fake News oder Deep Fakes zu erkennen. Wenn wir ein Bild sehen, müssen wir uns fragen: Ist das real? Ist ein Text KI-gestützt oder sogar KI-autonom generiert worden? Wir müssen Regelungen finden, die pragmatisch umgesetzt werden können und uns zugleich die nötige Sicherheit geben. Viele Ängste sind mit der Vorstellung von einer starken KI verbunden – das wäre eine computergenerierte Supermacht, die autonom Entscheidungen trifft und universell einsetzbar ist. Davon sind wir weit entfernt. Wir sprechen von einer schwachen KI, deren Einsatzmöglichkeiten sich auf ein Gebiet beschränken. Das heißt, die KI kann ein Bild generieren, aber nicht automatisiert meine Steuererklärung machen. 

Britta Wrede: KI muss durch den Menschen korrigierbar sein. Wir erforschen im Sonderforschungsbereich/Transregio TRR 318 „Constructing Explainability“, der von den Universitäten Paderborn und Bielefeld getragen wird, wie Menschen erklären und wie KI im Kontext von XAI (Explainable Artificial Intelligence) erklären kann. Das Ziel des Projektes ist es, Erklärprozesse verständlich zu gestalten und verstehbare Assistenzsysteme zu schaffen. Für das Beispiel der Kreditvergabe könnte dies dann bedeuten, dass mithilfe von XAI herausgefunden werden kann, dass die KI die Entscheidung zum Beispiel auf die PLZ stützt. Ein solches Kriterium würde auf einen Bias der KI hindeuten, der dann optimalerweise durch den Menschen korrigiert werden können sollte. 

Hans Brandt-Pook: Die Bereiche, in denen KI selbsttätig Entscheidungen trifft, gilt es genau zu beobachten. Insbesondere, wenn es um Lebensbereiche geht, die prägend sind. Ich denke dabei an automatisierte Rekrutierungsprozesse, wenn eine KI entscheidet, wer zum Bewerbungsgespräch eingeladen wird. Wir müssen uns darüber bewusst sein, dass datengetriebene Entscheidungen die Kreativität begrenzen können. Diese Begrenzungen beginnen bereits damit, welche Nachrichten unser Smartphone anzeigt. 

Welche Bedeutung hat KI für den Mittelstand?

Hans Brandt-Pook: Der Mittelstand hat weder Zeit noch Budget oder die Kompetenz, um im ersten Schritt ein großes KI-Projekt auszurollen und ausführlich zu testen. Mittelständler gehen die Thematik Step by Step an. Sie sind Anwender, keine Entwickler. Unternehmen können generische Lösungen nutzen, zum Beispiel ChatGPT. Mitarbeitende haben den Bot vielleicht schon ausprobiert und möchten diese Technologie auch bei der Arbeit nutzen. Aber es wäre gefährlich, wenn dafür private Accounts genutzt und unter Um-ständen Betriebsinformationen unbedacht weitergegeben würden. Unternehmen brauchen Lösungen, die informations- und datensicher und darüber hinaus nutzerfreundlich sind. Eine andere Möglichkeit sind individuelle Lösungen für interne Prozesse. Hierzu „verheiratet“ man Sprachmodelle mit dem Unternehmenswortschatz und Unternehmenswissen in einem „geschlossenen System“. Die Königsdisziplin beginnt, wenn es um die Integration von KI in Produkten und Dienstleistungen des Unternehmens geht, wenn beispielsweise ein Hersteller von Buchhaltungssoftware sein Produkt in die Lage versetzt, Rechnungen automatisch zu kontieren und eine händische Zuordnung der Kostenstelle entfällt. 

… und an welche Möglichkeiten denken Sie?

Britta Wrede: Da fallen mir sofort Klassiker wie Predictive Mainten-ance ein, um im Vorfeld, bevor die Maschine zum Stillstand kommt und defekt ist, präventiv Informationen zu erhalten. Die automatisierte Kommunikation via Chatbots gehört dazu. Da passiert gerade viel. Vor allem, wenn es darum geht, Routinearbeiten oder Prozessabläufe automatisiert zu steuern und zu optimieren. Auch die Unterstützung manueller Produktionsprozesse ist durch intelligente Assistenzsysteme interessant, wenn es um hoch individualisierte Produkte mit einer Losgröße 1 geht – also von ganz kleinen Stückzahlen, für die keine automatisierte Fertigungsstraße in Frage kommt. Doch vor der Automatisierung kommt die Digitalisierung, die in vielen Gebieten und insbesondere auch im Gesundheitssektor noch nicht so weit fortgeschritten ist.

Frau Prof. Wrede, Sie forschen zu medizinischen Assistenz-systemen. Welche konkreten Möglichkeiten eröffnen sich für KI-Anwendungen?

Britta Wrede: Die Möglichkeiten für KI in Diagnostik, Therapie, Rehabilitation und Prävention sind enorm. Wir forschen aktuell auf dem Gebiet Therapie und Dia-gnostik. In Kooperation mit der Kinder- und Jugendpsychiatrischen Klinik in Bethel haben wir ein Trainingssystem für Kinder und Jugendliche mit ADHS entwickelt, die schnell unkonzentriert sind.
Sie müssen Matheaufgaben am PC lösen und wir sehen, wann sie abgelenkt sind. Es gibt dann ein direktes Feedback – der Trainingseffekt ist extrem gut. Das Prinzip, die Konzentrationsfähigkeit zu schulen, lässt sich auf viele andere Bereiche übertragen. Ein Transfer in die Werkstätten für Menschen mit Behinderungen von Pro Werk startet jetzt. 

Wie sieht es bei Ihnen aus, Herr Brandt-Pook? Die Arbeitsgruppe Angewandte KI im Fachbereich Wirtschaft der HSBI verfolgt
das Ziel, neueste Methoden und Techniken im Kontext der Künstlichen Intelligenz für die Praxis zugänglich zu machen.

Hans Brandt-Pook: Wir haben in einem Projekt mit einem Ingenieurbüro, das Onlinehändler im Bereich Verpackungen berät, zusammengearbeitet. Es sollten automatisiert Vorhersagen getroffen werden, ob Verpackungen für bestimmte Produkte zu Reklamationen führen. Bei der Lösung bewegen wir uns im Dreieck Produktschutz, Kosten und Materialverbrauch. Kategorien, die ein- ander widersprechen können. Es gilt, das Optimum zu finden, um – auch im Sinne der Nachhaltigkeit – nicht zu viel Material zu verschwenden. 

Mit welchen Projekten sind Sie künftig befasst?

Hans Brandt-Pook: Zusammen mit dem Unternehmen c-trace und der Smart Recycling Factory im Kreis Minden-Lübbecke wollen wir mithilfe einer Bildanalyse herausfinden, wie viel Prozent Plastik in dem Biomüll enthalten ist, den die Müllfahrzeuge anliefern. Es gibt einen bestimmten vorgeschriebenen Prozentsatz, der nicht überschritten werden darf. Bislang wurde die Menge von einem Mitarbeitenden geschätzt. Ein spannendes Projekt, das uns die nächsten zwei Jahre begleiten wird. 

Britta Wrede: Wir beschäftigen uns mit EKG-Daten, um ein Vorhofflimmern vorhersagen zu können, das nicht kontinuierlich auftritt. Bisher kann man das kaum detektieren. In unserem Forschungsprojekt soll die KI auf dem Sinusrhythmus erkennen, wenn das Herz doch etwas anders schlägt als sonst. Mittels Explainable Artificial Intelligence (XAI) wollen wir Erklärungen finden. Denn bisher kann die KI dies nicht erklären. Wir wollen die Merkmale für die Erklärbarkeit generieren. Auch um herauszufinden, ob Mediziner dies dann ebenfalls erkennen könnten. Denn ein EKG basiert ja auf bestimmten physiologischen Voraussetzungen des Herzens.