Bild mit der Aufschrift KI

#GemeinsamGegenBetrug: Einsatz von KI mit Verantwortung

Künstliche Intelligenz kann große Datenmengen in Echtzeit analysieren – ein großer Vorteil in einer digitalisierten Welt. Die Erklärbarkeit und Nachvollziehbarkeit von Machine-Learning-Verfahren spielen dabei für die SCHUFA eine zentrale Rolle. Ein Gespräch mit Prof. Dr. Gjergji Kasneci, Chief Technologie Officer und Bereichsleiter Innovation und strategische Analyse bei der SCHUFA Holding AG, über die Chancen und Herausforderungen von Künstlicher Intelligenz.

Portrait von Dr. Gjergji Kasneci

Prof. Dr. Gjergji Kasneci,

Chief Technologie Officer und Bereichsleiter Innovation und strategische Analyse, SCHUFA Holding AG

Was bedeutet Künstliche Intelligenz für die SCHUFA?

Als führender Lösungsanbieter von Auskunftei- und Informationsdienstleistungen tritt neben die klassische Bonitäts- und Identitätsprüfung für die SCHUFA zunehmend ein weiteres Ziel, nämlich Unternehmen und Verbraucher wirksam bei Identitätsschutz, Betrugsabwehr sowie Compliance zu unterstützen. Digitale Kundenschnittstellen und die höhere Anonymität in der Online-Welt machen eine automatisierte Echtzeit-Analyse, -Überprüfung und -Absicherung von Informationen unabdingbar. Gerade dafür ist der Einsatz moderner datenzentrierter und echtzeitfähiger Technologien entscheidend. Neben Expertensystemen und einfachen statistischen Methoden werden daher bei der SCHUFA zunehmend auch moderne Verfahren des maschinellen Lernens angewandt.

Setzt die SCHUFA bereits Künstliche Intelligenz ein?

Aktuell spielt Künstliche Intelligenz für uns insbesondere bei der Feststellung der Identität und bei der Betrugsprävention eine immer wichtigere Rolle.

Darüber hinaus nutzt die SCHUFA Künstliche Intelligenz auch zur internen Prozessoptimierung und zur Qualitätssicherung, zum Beispiel zur noch schnelleren Informationsaufbereitung und genaueren Zuordnung von Informationen im SCHUFA-Datenbestand. Durch maschinelles Lernen können auch in komplexen Fällen Zuordnungen im Datenbestand in einer Qualität und Geschwindigkeit getroffen werden, wie sie einem Menschen niemals möglich wären. Unsere Mitarbeiter werden entlastet und unsere Unternehmenskunden profitieren von noch schnelleren Auskünften – und das rund um die Uhr.

Können Sie für den Einsatz von Künstlicher Intelligenz zur Betrugsprävention ein konkretes Beispiel geben?

Zum Zwecke der Betrugsprävention hat die SCHUFA gemeinsam mit führenden E-Commerce-Unternehmen in Deutschland eine echtzeitfähige Lösung zur Betrugserkennung und -vermeidung erarbeitet und zur Marktreife gebracht, den SCHUFA-FraudPreCheck (FPC). Der FPC unterstützt Online-Händler dabei, ihre Bestellstrecken besser abzusichern, wodurch auch Verbraucher vor dem Missbrauch ihrer Identität geschützt werden.

Das dem FPC zugrundeliegende Boosting-Verfahren ist in der Lage, innerhalb von Millisekunden den Unterschied zwischen einer ‚sicheren‘ und einer nach bekannten Betrugsmustern als ‚auffällig‘ zu bewertenden Anfrage zu erkennen. Dies wäre einem Menschen weder innerhalb der benötigten Zeit noch in der geforderten Qualität und Güte möglich.

Sie sprechen von Betrugsmustern; wie entstehen solche Muster?

Betrüger machen sich die Anonymität und die hohe Convenience, die digitalisierten Prozessen innewohnt, zunutze, um sich zum Beispiel eine gefälschte oder gestohlene Identität zuzulegen oder Adressinformationen zu manipulieren. Ein solches betrügerisches Verhalten ist über viele Geschäftstransaktionen hinweg verteilt und folgt komplexen und raffinierten Mustern, so dass selbst geschulte Experten algorithmische Unterstützung benötigen, um auffällige Datenkonstellationen so zu durchdringen, dass Betrug erkannt werden kann.

Wo sehen Sie aus Sicht der SCHUFA die größten Vorteile und Chancen von KI?

Ein großer Vorteil von KI ist die Analyse von extrem großen Datenmengen in Echtzeit. Im Rahmen der Digitalisierung werden immer mehr Geschäftstransaktionen (zum Beispiel Kreditanfragen) in die Online-Welt verlagert. Um das gegenseitige Vertrauen der Geschäftspartner herzustellen, sind oft hochqualitative Echtzeitanalysen zur Identifikation, Bonität und Betrugsprävention notwendig. Das führt zu fortlaufenden Aktualisierungen der Datenbanken, die sehr effizient, in höchster Qualität, unter höchsten IT-Sicherheitsstandards und auf einer 24/7-Basis durchgeführt werden müssen. Es kommt durchaus vor, dass die SCHUFA an manchen Tagen bis zu eine Million Transaktionen für ihre über 9.500 Geschäftspartner absichert. An solchen Tagen werden bis zu 500.000 Aktualisierungen in unseren Datenbanken durchgeführt. Um diese Herausforderungen zu meistern, kombinieren wir bei der SCHUFA bewährte Verfahren der künstlichen Intelligenz mit langjährigem Expertenwissen. Also ist die Möglichkeit, unseren Kundenwünschen auch zukünftig in skalierbarer und effizienter Form gerecht zu werden, der größte Vorteil von KI.

Sie haben viele Vorteile von KI geschildert. Warum setzt es die SCHUFA nicht schon längst viel breiter ein?

Lösungen, die auf maschinellem Lernen basieren, sind nicht für jeden Anwendungsfall und jede Kundengruppe oder jede Branche geeignet. Immer dann, wenn die geforderte Qualität durch einfachere Verfahren gewährleistet werden kann, sollte man sich in der Tat für die einfacheren Lösungen entscheiden. Dies ist ein altbekanntes und bewährtes Prinzip, das in der Philosophie und Wissenstheorie unter dem Namen „Ockhams Rasiermesser“ bekannt ist.

Wo sehen Sie aus Sicht der SCHUFA mögliche Risiken von KI?

Es gilt, ethische Fragestellungen hinsichtlich Fairness, Unvoreingenommenheit und Nachvollziehbarkeit analytischer Systeme und ihrer gesellschaftlichen Relevanz nicht aus den Augen zu verlieren.

Ihre Systeme werden anhand manueller Entscheidungen trainiert. Wie stellen Sie sicher, dass den Maschinen hier kein menschliches Bias antrainiert wird?

Unsere Experten, anhand deren manuellen Entscheidungen die maschinellen Verfahren trainiert werden, bringen eine langjährige und breitgefächerte Expertise mit und decken unterschiedliche Aspekte ab. Das heißt, selbst wenn ein Experte bestimmte Datenkonstellationen übersehen sollte, können andere Experten diese Konstellationen erkennen und im gegebenen Fall korrekt entscheiden. Eine statistische Aggregation der Expertenentscheidungen sorgt dafür, dass wir die Korrektheit einer Entscheidung genau quantifizieren können. So kann weitestgehend ausgeschlossen werden, dass Maschinen das Bias einer Person übernehmen.

Außerdem setzen wir bei der Modellentwicklung statistische Verfahren ein, die eine detaillierte Analyse der Datenverteilung und eine frühzeitige Erkennung von Ausreißern ermöglichen. Auch die verwendeten Vorhersageverfahren (z.B. Ensemble- oder Boosting-Verfahren) basieren auf einer Reihe von Prädiktoren, wobei jeder von ihnen unterschiedliche Aspekte der Daten abdeckt und somit die Fehler anderer Prädiktoren eliminieren kann.

Wie stellen Sie sicher, dass sich KI nicht „verselbstständigt“?

Wie ich eben geschildert habe, gilt bei der SCHUFA in Bezug auf KI das Prinzip „Mensch und Maschine“. Wir verzichten auf sogenannte selbstlernende Systeme. Unsere Experten stellen durch regelmäßige Überprüfungen und manuelle Evaluationen, das heißt durch eine kontinuierliche Überwachung, bestmögliche Ergebnisse sicher. So sind wir jederzeit in der Lage, die Systeme zu rekalibrieren und behalten stets die Kontrolle.

Wie können Sie die Entscheidungen, die mittels KI getroffen werden, erklären?

Die Erklärbarkeit und Nachvollziehbarkeit von Machine-Learning-Verfahren spielen für die SCHUFA bei der Entwicklung und Anwendung eine zentrale Rolle. Wir haben sowohl für neuronale Netze als auch für Boosting- und andere Ensemble-Verfahren an Erklärbarkeitsmechanismen geforscht und unsere Ergebnisse bei renommierten internationalen Konferenzen vorgestellt. Wir stehen bei diesem Thema keineswegs alleine da, sondern arbeiten mit anderen hochkarätigen Forschungsgruppen gemeinsam, um bestmögliche Ergebnisse zu erzielen. Auch bei den Themen „Unvoreingenommenheit von KI-Systemen“ und „Fair Analytics“ arbeitet die SCHUFA mit erstklassigen Forschungsinstituten zusammen. Ein gutes Beispiel ist das im Rahmen von Horizon 2020 genehmigte EU-Forschungsprojekt “NoBIAS“. In diesem Projekt erforscht die SCHUFA gemeinsam mit weiteren europäischen Forschungsinstituten relevante Aspekte von Bias und Fairness in Zusammenhang mit KI-Systemen. Das heißt, sowohl in Punkto Erklärbarkeit als auch in Punkto Fairness und Unvoreingenommenheit von Maschine-Learning-Verfahren ist die SCHUFA ganz vorne mit dabei – in der Praxis wie auch in der Forschung.

Im Dezember 2019 wurden Sie von der Universität Tübingen zum Honorarprofessor ernannt, bereits seit März 2018 leiten Sie dort im Rahmen einer Industry-on-Campus-Professurdie Forschungsgruppe „Data Science and Analytics“.

Was sind die Schwerpunkte dieser Forschungsgruppe?

Die Absicherung der Qualität moderner Verfahren des Maschinellen Lernens hinsichtlich Vorhersagegüte, Robustheit, Unvoreingenommenheit und Nachvollziehbarkeit stellt in praktischen Anwendungsfällen oft eine Herausforderung dar. Die Qualitätssicherung fängt schon bei der Generierung der Trainingsdaten an, befasst sich dann insbesondere mit der Auswahl eines geeigneten Prognosemodells für die zugrundeliegenden Daten und gestaltet sich zu einem kontinuierlichen Prozess beim praktischen Einsatz des Prognosemodells. Unser Anspruch ist es, methodentechnisch immer auf dem neuesten Stand zu sein. Die Exzellenzuniversität Tübingen und die CyberValley-Initiativebieten uns einen hervorragenden Rahmen, um die genannten Forschungsfragen gemeinsam mit jungen Talenten zu erforschen. Mit dem in diesem Ökosystem geschaffenen „Ethics & Philosophy Lab“ sowie dem Öffentlichkeitsbeirat können ethische Fragestellungen rund um KI und ihre gesellschaftlich-politische Relevanz erörtert werden.

Neben der Leitung der Forschungsgruppe an der Uni Tübingen fördert die SCHUFA über ein Stipendium eine Doktorandenstelle an der Leibniz Universität Hannover, die sich mit Erklärbarkeitsmethoden für moderne Machine-Learning-Verfahren beschäftigt.

Warum engagiert sich die SCHUFA in der Arbeit mit Studierenden?

Durch wissenschaftliche Publikationen, Vorlesungen, Seminare, Master- und Doktorarbeiten will die SCHUFA einen wesentlichen Beitrag zu einer sachlichen und fachlich fundierten Diskussion zu Einsatzmöglichkeiten von KI im Finanzdienstleistungsbereich leisten.

Das Interesse bei talentierten jungen Studentinnen und Studenten für diese spannende Branche ist spürbar gestiegen, so dass einige, die über unsere Forschung und Entwicklung informiert sind, schon den Weg zur SCHUFA gefunden haben.

Prof. Dr. Gjergji Kasneci erhält seine Honorarprofessur an der Eberhard Karls Universität Tübingen

Der Senat und der Fakultätsrat der Exzellenz-Universität Tübingen haben einstimmig die Ernennung von Herrn Dr. Gjergji Kasneci zum Honorarprofessor beschlossen. Mit dieser Auszeichnung würdigt die Universität seine langjährige, ausgewiesene akademische Leistung und seine einschlägigen Forschungsaktivitäten im Rahmen der SCHUFA Industry-on-Campus-Professur „Data Science and Analytics“. Besondere Anerkennung findet dabei Dr. Kasnecis Engagement für die Verstärkung des Exzellenzstandorts durch Spitzenforschung und hochrelevante und praxisbezogene Lehrveranstaltungen im Bereich der Künstlichen Intelligenz. Der Dekan der Mathematisch-Naturwissenschaftlichen Fakultät der Universität Tübingen, Prof. Dr. Wolfgang Rosenstiel, gratuliert Prof. Dr. Kasneci zu dieser Auszeichnung.

Künstliche Intelligenz bei der SCHUFA – das Wichtigste in Kürze:

  • Die SCHUFA kombiniert bewährte Verfahren der künstlichen Intelligenz mit langjährigem Expertenwissen
  • Es gilt das Prinzip „Mensch und Maschine“
  • Es werden keine selbstlernenden Systeme eingesetzt – die Verfahren werden regelmäßig von Experten überprüft und evaluiert
  • Erklärbarkeit und Nachvollziehbarkeit spielen für die SCHUFA eine zentrale Rolle
  • Die SCHUFA forscht gemeinsam mit hochkarätigen Forschungsgruppen und Institutionen zu Themen wie Fairness und Erklärbarkeit von KI-System
  • Prof. Dr. Gjergji Kasneci - Chief Technologie Officer und Bereichsleiter Innovation und strategische Analyse bei der SCHUFA - leitet im Rahmen einer Industry on Campus-Professur eine Forschungsgruppe an der Uni Tübingen zur Qualitätssicherung von KI-Verfahren
  • Wissenschaftliche Publikationen, Vorlesungen, Seminare, Master- und Doktorarbeiten leisten einen wesentlichen Beitrag zur Diskussion rund um KI