Der Einfluss künstlicher Intelligenz (KI), insbesondere ihres als „Generative KI“ (GenAI) bezeichneten Zweigs, auf die Cybersicherheit stellt ein vielschichtiges und dynamisches Thema dar. KI-Technologien, einschließlich GenAI, sind in der Lage, die Cybersicherheit erheblich zu verbessern. Dies erreichen sie durch die Automatisierung der Erkennung von Bedrohungen, die Durchsicht großer Datensätze und die Beschleunigung der Reaktionszeiten. Allerdings bergen diese Technologien auch das Risiko, für böswillige Zwecke missbraucht zu werden. So können sie beispielsweise dazu genutzt werden, gefälschte digitale Identitäten zu erstellen, mit denen sich tatsächliche Personen ausspielen lassen. Dieser Missbrauch stellt eine direkte Bedrohung für Sicherheitsprotokolle dar, darunter elektronische Verfahren zur Kundenanmeldung und Identitätsprüfung.
Es ist besonders faszinierend, die Auswirkungen von GenAI auf Authentifizierungsprozesse zu beobachten, zumal es gelegentlich Szenarien gibt, in denen KYC-Prozesse möglicherweise überflüssig. GenAI ist besonders geschickt darin, Inhalte zu erzeugen, die auffallend realistisch und überzeugend sind, darunter Audioclips, Videos, biometrische Bilder, Texte und sogar komplette Persönlichkeiten. Dies wirft Bedenken hinsichtlich eines potenziellen Missbrauchs im Zusammenhang mit der digitalen Identität auf – gezielte Cyberangriffe, Desinformation und die Erstellung irreführender Inhalte, insbesondere bei elektronischen „Know Your Customer“-Verfahren (e-KYC).
Laut dem „Smile ID-Bericht über Betrug im Bereich der digitalen Identität in Afrika 2024“deutet eine vierteljährliche Analyse der Daten zu biometrischem Betrug und Dokumentenfälschungen darauf hin, dass die Gesamtquote betrügerischer Versuche bei der Dokumenten- und biometrischen Überprüfung in den letzten sechs (6) Quartalen stetig gestiegen ist. Dieser Aufwärtstrend erreichte im 4. Quartal 2023 mit 17 % seinen bisherigen Höchststand.
Was sind die wichtigsten Bereiche der Cybersicherheit, die mit GenAI in Verbindung stehen?
- Betrug mit synthetischen Identitäten:GenAI ist in der Lage, äußerst authentische synthetische Identitäten zu erstellen, indem künstlich generierte Daten mit gestohlenen personenbezogenen Daten kombiniert werden. Dieser Prozess kann zur Erstellung von Deepfake-Medien führen, die sich nur äußerst schwer von echten Inhalten unterscheiden lassen. Solche gefälschten Identitäten können dazu missbraucht werden, betrügerische Konten einzurichten oder Finanzdelikte zu begehen, was eine enorme Herausforderung für Erkennungs- und Präventionssysteme darstellt.
- Stimmenimitation:Durch die Nutzung der Leistungsfähigkeit von GenAI zum Klonen menschlicher Stimmen mit bemerkenswerter Präzision können böswillige Akteure Audio-Deepfakes erstellen, um Personen nachzuahmen. Diese Technologie könnte für betrügerische Zwecke in der Sprachkommunikation, einschließlich Telefonanrufen und sprachgesteuerten Assistenzgeräten, oder zur Umgehung biometrischer Sicherheitsmaßnahmen, die auf Stimmerkennung basieren, genutzt werden. Diese fortgeschrittene Form der Stimmenimitation könnte zu unbefugtem Zugriff auf sensible Informationen und zu Verletzungen des Schutzes personenbezogener Daten führen.
- Desinformationskampagnen:GenAI kann glaubwürdig wirkende Nachrichtenartikel, Social-Media-Beiträge oder Videos generieren, die in koordinierten Desinformationskampagnen eingesetzt werden können. Diese Maßnahmen können das Vertrauen in die digitale Kommunikation untergraben, die öffentliche Meinung beeinflussen und demokratische Prozesse stören.
- Intelligente Bots und Inhaltsverschmutzung:GenAI kann die Fähigkeiten von Bots erweitern und es ihnen ermöglichen, natürlicher mit Menschen zu interagieren. Diese Bots könnten in sozialen Netzwerken, Foren oder Kundendienstkanälen eingesetzt werden, um Diskussionen oder Meinungen zu manipulieren. Sie können große Mengen an Spam-Inhalten wie Kommentare, Bewertungen oder Social-Media-Beiträge generieren, die digitale Ökosysteme verunreinigen und Plattformalgorithmen oder die öffentliche Wahrnehmung manipulieren können.
- Phishing-Angriffe:Durch KI generierte Inhalte könnten dazu genutzt werden, äußerst überzeugende Phishing-E-Mails oder -Nachrichten zu erstellen, was es für Einzelpersonen erschwert, böswillige Versuche, an sensible Informationen zu gelangen, zu erkennen.
- Adversarische Angriffe:KI-Modelle, einschließlich derer, die im Bereich der Cybersicherheit eingesetzt werden, können anfällig für adversarische Angriffe sein, bei denen böswillige Akteure Eingabedaten oder KI-Modelle manipulieren, um das KI-System zu täuschen und möglicherweise dessen Funktionsfähigkeit zu beeinträchtigen.
- Malware:GenAI könnte dazu genutzt werden, Malware zu entwickeln, die noch ausgefeilter ist als die, die wir heute kennen. Mit GenAI entwickelte Malware könnte in der Lage sein, zu lernen und sich an neue Sicherheitsmaßnahmen anzupassen, wodurch sie schwerer zu erkennen und abzuwehren wäre.
- Algorithmische Verzerrung:Die Trainingsdaten, die zur Entwicklung von KI-Modellen – einschließlich generativer KI – verwendet werden, können unbeabsichtigt Verzerrungen enthalten, die die Fairness und Wirksamkeit von Cybersicherheitsmaßnahmen beeinträchtigen könnten.
Zwar birgt GenAI das Potenzial, digitale Herausforderungen mit sich zu bringen, doch handelt es sich zugleich um einen Bereich, in dem sich die laufende Forschung und Entwicklung darauf konzentriert, Lösungen zu finden, um diesen Herausforderungen zu begegnen und den verantwortungsvollen Einsatz von KI-Technologien sicherzustellen. Daher ist GenAI in Bezug auf die Cybersicherheit ein zweischneidiges Schwert. Sei es durch die Entwicklung neuer Sicherheitsalgorithmen, die KI-basierte Angriffe erkennen und verhindern können, oder durch das Training von KI-Modellen, die gefälschte Inhalte identifizieren und deren Verbreitung im Internet verhindern können; es gibt Hunderte von Möglichkeiten, wie der Einsatz von KI die Cybersicherheit verbessern kann, insbesondere bei e-KYC- und AML-Maßnahmen (Geldwäschebekämpfung), einschließlich der Multi-Faktor-Authentifizierung und der Kunden-Onboarding-Prozesse.
Auf dem Weg zu einer Al-gesteuerten und -gestützten KYC-Überprüfung
KI-gestützte Lösungen für Datensicherheit und Identitätsmanagement können dazu beitragen, zu einem proaktiven Sicherheitsansatz beitragen, indem sie risikoreiche Transaktionen identifizieren, diese mit minimalem Eingriff seitens der Nutzer absichern und verdächtige Verhaltensmuster effizienter miteinander verknüpfen. Mit anderen Worten: Trotz all der oben genannten Bedenken im Zusammenhang mit GenAI wird KI gleichzeitig weiterhin die Landschaft der Kundenidentitätsauthentifizierung verändern und einen Paradigmenwechsel in Bezug auf Effizienz, Genauigkeit und Sicherheit herbeiführen, indem sie in jeder Phase des KYC-Prozesses eingesetzt wird – beispielsweise beim Ausfüllen digitaler Formulare, bei der Erfassung von Ausweisdaten mittels optischer Zeichenerkennung (OCR), bei der Lebendigkeitserkennung und dem Gesichtsabgleich, bei der Dokumentenvalidierung, der Profilüberprüfung und sogar bei der Transaktionsüberprüfung.
Dennoch werden KI-gestützte Sicherheitslösungen in der aktuellen Landschaft nach wie vor nicht in vollem Umfang genutzt. Laut dem „IBM Cost of a Data Breach Report“ aus dem Jahr 2023 „IBM Cost of a Data Breach Report“ aus dem Jahr 2023haben nur 28 % der Unternehmen KI-gestützte Sicherheitsmaßnahmen und Automatisierung umfassend in ihre Abläufe integriert. Dies deutet auf ein erhebliches ungenutztes Potenzial für viele Unternehmen hin, ihre Geschwindigkeit, Genauigkeit und Gesamteffizienz zu steigern.
Die Integration von KI in den KYC/AML-Prozess ermöglicht in Verbindung mit zuverlässigen Daten aus verschiedenen Quellen eine effiziente Bewertung und erhöhte Transparenz bei Verhaltensrisiken. Ergänzend dazu wird ein Verifizierungs-Chatbot für die Kundeninteraktion und die Erfassung zusätzlicher KYC-Dokumente eingesetzt. Diese KI-gestützte Sicherheitsautomatisierung steigert nicht nur die Effektivität, sondern erweist sich auch als kosteneffiziente Lösung.
Heutige KI-Chatbots sind in der Lage, die Anzahl der Fehlalarme erheblich zu reduzieren, und zwar bis zu 80 %, und zwar dank einer bemerkenswerten Modellgenauigkeit von 90 % [The Infosys Knowledge Institute]. Bei minimaler Fehlerquote reduziert der Einsatz von KI in KYC-Prozessen gleichzeitig den Zeitaufwand für die Fallprüfung um ein Drittel.
KOBIL bietet eine KI-gestützte aktive und passive Lebendigkeitserkennung an
Lassen Sie uns an dieser Stelle am Beispiel der Implementierung künstlicher Intelligenz bei KOBIL im Bereich der Lebendigkeitserkennung einen genaueren Blick darauf werfen.
KOBIL bietet für seine e-KYC-Lösung eine hochmoderne, KI-gestützte Lebendigkeitserkennung an, die sowohl aktive als auch passive Strategien umfasst. Im Rahmen seiner passiven Lebendigkeitserkennung nutzt KOBIL einen multimodalen Ansatz, bei dem sowohl RGB-Daten (Rot, Grün, Blau) als auch Tiefenkartendaten für eine gründliche Analyse herangezogen werden. Das System setzt eine Kombination aus sorgfältig manuell entwickelten und auf Deep Learning basierenden Merkmalen ein, um eine authentische Identitätsprüfung und robuste Maßnahmen gegen Identitätsbetrug zu gewährleisten. Durch die Einbindung fortschrittlicher Technologien wie selbstüberwachter Visual Transformers (ViT) sind die Systeme von KOBIL in der Lage, komplexe Muster in den Daten effektiv zu analysieren, wodurch die Präzision der passiven Erkennung erheblich verbessert wird.
Darüber hinaus werden Central-Difference-Convolutional-Neural-Netzwerke (CDCNs) eingesetzt, um feinkörnige visuelle Informationen und Texturen, die für eine umfassende Analyse von entscheidender Bedeutung sind, akribisch darzustellen.
Im Hinblick auf die aktive Erkennung umfasst die Technologie von KOBIL eine Reihe dynamischer Indikatoren wie Augenblinzeln, Gesichtsausdrücke (beispielsweise Lächeln) und die Analyse der Kopfhaltung. Diese Echtzeit-Indikatoren gewährleisten die Anwesenheit einer lebenden Person während der Authentifizierung. Diese ausgeklügelte Kombination technologischer Lösungen stärkt nicht nur die Abwehr des Systems gegen betrügerische Aktivitäten, sondern bietet zudem einen robusten und umfassenden Authentifizierungsmechanismus.
Dr. Fereidooni: „Fortlaufende Umsetzung KI-gestützter Maßnahmen angesichts von durch Generative KI bedingten Bedrohungen im Bereich e-KYC“
Um nun zu den Erkenntnissen von Hossein Fereidooni, AI Lead bei der KOBIL GmbH, überzugehen: Es ist zu erwarten, dass die intensive Fokussierung und die wachsende Besorgnis hinsichtlich sicherheitsrelevanter Herausforderungen im Zusammenhang mit KI – insbesondere in den Bereichen Forschung, Entwicklung und Penetrationstests – weiterhin an Dynamik gewinnen werden. Er spricht jedoch einen sehr wichtigen Punkt hinsichtlich der auf KI basierenden Sicherheitsrisiken an und beleuchtet dabei KI-gestützte Sicherheitsmaßnahmen, insbesondere im Bereich der e-KYC-Verifizierung.
Dr. Fereidooni hebt die potenziellen Risiken hervor, die von GenAI ausgehen, und erklärt, dass diese Technologie zwar in der Lage sein mag, gefälschte Bilder und Handschriften zu erzeugen, die Einbindung fortschrittlicher Lebendigkeitsprüfungsmechanismen in e-KYC-Systeme jedoch eine wirksame Gegenmaßnahme darstellt. Er warnt vor den bevorstehenden Schwierigkeiten für soziale Medien und Online-Plattformen, die keine Lebendigkeitsprüfung einsetzen. Die Verbreitung betrügerischer Inhalte, die scheinbar die Identität einer Person bestätigen, könnte zu schwerwiegenden Komplikationen führen, die Sicherheit des Einzelnen gefährden und erhebliche Probleme für Unternehmen verursachen, die sich auf KYC-Systeme verlassen, denen eine robuste Lebendigkeitsprüfung fehlt.
Dr. Fereidooni erklärt weiter: „Die wichtigste und kontinuierliche Maßnahme, die wir bei KOBIL ergreifen, ist die sorgfältige Überwachung der durch KI unterstützten Identitätsprüfungs- und Autorisierungsprozesse, verbunden mit dem unermüdlichen Engagement in Forschung und Entwicklung zum Schutz vor Schadsoftware und den Risiken des Identitätsdiebstahls.“