Apple sucht mit App-Entwicklern den Schulterschluss, um Cyberkriminellen das Handwerk zu legen, die Menschen gezielt manipulieren. Diesem „Social Engineering“ ist durch klassische technische Schutzmaßnahmen schwer beizukommen. Wie Social Engineering in der Praxis funktioniert und wie Angreifer damit in Unternehmen eindringen, hat ein Erfahrungsbericht aus Sicht eines Penetrationstesters ausführlich beschrieben. Denn Zwei-Faktor-Authentifikation oder Biometrie können nicht davor schützen, wenn sich der legitime Nutzer eines Gerätes von Fremden dazu verleiten lässt, große Geldsummen zu überweisen oder Datenzugriffe zu gewähren. Stattdessen soll künftig eine KI-basierte Verhaltensanalyse helfen, Taten zu verhindern und Nutzer zu warnen.
Das neue Framework namens Trust Insights soll App-Entwicklern eine Einschätzung geben, wenn sich der Nutzer auf merkwürdige Weise verhält. Zu solchen Merkwürdigkeiten zählt etwa eine große Geldüberweisung an einen vermeintlichen Arzt eines Familienmitglieds, das Gewähren von Fernzugriff an Fremde, Kontolöschungen, Datenexporte oder die Weitergabe sensibler Daten. Das Framework soll dabei typische Szenarien von Social Engineering erkennen können und gibt der App dann ein Signal, wenn eine mittlere oder hohe Scam-Gefahr erkannt wurde. Es liegt dann an der App, mit diesem Signal weiterzuarbeiten.
App-Entwickler sind für Reaktion zuständig
Eine Reaktion könnte zum Beispiel sein, dass der Nutzer einen Warnhinweis zu sehen bekommt, der ihn auf gängige Praktiken von Kriminellen hinweist. Aber auch das Verzögern von Transaktionen könnte eine mögliche Reaktion sein. App-Entwickler sind verpflichtet, Apple per Schnittstelle eine Rückmeldung zu geben, was sie mit dem Signal angefangen haben – offenbar in dem Bemühen, die Erkennung zu verbessern und Falschmeldungen zu erkennen. Machen sie dies nicht, riskieren sie Einschränkungen beim künftigen Gebrauch des Frameworks.
Das Trust-Insights-Framework wird mit iOS 27 eingeführt, das im Herbst erscheinen soll. Die Verhaltensüberwachung kann vom Nutzer abgeschaltet werden und soll weitgehend auf dem Gerät erfolgen. Zum Teil sollen Vorgänge auch per Cloud-Infrastruktur bewertet werden – dann aber in der Apple-typischen Weise mit Datenminimierung als Kernprinzip. Gerätedaten sollen ausschließlich lokal verarbeitet werden. Auch sollen keinerlei Inhalte aus Fotos, Nachrichten oder Mail einbezogen werden. Um zu verhindern, dass Betrüger Nutzer dazu nötigen, die Erkennung abzuschalten, ist zunächst eine „Cooldown“-Phase vorgesehen, bis die Abschaltung greift.
An wen sich das Framework richtet
Inwieweit Apples neuer Ansatz erfolgreich ist, hängt auch vom Mitwirken der App-Entwickler ab. Mögliche Adressaten dürften zum Beispiel Banken, Social-Media-Anbieter und App-Entwickler sein, die mit persönlichen Daten oder Vermögenswerten umgehen. Da die steigende Cyberkriminalität auch in den Unternehmen massiv Ressourcen bindet und Kosten verursacht, dürften viele ein hohes Interesse daran haben, die Fälle zu reduzieren. Dass Cyberkriminelle im Darknet gezielt Social-Engineering-Experten rekrutieren und KI für skalierbarere Angriffe einsetzen, unterstreicht, warum der Handlungsdruck für Unternehmen wächst. Ob Nutzern freilich diese Verhaltensüberwachung behagt und ob Falscherkennungen schlimmstenfalls zu Einschränkungen bei den Nutzern führen können, gilt es abzuwarten.
(mki)
English (US) ·