von Tadek Pietraszek, Chefentwickler für Kontosicherheit bei Google

Ohne Zweifel war künstliche Intelligenz eines der Buzzwords der letzten Monate. Selbst Kanzlerin Angela Merkel äusserte sich zu den Chancen und Risiken der neuen Technologie. Wie und wo künstliche Intelligenz schon heute verwendet wird, kommt in der Diskussion über ihre Chancen und Risiken aber leider oft zu kurz. Stattdessen bestimmen Ängste und Wunschbilder die Debatte, die mit den Erfahrungen im Unternehmensalltag nur wenig zu tun haben.

Ein Bereich, in dem künstliche Intelligenz bereits erfolgreich genutzt wird, ist die IT-Sicherheit. Vor allem das maschinelle Lernen, bei dem selbstlernende Algorithmen grosse Datenmengen analysieren, ist bei der Gefahrenabwehr mittlerweile gang und gäbe. Selbstlernend sind diese Systeme, weil sie die Muster, anhand derer sie die Datenmengen durchforsten, selbst entwickeln. Oft werden dabei künstliche neuronale Netzwerke eingesetzt, die die Denkstrukturen des menschlichen Gehirns nachahmen. Das wird auch als Deep Learning bezeichnet.

Anwendungsbeispiele gibt es viele. Zum Beispiel können selbstlernende Systeme dabei helfen, Phishing-Webseiten zu erkennen, mit denen Betrüger ihre Opfer täuschen und dazu bringen, ihre Zugangsdaten preiszugeben. Um Nutzerinnen und Nutzer davor zu schützen, greifen Browser-Hersteller in der Regel auf schwarze Listen zurück, auf denen bekannte Phishing-Webseiten verzeichnet sind.

Will ein Nutzer eine Webseite besuchen, gleicht der Browser die Adresse der Webseite automatisch mit denen auf der schwarzen Liste ab und weist ihn gegebenenfalls mit einer Warnung auf mögliche Gefahren hin. Maschinelles Lernen ermöglicht Browser-Anbietern, verdächtige Webseiten zu identifizieren, bevor sie jemand gemeldet hat, und ergänzt dadurch die schwarzen Listen.

Ein weiteres Beispiel ist die Bekämpfung massenhaft verschickter Spam-E-Mails. War es um die Jahrtausendwende noch Usus, dass täglich mehrere solcher Nachrichten in den Posteingängen der Nutzerinnen und Nutzer eintrafen, ist dies heute nur noch selten der Fall. Zwar steigt die Anzahl der weltweit verschickten Spam-Nachrichten nach wie vor an, doch sind die Filter der E-Mail-Provider dank selbstlernender Algorithmen mittlerweile so treffsicher, dass Nutzerinnen und Nutzer nur gelegentlich mit klassischen Spam-Nachrichten in Berührung kommen.

Wichtig ist dabei, dass diese Algorithmen treffsicher und zielgenau arbeiten, sodass es reguläre, erwünschte E-Mails nach wie vor in den Posteingang schaffen und sie nicht im Spam-Ordner landen. In der Forschung zum maschinellen Lernen spricht man von der Vermeidung von "false positives", was man frei mit Fehlalarm übersetzen kann. Nur dann ist der Einsatz selbstlernender Algorithmen wirklich erfolgreich, wenn die Anzahl solcher false positives gering ist.

Doch auch Cyberkriminelle machen sich die Methoden des maschinellen Lernens zunutze. So können Angreifer mithilfe intelligenter Algorithmen Malware immer wieder leicht variieren und auf diese Weise versuchen, die Sicherheitssysteme ihrer Opfer auszutricksen. Sicherheitsexperten setzen ihrerseits selbstlernende Maschinen ein, um solche automatisierten Angriffe zu erkennen und abzuwehren. Zudem kann die Reaktion eines Sicherheitssystems absichtlich unscharf und erratisch gestaltet werden, um den Lernprozess der Algorithmen zu stören. So kommt es zu einer Art Wettrennen, in dem sich die Technologien ständig wandeln, Cyberkriminelle aber immer nur kurzzeitig in Führung liegen.

Es liegt in der Natur der Gefahrenabwehr, dass sich ihre Strategien und Technologien weiterentwickeln. Maschinelles Lernen kann Sicherheitsexperten bei ihrer Arbeit helfen, ersetzen können sie die menschliche Intelligenz aber nicht. Nach wie vor liefern selbstlernende Algorithmen nur dann brauchbare Ergebnisse, wenn Experten sie mit den richtigen Daten füttern, die Resultate überprüfen und die Algorithmen in ständigen Verbesserungsschleifen anpassen. Aber gerade deswegen ist Online-Sicherheit auch ein spannendes Arbeitsfeld.