Jeden Tag klassifizieren Lernalgorithmen über eine Milliarde E-Mails als Spam und ersparen so den Empfängern das zeitaufwändige und mühsame Aussortieren unerwünschter Nachrichten. Wenn Algorithmen nicht vorher eingreifen würden, würden diese Mails bei vielen Benutzern 80 bis 90 Prozent des Posteingangs ausmachen. Da die Spam-Versender ständig ihre Taktik anpassen, ist es für ein statisch programmiertes Verfahren äußerst schwierig, Schritt zu halten. Lernende Algorithmen funktionieren hier am besten [2] [3].
Laut einer Studie des Ponemon-Instituts [4] von 2015 jagt ein durchschnittliches Security Operations-Center (SOC) – das sich als Zentrale für alle sicherheitsrelevanten Services im IT-Umfeld von Organisationen oder Unternehmen versteht – jährlich allein 20.000 Stunden lang Warnungen hinterher, die sich zum Schluss als Fehlalarme entpuppen.
Aber wo wird bereits KI eingesetzt? Ein Gedanke wird IBM Watson [5] gelten. Mit Watson lassen sich Chatbots und virtuelle Agenten entwickeln, die schnell und effizient Fragen von Kunden beantworten und auf deren Bedürfnisse eingehen. Ein Agent ist dabei einfach etwas, das agiert – abgeleitet vom Lateinischen agere: tun, handeln, machen. Dabei operiert er autonom, nimmt seine Umgebung wahr, ist über einen längeren Zeitraum beständig, passt sich an Änderungen an und erzeugt und verfolgt Ziele [6]. Durch Integration solch einer Technologie in die SOC können diese auf immer raffiniertere Cybergefahren reagieren. Die Bedrohungen durch Hacker und Cyberkriminelle bleibt dadurch allerdings nicht aus: Dafür sind die Angriffsmethoden noch raffiniert genug. Denn nicht zuletzt setzen Hacker selbst auf Künstliche Intelligenz und machen sich maschinelles Lernen oder Technologien zu Eigen wie „Intelligent Phishing“ [7] oder „Smart Malware“ [8]. Letztere erkennt zum Beispiel, wenn sie beobachtet wird.
Es ist das alte Katz-und Maus-Spiel, denn der technische Fortschritt bleibt auch der Gegenseite nicht verwehrt. Daher ist davon auszugehen, dass Cyber-Kriminelle versuchen werden, die Möglichkeiten der Künstlichen Intelligenz auch für sich zu nutzen. Cyberattacken, die durch KI modifiziert werden, sind beispielsweise in der Lage, während ihrer Verbreitung zu lernen und sich damit automatisch zu optimieren, indem sie gezielt auf Abwehrmaßnahmen reagieren. Es besteht dabei die Gefahr, dass sich solch KI-basierte Attacken vorhandenen Schutzmaßnahmen entziehen und im Laufe ihrer Verbreitung resistent werden. Die Schadsoftware kann im „Idealfall“ auf ihre Abwehr reagieren und dadurch den Sicherheitsmaßnahmen stets einen Schritt voraus sein. In einer 100-seitigen Studie [9] stellt eine Forschungsgemeinschaft mit namhaften Institutionen wie der Universitiy of Oxford und der University of Cambridge mehrere denkbare Szenarien vor, die eintreten könnten, wenn KI ohne zusätzliche regulatorische, organisatorische und technische Sicherheitsmaßnahmen weiterentwickelt wird.
Fazit
Hier gilt es, frühzeitig Strategien und ein klares Regelwerk zu entwickeln, wie sich dies verhindern lässt. Ein Ansatzpunkt ist die VDI-Richtlinie VDI/VDE 3550 Blatt 1 Künstliche Neuronale Netze in der Automatisierungstechnik [10]. Das Dokument legt für den industriellen Einsatz eine einheitliche Basis zur Verwendung der wichtigsten Begriffe mit Definitionen fest. Des Weiteren wird in der DIN EN 61209 der Begriff künstliche Intelligenz definiert als „Fähigkeit einer Einrichtung Funktionen auszuführen, die üblicherweise mit menschlicher Intelligenz verbunden sind, wie Schlussfolgerungen ziehen, Lernen und sich selbst zu verbessern. Zuständig für diese Norm ist das Technische Komitee 80 (TC80) der Internationalen Elektrotechnischen Kommission (IEC) in Abstimmung mit der Internationalen Schifffahrtsorganisation (IMO). Darüber hinaus fand am 23. Januar 2018 die Gründungssitzung des Arbeitsausschusses Künstliche Intelligenz unter der Leitung der Geschäftsstelle des (Normenausschuss Informationstechnik und Anwendungen (NIA) in Berlin statt. Der Arbeitskreis wird ein erstes Arbeitspapier zum Thema Terminologie für die Gründungssitzung des JTC 1/SC42 in Peking am 18. April 2018 erarbeiten [11]. Das Joint Technical Committee 001- Information Technology ist ein Gemeinschaftskomitee der International Organisation for Standardization (ISO) und der International Electrotechninal Commission (IEC).
Quellen
[1] Interactive Programming in Java, Lynn Andrea Stein, Morgan Kaufmann Publishers In, ISBN 978-1558605923, 2003
[2] A Bayesian approach to filtering junk E-Mail. In Learning for Text Categorization: Papers from the 1998 Workshop, M. Sahami, S.T. Dumais, D. Heckerman, E.J. Horvitz (1998)
[3] Fighting spam with statics. Significance, the Magazine of the Royal Statistical Society, 1,69-72, J. Goodman und D. Heckerman
[4] https://www.ponemon.org
[5] https://www.ibm.com/watson
[6] Künstliche Intelligenz – Ein moderner Ansatz, S. Russel und P. Norvig, Pearson Deutschland GmbH, 2012
[7] Künstliche Intelligenz macht Phishing-Versuche zielgenauer und effektiver, heise online, 15.08.2016
[8] Künstliche Intelligenz – mehr IT-Sicherheit, weniger Hacker-Angriffe?, trojaner-info, 07.03.2017
[9] The Malicoius Use of Artificial Intelligence: Forcecasting, Prevation, and Mitigation, Feb. 2018
[10] VDI/VDE 3550 Blatt 1 Computational Intelligence – Künstliche Neuronale Netze in der Automatisierungstechnik – Begriffe und Definitionen
[11] DIN Pressemitteilungen „Arbeitsausschuss Künstliche Intelligenz gegründet“, 31.01.2018
