Mythos: Wie KI für mehr Cybersicherheit sorgt

00:00:04: Das ist Quantensprung, ein Podcast der NCZ über Forschung die bewegt.

00:00:17: In der Nacht auf den siebenundzwanzigsten Juni zwei tausendsehntin schaltet sich auf einmal ein Computer in einem ukrainischen Büro ein.

00:00:25: Auf dem Desktop erscheint eine leere Datei.

00:00:29: Ein Ordner öffnet sich und die Datei wird dort hinverschoben.

00:00:33: Dann fährt der computer wieder herunter.

00:00:36: Niemand war da niemand hat etwas bemerkt.

00:00:41: Am anderen Ende Europas beginnt wenige Stunden später ein ganz normaler Arbeitstag in Kopenhagen.

00:00:47: Die Mitarbeiter des Logistikkonzerns AP Müller-Mask gehen ihren Aufgaben nach, bis plötzlich die Computer neu starten – alle Computer!

00:00:57: Anstelle des Startbildschirms zeigen Sie an….

00:00:59: …die Daten des Unternehmens sind unwiederbringlich verschlüsselt.

00:01:03: A massive cyberattack is spreading across the world.

00:01:07: Companies across the World are reporting they've been hit by a major ransomware cyber attack.

00:01:12: The virus

00:01:13: first appeared in Ukraine,

00:01:15: then it

00:01:15: spread around the world.

00:01:18: Hacker des russischen Militärgeheimdienstes haben eine Schadsoftware In ein ukrainisches Steuerprogramm eingeschläust.

00:01:24: Von dort breitet sich der Virus in Sekundenschnelle aus.

00:01:27: Bankomaten geben kein Geld mehr aus Zahlungen funktionieren nicht mehr.

00:01:31: Am Hafen von Odessa greift der Virus auf den Logistikkonzern MERSC über.

00:01:41: Eine Sicherheitslücke bei Microsoft hat das Virus namens Not-Petia ins System gelassen.

00:01:50: Solche Sicherheitslücken gibt es in Computerprogrammen immer wieder.

00:01:54: Künstliche Intelligenz, wie zum Beispiel das neue Programm Mythos findet diese Lücken heute schneller und effizienter denn je.

00:02:02: Das hilft Hackern, die Sicherheitslücken auszunutzen!

00:02:05: Aber was wenn ich euch sage dass genau durch künstliche Intelligenz solche Hacks in Zukunft nicht mehr möglich sein könnten?

00:02:29: Damit hat sich meine Kollegin Ruth Wulterer beschäftigt.

00:02:32: Sie ist heute mein Co-host, ich bin Lena Weitle – willkommen!

00:02:47: Jim Hagemanns Nabem war damals während des Cyberangriffs Vorstandsvorsitzender von AP MöllerMask, einem der größten Containerschiffunternehmen der Welt.

00:03:07: Maske ist für ein Fünftel des globalen Containertransports verantwortlich.

00:03:12: Das heißt, die Hacker legten seventy-seitig Häfen und fast achthundert Schiffelarm.

00:03:17: Es gab kilometerlange Lkw-Schlangen – und komplettes Chaos!

00:03:21: Keiner wusste mehr... was sich in welchem Container befindet, welche Container auf welchem Schiff ist, wo welche Lieferung hin soll und was wann geliefert werden muss.

00:03:31: Und das alles wegen einer kleinen Schadsoftware die sich meine Kollegin Ruth genauer angeschaut hat.

00:03:37: Notbitia ist eine spezielle Art von Schad-Software und zwar ein Wurm.

00:03:43: Oft kennt man ja das Virus wenn man auf dem Computer was Falsches klickt den falschen Link dann wird erstmal dein Computer infiziert.

00:03:50: Aber bei Nordpetia war es so, dass ich das eigentlich ohne dein Zutun auf deinen Computer und auf deine ganze Firma ausbreiten konnte.

00:03:57: Weil es eben von einem Netzwerk auf das andere überspringen könnte... ...und die Wirkung von Nordpetian war auch deshalb besonders verheerend,... ...weil es eine Lücke im Microsoft-Betriebssystem in Windows ausnutzte.

00:04:10: Das heißt, dass praktisch alle Computer der Welt oder fast alle mögliche Opfer sind!

00:04:20: Die war eigentlich seit Jahren bekannt.

00:04:22: Also entdeckt haben diese Lücke die Hacker vom amerikanischen Geheimdienst NSA, denn bei Geheimdiensten arbeiten oft sehr gute Hacker, eigentlich die Weltbesten und die suchen Lücken in Programmen, in Betriebssysteme damit sie ihre Ziele also Terroristen oder Staatsfeinde, damit sie die ausspionieren können um die Lücken auch oft geheim weil eben keiner merkt dann das sein Handy eigentlich überwacht wird oder sein Computer.

00:04:50: Aber eben nach einigen Jahren gelangte die Information über diese Sicherheitslücke ins Netz.

00:04:56: Die wurde gelegt und dort fanden sie auch den russischen Hacker, die dann viel weniger subtil diesen Wurm gebaut haben.

00:05:04: Nun passierte der Nordpetia-Hack bevor Hacker Zugang zu künstlicher Intelligenz hatten.

00:05:10: Mit KI könnten solche Hacks viel öfter vorkommen.

00:05:13: Hospitals are no longer

00:05:14: working.

00:05:15: André Kuscheravi ist Professor an der Fachhochschule Westschweiz und forscht zu den Auswirkungen von künstlicher Intelligenz auf die Cyber-Sicherheit.

00:05:27: Feueralarme funktionieren nicht mehr, Banken sind handlungsunfähig, Pumpen fallen aus, Kaffensysteme gehen nicht mehr.

00:05:34: Aber solche Horrorszenarien könnte KI genauso gut verhindern.

00:05:43: Um zu verstehen wie ein Computersystem in Zukunft geschützt werden kann Schauen wir uns erst an, wie Hacker ihre Schadsoftware in ein System hineinbringen.

00:05:52: Ja es gibt verschiedene Arten von Hex.

00:05:55: Versuchen wir uns das mal anhand einer Geschichte einer Metapher vorzustellen.

00:06:00: In dieser Metaphe ist das Firmennetzwerk ein Schloss Ein eigentlich sicheres Schloss aber mit ein paar kleinen Problemen die eben die Schad-Software ausnutzen kann.

00:06:09: Im Herzen dieses Schlosses gibt es einen Zimmer und dort soll die Schadsoftware hingelangen

00:06:15: Denn nur

00:06:15: von dort aus kann sie die Kontrolle über das ganze Schloss übernehmen.

00:06:19: Es ist quasi die Kommandozentrale,

00:06:21: da sind die wichtigen Knöpfe und das wäre so der Administratorenzugriff auf ein System.

00:06:26: also das ist so das Ziel.

00:06:27: wenn man mal da ist dann hat man eigentlich die ganze Kontrolle

00:06:31: Und dazwischen liegen noch ein paar Hürden.

00:06:33: Erstmal muss man ja in die Burg reinkommen und dazu hat man bei Notpedia Zuerst die Wachen am Tor des Schlosses verwirrt.

00:06:41: Die stehen da so an der Hängebrücke und räumen, die Vorratskammer voll mit den Paketen, die von außen kommen.

00:06:47: Die kontrollieren sie auch aber man kann sie eben auch verwirren.

00:06:51: Und eben metaforisch kann man sich das vorstellen dass die Angreifer ganz viele kleine Datenbäckchen an die Wachentor geschickt haben und die haben das entgegengenommen und in ihre Vorratskammer gestellt Aber die war eben bald voll.

00:07:05: Und dann in einem ganz bestimmten Moment schicken die Angreifer zwei Pakete hintereinander, das erste enthält die Info dass jetzt ein ganz kleines Paket folgt und dann plant eben die Wache auch nur ganz wenig Platz ein aber in Wirklichkeit folgt ein großes Paket!

00:07:22: Das verwirrt die Wachen weil sie haben vorher überlegt wie viel Platz müssen Sie denn in ihrer Vorratskammer einplanen?

00:07:29: Und wenn sie jetzt nur für ein kleines Paket Platz gemacht haben, aber ein großes kommt, bricht dieses große Paket durch die Mauer der Vorratskammer in das Schloss über.

00:07:39: und in dem Paket versteckt sich einen Mörder.

00:07:41: Der steht auf einmal im Treppenhaus des Schlosses.

00:07:44: Da ist zwar immer noch nicht ganz oben vielleicht in der Kommandozentrale vom Schloss, aber so ein Stück näher.

00:07:49: Was in diesem Beispiel die geschützte Vorratskammer ist, wäre bei einem Computer der Arbeitsspeicher.

00:07:56: Der befindet sich in einem der Pakete, das ungewollt ins Schloss kommt.

00:08:18: Und dann ist der Wurm im System.

00:08:29: So laufen die meisten Hecks ab, mithilfe von künstlicher Intelligenz geht dieser ganze Prozess nun einfach viel schneller.

00:08:40: Früher dauerte es Stunden Tage oder Wochen bis ein Hacker in das System kam und Schaden anrichten konnte.

00:08:47: Eine künstliche Intelligenze findet den Weg in Minuten.

00:09:00: Und nun kommt noch Mythos ins Spiel.

00:09:03: Die künstliche Intelligenz von Anthropic sorgte vor kurzem für Schlagzeilen, denn sie soll tausende Gefährliche und bisher unentdeckte Schwachstellen in Computersoftware gefunden haben.

00:09:14: Das Besondere an Mythos ist dass diese KI die eigentlich fürs Programmieren gemacht wurde dass die jetzt sehr viel besser hacken kann als bisherige Programmierkis.

00:09:26: Und es geht hier vor allem um diesen Weg vom Programm bis zur Kommandozentrale des Schlosses.

00:09:33: Um da erfolgreich zu sein, muss ein Hacker ja das System analysieren wissen welcher Tricks er ausprobieren kann und sich eben so Stück für Stück vorarbeiten im System?

00:09:43: Das hat diese KI besonders gut geschafft – viel besser als alle zuvor!

00:09:47: Das britische Institut für KI-Seibersicherheit hat das getestet.

00:09:51: Sie haben Mythos losgeschickt, um durch Schwachstellen im System den Weg vom Burggraben zur Kommandozentrale zu finden und Mythos konnte selbstständig in das System eindringen und sich dort bewegen.

00:10:15: Das klingt jetzt unheimlich, aber richtig gute Hacker fanden die Schwachstellen im System schon immer – auch ganz ohne KI!

00:10:29: Doch eine künstliche Intelligenz, wie zum Beispiel Mythos ermöglicht es heute auch einer ganz anderen Gruppe ziemlich gute Hacks durchzuziehen.

00:10:37: Nämlich totalen Anfängern!

00:10:42: Die

00:10:42: gefährlichste Gruppe sind dabei sogenannte APTs – Advanced Persistent Teenagers.

00:10:53: Also Personen mit grundlegenden Hackingskills, viel destruktiver Energie und keiner rechtlichen Verantwortung.

00:11:03: Teenager eben!

00:11:04: Mit Hilfe von künstlicher Intelligenz finden auch sie gut versteckte Schwachstellen im System, sogenannte Zero Days.

00:11:13: Zero Day nennt man eine Schwachstelle dann, wenn sie noch nicht allgemein bekannt ist.

00:11:18: Weil manchmal gibt es ja Schwachstellen in Software, manchmal fallen die an den Firmen selber auf und dann programmieren Sie ein Update und das kann jeder eben runterladen und dann hat man das Problem eigentlich gelöst.

00:11:29: aber bei Zero Days hat das Opfer eben Null Tage Zeit um das Einfallstore in seine Software zu reparieren weil es dieses Einfall Store eben nicht kennt

00:11:39: dass eine künstliche Intelligenz diese Zero-Days findet, hilft aber tatsächlich der Cyberabwehr.

00:11:46: Denn nicht jeder kann Mythos einfach nutzen!

00:11:48: Nur ganz wenige ausgewählte Firmen können ihre Systeme mit Mythos testen und Sicherheitslücken schließen – und natürlich gibt es inzwischen auch ganz andere Sicherheitsmechanismen.

00:12:05: Zum Beispiel Canaries Kanarienvögel Abgeleitet von dem Sprichwort Canary in the coal mine.

00:12:11: Das kommt ja von den Minenarbeitern, die Kanarienvögel mitgenommen haben oben früh genug zu merken wenn giftige Gase in der Luft sind.

00:12:19: und auch in der Cyber Security sind Canaries Frühwarnsysteme, die man ins Software einbauen kann zur Verteidigung.

00:12:26: das könnte zum Beispiel eine Datei sein mit dem Namen Geheimpasswörter wichtig Aber in dieser Datei steht nichts drin.

00:12:34: Die gibt es nur zu dem Zweck, dass wenn ein Angreifer irgendwie ins System gekommen ist das der da vielleicht drauf klickt und dann geht eine Alarmglocke los?

00:12:44: Und dann kann das IT-Team reagieren!

00:12:49: Zurück zum Fall von NotPetia & Mask.

00:12:52: Im Juni, im Jahr zwei tausend siebzehn musste die gesamte Organisation quasi mit Papier und Bleistift arbeiten und ihre gesamte Infrastruktur wieder neu aufsetzen alle Computer und jeden Server.

00:13:18: Aber nach gerade mal zehn Tagen konnte das System durch einen glücklichen Zufall wiederhergestellt werden.

00:13:24: Ja, Merz hatte wirklich Glück im Unglück!

00:13:27: Dadurch diesen Wurm sind jetzt eben alle Server zugleich abgestürzt und die hatten also im ersten Moment Riesenpanik und dann gemerkt, dass durch Zufall, durch einen Stromausfall in Ghana einer ihrer Server offline gegangen ist bevor dieser Wurm sich ausgebrattet hat.

00:13:45: Das heißt es war ein Server isoliert, ist übrig geblieben und durch den konnten sie ihr System wieder

00:13:52: herstellen.".

00:13:53: Der damalige Maersk Vorstandsvorsitzende Jim Hagemann-Snabe nannte den Heck einen Wegruf Ein teurer Wegruf, der auch andere Unternehmen aufrüttelte.

00:14:20: Aber vielen Firmen wirft Andre Kuschera wie weiterhin vor, dass sie sich zu wenig um ihre Sicherheit

00:14:25: kümmern.".

00:14:32: und dabei kann ihnen heute künstliche Intelligenz helfen.

00:14:36: Und sie wird immer besser!

00:14:41: Es gibt mindestens drei Methoden, wie Künstlicheintelligenz für mehr Cyber-Sicherheit eingesetzt werden kann.

00:14:47: Das erste knüpft an die Kanarienvögel an – weil wenn ein Mensch reagieren muss, wenn ein Wahnsignal losgeht dann kann das natürlich dauern.

00:14:56: Deshalb wird es immer mehr automatisiert Und auch Samstag Nacht kann automatisch ein Zugriff gesperrt werden.

00:15:03: KI kann aber auch das Netzwerk analysieren und die Datenströme kennenlernen, damit ihr danach auffällt wenn ein Muster ungewöhnlich ist.

00:15:11: Wenn zum Beispiel jemand in der Nacht große Datenmengen verschickt.

00:15:15: Dann kann die KI diesen Nutzer blockieren.

00:15:19: Im schlimmsten Fall, wenn sich die KI da falsch entschieden hat dann muss der Nutzer am nächsten Morgen seinen Account wieder freischalten.

00:15:26: Das zweite ist Wenn Modelle wie Mythos Probleme im Computersystem finden, dann hilft das natürlich auch den Verteidigern.

00:15:34: Weil die können ja diese Probleme

00:15:35: beheben.".

00:15:37: Die Hoffnung ist, dass künstliche Intelligenz in Zukunft die Schwachstellen im System nicht nur findet sondern sie auch automatisch schließt – aber... KI findet zwar die Fehler Aber die Löcher dann zu stopfen, das erweist sich als ziemlich schwierig, sagt der Cyber Security-Experte André Cusharavi.

00:16:13: Also muss in Zukunft ein Code her, der einfach keine Sicherheitslücken mehr hat?

00:16:16: Das ist der dritte Vorteil von KI für Verteidiger.

00:16:20: Reden wir uns an die Speicherfehler, die ja sehr viele Hex ermöglichen... Es gibt Programmiersprachen, die solche Fehler von Anfang an ausschließen.

00:16:29: Die erlauben sie gar nicht!

00:16:30: Aber seine neue Programmiersprache zu lernen ist ja ziemlich aufwendig für Programmierer und hier kann KI helfen weil die kann den Leuten helfen mit einer neuen Sprachkode zu schreiben oder vielleicht auch alten Code in diese neue Sprache zu übersetzen um dann ein sicheres System zu bauen.

00:16:50: Das ist die große Hoffnung vor allem von den Anhängern dieser sicheren Programmiersprachen, dass man irgendwann dank KI eine super-sichere Infrastruktur bauen kann.

00:17:05: Der Nordpetia-Hack ist nur neun Jahre her und inzwischen gab es immer wieder Attacken aber keine in so einem Ausmaß.

00:17:12: Da Hacknord Petia war halt besonders krass weil er sich wie sein Flächenbrand unkontrolliert ausgebreitet hat und alles zerstört.

00:17:20: Der hat sogar in Russland Schaden angerichtet, obwohl er eigentlich ein russischer Angriff auf die Ukraine war.

00:17:25: Und so große Angriffe sind einfach sehr selten!

00:17:29: Aber es gab viele Angriefe auch danach wo Hacker ein Unternehmen angegriffen haben und dann Daten verschlüsselt und Lösegeld verlangt haben um das zu entschlüssen.

00:17:39: Das ist auch eine andere Logik des Angriffs dahinter.

00:17:42: Was man auch sagen muss, Firmen wie MERSC aber nicht nur haben massiv in die Verteidigung investiert seitdem.

00:17:48: Also so automatisierte Angriffe sind heute auch sehr viel schwieriger als noch vor neun Jahren

00:17:54: und in Zukunft können wir sie hoffentlich auch ganz verhindern!

00:17:58: Wenn Programmierassistenten bei der Arbeit helfen dann kann es ja sein dass in Zukunft auch der normale Softwarecode besser ist einfach weil Codex von OpenAI Cloud Code oder eben Mythos den Leuten immer besser dabei helfen können, Fehler in ihrem Code zu entdecken bevor sie ihn publizieren.

00:18:28: Ruth Mütters hat einiges an Aufsehen erregt.

00:18:31: aber ist diese KI wirklich so revolutionär?

00:18:35: Das ist schon ein bisschen übertrieben und auch PR, dass man jetzt gesagt hat diese eine KI die verändert jetzt komplett die Welt.

00:18:42: Weil es gibt viele andere KI-Modelle von anderen Firmen und auch von Antropik vorher, die ähnlich gut waren oder sich zumindest in einem ähnlichen Rahmen bewegen.

00:18:50: aber man kann schon sagen Mythos ist Teil einer Entwicklung von KI die immer besser wird und immer besser programmieren kann was im Kombi mit menschlichen Hackern ein wachsendes Risiko darstellt.

00:19:03: Auf der anderen Seite verspricht künstliche Intelligenz aber auch so was wie ein Immunsystem für die digitale Welt, also dass ein Cyberangriff gar nicht mehr möglich ist irgendwann.

00:19:13: Nur an welchem Punkt stehen wir denn da gerade?

00:19:16: Ja nach meinem Gefühl stehen wir am ziemlich tiefsten Punkt dieser Entwicklung.

00:19:21: Was aber auch heißt es wird ja wieder aufwärts gehen!

00:19:23: Wie kommst du darauf?

00:19:24: Es ist nämlich so wenn Du eine Schwachstelle findest in dem System Dann ist es einfacher, die auszunutzen als sie zu reparieren.

00:19:32: Weil so Software reparieren eben auch wieder oft neue Fehler einfließen lässt.

00:19:36: also das ist gar nicht so trivial.

00:19:38: Ein Zeitepunkt ist dass natürlich Hacker schon KI nutzen aber bei so kleineren Firmen ist vielleicht die Verteidigung noch nicht auf der Höhe der Zeit.

00:19:47: Also da tut sich eine Schere auf.

00:19:49: Dazu kommt noch das Vibecoding.

00:19:52: Durch KI können ja auch Leute ohne IT-Wissen programmieren zum Beispiel Webseiten Und Untersuchungen zeigen, dass wenn Leute zum Beispiel für ihr kleines Unternehmen wo sie ihre selbst gebastelten Sachen verkaufen.

00:20:05: Wenn Sie da einen Onlinehandel auf Ihrer Webseite programmieren mit Vibecoding das in solchen Programmen extrem oft fatale Fehler drin sind

00:20:15: z.B.,

00:20:16: dass die Kundendaten ohne Passwort irgendwie im Internet stehen Und das heißt, so wird das Internet in Summe unsicherer im ersten Schritt.

00:20:25: Langfristig ist schon zu erwarten dass der KI Code diese Assistenten auch immer sicherer werden und immer besser und eben auch die Verteidigungsstrategie nachziehen.

00:20:34: dazu die Visionen von diesen Programmiersprachen die sicher sind.

00:20:39: Das lässt mich schon denken, dass es langfristig aufwärts geht.

00:20:42: Wenn beide Seiten also die Hacker und die Cyber Security wenn die Beide Zugriff auf Tools wie Mythos haben dann gleicht sich doch die Fähigkeit der beiden wieder aus.

00:20:52: Ja, es ist schon eine Materialschlacht wo sich eben die KI-Firmen freuen können weil jetzt müssen alle für ihre Modelle bezahlen und das kostet eben auch relativ viel Geld an.

00:21:03: Tropic hat zum Beispiel gesagt dass das finden einer einzigen Schwachstelle manchmal mehrere tausend Dollar gekostet hat.

00:21:09: Und schon jetzt ist es so dass bei so Hackingwettbewerben wo verschiedene Teams schauen wer kann einem schnellsten in ein System eindringen dass schon bei diesen meistens die Leute gewinnen, die einfach den besten Zugriff zu KI haben und am meisten Geld dafür ausgeben.

00:21:23: Also das ist der Stand jetzt!

00:21:25: Es wird jetzt sehr viel Geld kosten, die Cybersecurity auf einen neuen Stand zu bringen – aber wenn wir dann irgendwann an diesem Punkt sind, dass die Systeme selbst sicher sind?

00:21:35: Welche Lücken bleiben denn trotzdem noch?

00:21:38: Die eine Lücke, die bleibt, ist tatsächlich der Mensch.

00:21:41: KI spielt auch da eine Rolle.

00:21:44: zum Beispiel werden Fishing-Mails sehr viel besser durch künstliche Intelligenz.

00:21:49: Und wenn jemand dem Hacker ein Passwort verrät, dann muss der auch gar keine Sicherheitsdüchme erfinden.

00:21:55: Der muss sich nur noch einloggen.

00:21:57: und was heißt das jetzt für uns?

00:21:58: Also erstens aufpassen auf welche Links wir in E-Mails klicken und das zweite ist die Systeme werden besser, die Firmen arbeiten daran die abzudaten und diese Updates müssen wir dann auch machen und runterladen.

00:22:10: Das wird in der kommenden Zeit noch wichtiger als

00:22:13: bisher.

00:22:14: Vielen Dank Ruth!

00:22:15: Danke dir Lena.

00:22:16: Übrigens, diesen Podcast und alle Artikel in der NCZ-App könnt ihr ab sofort auch unterwegs im Auto hören.

00:22:23: Mit Apple CarPlay und mit Android Auto – probiert's mal aus!

00:22:27: Wie es funktioniert erfahrt ihr in dem Link in den Show Notes.

00:22:30: Dort könnt ihr auch den Quantensprung

00:22:32: Newsletter abonnieren.

00:22:34: Dort habe ich euch die wichtigsten Fakten aus dieser Folge auf einen Blick zusammengefasst

00:22:38: und

00:22:38: noch weiteren Lesestoff verlinkt.

00:22:41: Das war Quantensprung ein Podcast über Forschungen,

00:22:43: die bewegt.

00:22:45: Ich bin Lena Waldle.

00:22:46: Wir hören uns wieder nächste Woche!