KI gegen KI

Liebe Leser:innen,

bei einem Treffen in Berlin erzählte mir ein Mann, der sein Super-Nischen-B2B-KI-Start-up vorstellte:

„Es gibt nichts, wofür ich keine KI verwende.“

„Zum Schreiben von Blogbeiträgen. Verkaufsstrategien. Programmieren. Um Dinge herauszufinden.“ Er ist nicht allein. LLMs helfen Ihnen, to fake it till you make it wie nie zuvor.

Cybersicherheit ist ein Bereich, in dem man weniger faken sollte. Die Halluzinationsrate von Chatbots liegt im niedrigen einstelligen Bereich, aber selbst eine Halluzinationsrate von 0,1 % reicht nicht aus, wenn es um kritische Infrastrukturen geht.

Bei demselben Treffen sagte mir ein Cyber-Experte, dass KI in diesem Bereich nicht so schnell die Oberhand gewinnen wird.

Aber…. irgendwie schon.

Die große Neuigkeit dieser Woche war, dass das OSS Fuzz-Team von Google ein KI-Tool einsetzte, um 26 Schwachstellen in Open-Source-Software zu entdecken, darunter eine in dem kritischen Kryptographie-Toolkit, der OpenSSL-Bibliothek. Diese Schwachstelle – mit dem Tag CVE-2024-9143 versehen – „ist wahrscheinlich schon seit zwei Jahrzehnten vorhanden und wäre mit den bestehenden, von Menschen geschriebenen Fuzz-Zielen nicht zu entdecken gewesen“, so die Teammitglieder Oliver Chang, Dongge Liu und Jonathan Metzman. Zu Ihrer Information: „Fuzzing“ ist die Praxis, Softwarefehler mithilfe automatisierter Techniken aufzudecken.

KI macht auch in Bereichen der Offsec (offensive Sicherheit) wie Pentesting und Schwachstellenanalyse Fortschritte. KI ist wahrscheinlich die einzige Möglichkeit für Sicherheitsteams, mit den raffiniertesten Bedrohungsakteuren Schritt zu halten. Der Cybersecurity Forecast 2025 von Google Cloud prognostiziert einen Anstieg von Cyberangriffen, bei denen LLMs eingesetzt werden, um Deep-Fake-Inhalte zu erstellen, Armeen von gefälschten Social-Media-Persönlichkeiten, die diese Inhalte verbreiten, sowie Social-Engineering-Angriffe und Spionage in einem noch nie dagewesenen Ausmaß. Wir werden Roboter brauchen, um die Roboter zu bekämpfen.

KI-Agenten könnten auch die beste Möglichkeit sein, den massiven Mangel an Fachkräften im Bereich Cybersicherheit zu beheben. Laut der „ISC2 Cybersecurity Workforce Study 2024“ fehlen weltweit 4,8 Millionen Fachkräfte im Bereich Cybersicherheit (ein Anstieg von 19 % gegenüber dem Vorjahr).

„KI kann dazu beitragen, den Bedarf an Menschen in der offensiven Cybersicherheit zu reduzieren, indem sie sich wiederholende und zeitaufwändige Aufgaben automatisiert“, sagt David Lindner, CISO von Contrast Security. KI kann in großem Umfang Scans durchführen, riesige Datensätze analysieren und verheerende KI-Angriffe simulieren, und das schneller als Menschen.

Dennoch ist niemand davon überzeugt, dass wir in der Cybersicherheit keine Menschen brauchen werden. In der ISC2-Studie heißt es: „Nur ein Drittel der Befragten ist besorgt, dass ihre Rolle in einer Welt der Gen-KI nicht zukunftssicher ist – die anderen zwei Drittel sind zuversichtlich, dass ihr Fachwissen die Technologie ergänzen wird.“

Der deutsche Cybersecurity-Recruiter stimmt dem zu. Er sagte mir, dass es 2025 in Deutschland und Europa eine Explosion an Arbeitsplätzen im Bereich Cybersicherheit geben wird.

Danke fürs Lesen.

Maurice

🔍Jetzt ein deutsches Cybersicherheitsunternehmen finden