KI prüft Open-Source-Code auf Sicherheitslücken

KI kann nicht nur Texte schreiben, Bilder erzeugen oder Sitzungen zusammenfassen. Sie kann auch dabei helfen, Sicherheitslücken in Programmcode zu finden. Der neue OSS Scanner von Anthropic zeigt ziemlich praktisch, wie so eine KI-gestützte Prüfung bei Open-Source-Projekten aussehen kann.

Was passiert ist

Anthropic hat den OSS Scanner gestartet, ein kostenloses und freiwilliges Werkzeug zur Suche nach Sicherheitslücken in wichtigen Open-Source-Projekten. Open Source bedeutet, dass der Quellcode öffentlich einsehbar ist und von vielen Menschen genutzt, geprüft oder weiterentwickelt werden kann.

Der Scanner läuft laut Bericht von MarkTechPost auf der Infrastruktur von Anthropic und nutzt die stärksten Modelle des Unternehmens, darunter Claude Mythos. Ein KI-Modell ist ein System, das aus grossen Datenmengen Muster gelernt hat und diese für Aufgaben wie Textanalyse, Programmcode-Prüfung oder Problemlösung einsetzt.

Das Angebot richtet sich an die Verantwortlichen von Open-Source-Projekten. Diese müssen ihr Projekt aktiv anmelden. Dafür eröffnen sie einen Pull Request, also einen vorgeschlagenen Änderungseintrag in einem Code-Verzeichnis. In diesem Eintrag werden unter anderem das Code-Verzeichnis, eine Kontaktperson und der Pfad zu einem Dockerfile angegeben. Ein Dockerfile ist vereinfacht gesagt eine Bauanleitung, mit der eine Softwareumgebung reproduzierbar erstellt werden kann.

Die Prüfung läuft in einer isolierten virtuellen Maschine. Eine virtuelle Maschine ist ein abgeschotteter Computer innerhalb eines Computers. Laut Quellentext wird das Projekt zunächst mit Netzwerkzugang gebaut. Danach wird die Prüfumgebung in ein Netzwerk ohne Internetzugang verschoben. Das soll die Prüfung vom offenen Netz trennen.

Anthropic berichtet, dass 11 Tage nach dem Start am 8. Oktober bereits 114 Projekte aus rund 650 Bewerbungen angenommen waren. Ebenfalls laut Anthropic gab es in dieser frühen Phase 77 als kritisch und 803 als hoch eingestufte Funde durch das Modell. Wichtig ist die Formulierung: Diese Einstufungen stammen vom Modell und sind nicht automatisch gleichbedeutend mit unabhängig bestätigten Sicherheitslücken.

Die Berichte gehen direkt an die Projektverantwortlichen, ohne vorherige menschliche Prüfung durch Anthropic. Das beschleunigt die Zustellung, verschiebt aber auch Arbeit auf die Teams der jeweiligen Projekte. Sie müssen beurteilen, welche Meldungen wirklich relevant sind, welche bereits bekannt sind und welche Priorität sie haben.

Anthropic liess laut Quellentext 97 kritische und hoch eingestufte Funde aus 48 Projekten durch eigene Penetrationstester prüfen. Penetrationstester sind Fachpersonen, die Systeme gezielt auf Sicherheitsprobleme untersuchen. 85 dieser 97 Funde erfüllten demnach die Schwelle für Anthropics Prozess zur koordinierten Offenlegung von Sicherheitslücken. 11 waren zwar real, duplizierten aber bekannte Probleme oder andere Scan-Ergebnisse. Ein Fund war ungültig.

Auch von einzelnen Projekten werden Zahlen genannt. wolfSSL erhielt 74 Berichte, von denen alle bis auf 2 gültig gewesen sein sollen. 5 davon wurden zu CVEs. CVE steht für „Common Vulnerabilities and Exposures“ und ist ein öffentliches Verzeichnis für bekannte Sicherheitslücken. Beim Projekt curl wurde CVE-2026-92392 behoben, eine als hoch eingestufte Schwachstelle im Zusammenhang mit HTTP/2-Uploads. Laut Quellentext betrifft sie curl 8.12.0 bis 8.22.0 und ist in Version 8.23.0 behoben, die am 14. Oktober 2026 veröffentlicht wurde.

Warum das relevant ist

Open-Source-Software steckt in sehr vielen digitalen Diensten, auch wenn man sie im Alltag selten direkt sieht. Viele Programme, Webseiten und technische Infrastrukturen bauen auf frei verfügbaren Bibliotheken und Werkzeugen auf. Wenn dort eine Sicherheitslücke entsteht, kann sie viele nachgelagerte Systeme betreffen.

Genau hier liegt die Bedeutung des OSS Scanners. Er zeigt, wie KI nicht nur als Schreibassistentin eingesetzt werden kann, sondern als Werkzeug für gezielte technische Prüfungen. Die KI sucht im Code nach möglichen Schwachstellen, erklärt den Fehler, liefert nach Möglichkeit einen reproduzierbaren Ablauf und kann sogar einen möglichen Korrekturvorschlag anhängen.

Das ist ein anderer Einsatz von KI als der klassische „Schreib mir einen Text über…“-Moment. Hier geht es um Analyse, Prüfung und Unterstützung in einem sicherheitskritischen Umfeld. Die KI übernimmt nicht einfach eine Aufgabe fertig und garantiert ein korrektes Ergebnis. Sie erzeugt Hinweise, die Menschen anschliessend bewerten müssen.

Besonders interessant ist der Verzicht auf eine menschliche Vorprüfung vor dem Versand an die Projektteams. Das macht den Prozess schneller, aber nicht automatisch besser. Die Zahlen aus dem Quellentext zeigen beides: Einerseits waren viele geprüfte Meldungen gültig. Andererseits gab es Duplikate, bereits bekannte Probleme und Berichte über überhöhte Schweregrade durch Projektverantwortliche.

Für die Praxis ist das eine wichtige Lektion: KI kann die Menge und Geschwindigkeit von Prüfungen stark erhöhen. Sie ersetzt aber nicht die Verantwortung, Ergebnisse einzuordnen. Gerade bei Sicherheitsthemen kann ein falsch eingeschätzter Fund unnötige Arbeit auslösen. Umgekehrt kann ein echter Fund sehr wertvoll sein, wenn er früh erkannt wird.

Der OSS Scanner ist zudem ein Beispiel für den Unterschied zwischen automatisierter Unterstützung und menschlicher Entscheidung. Die KI findet Kandidaten für Schwachstellen. Die Projektteams müssen entscheiden, was tatsächlich ein Problem ist, wie dringend es ist und wie es behoben wird. Das ist ungefähr wie bei einer medizinischen Vorabklärung durch ein Messgerät: Der Hinweis kann sehr nützlich sein, aber die Diagnose braucht Fachkompetenz.

Was das für dich heisst

Für Einsteiger

Wenn Du nicht programmierst, ist die wichtigste Erkenntnis: KI kann mehr als Inhalte erzeugen. Sie kann bestehende Arbeit prüfen, Muster erkennen und auf Risiken hinweisen. Der OSS Scanner macht das bei Programmcode. Übertragen auf Deinen Alltag heisst das: KI eignet sich besonders dort, wo Du etwas Bestehendes kritisch anschauen willst, etwa einen Text, ein Konzept, eine Checkliste oder eine Entscheidungsvorlage. Gleichzeitig zeigt das Beispiel, dass Du KI-Ergebnisse nicht blind übernehmen solltest. Gute Nutzung bedeutet: prüfen lassen, nachfragen, einordnen.

Für Fortgeschrittene

Wenn Du bereits regelmässig mit KI arbeitest, ist der OSS Scanner ein gutes Beispiel für einen strukturierten Prüfprozess. Entscheidend ist nicht nur das Modell, sondern der Rahmen: klare Eingaben, eine definierte Umgebung, ein Bericht mit Erklärung, ein reproduzierbarer Nachweis und wenn möglich ein Korrekturvorschlag. Für Deine eigene Arbeit kannst Du daraus ableiten: Je präziser Du Aufgabe, Kontext, Ausschlüsse und Bewertungskriterien formulierst, desto brauchbarer wird die KI-Ausgabe. Im Quellentext wird dafür ein optionales threat_model.md erwähnt, also eine Datei, die Angriffsarten, ausgeschlossene Bereiche und Regeln für die Bewertung der Schwere beschreibt. Ohne solche Vorgaben muss der Scanner raten.

Konkret ausprobieren

1. Lass KI eine Prüfung statt eine Neuschöpfung machen. Nimm einen bestehenden Text, ein Konzept oder eine Anleitung und bitte die KI nicht um eine neue Version, sondern um eine Sicherheits-, Risiko- oder Qualitätsprüfung. Formuliere zum Beispiel: „Prüfe dieses Dokument auf unklare Annahmen, fehlende Schritte und mögliche Risiken.“ So nutzt Du KI ähnlich wie beim OSS Scanner als zweite Prüfinstanz.
2. Gib Bewertungskriterien mit. Der Quellentext zeigt, dass ein definiertes Bedrohungsmodell helfen kann. Übertrage das auf Deine Arbeit: Sage der KI, was relevant ist und was nicht. Zum Beispiel: „Bewerte nur Risiken für Datenschutz und Verständlichkeit. Stilfragen sind zweitrangig.“ Dadurch reduzierst Du Streuverluste und bekommst eher brauchbare Hinweise.
3. Trenne Fund und Entscheidung. Behandle KI-Hinweise als Kandidaten, nicht als Tatsachen. Markiere, was die KI gefunden hat, und entscheide danach selbst oder mit einer Fachperson, was wirklich wichtig ist. Beim OSS Scanner gehen die Berichte zwar direkt an die Projektteams, aber die Einordnung bleibt bei Menschen. Genau diese Haltung lohnt sich auch im Büroalltag.

Quellen

• Anthropic Launches OSS Scanner, a Free AI Vulnerability Scanner, MarkTechPost, 25. Oktober 2026

Bild: Rafael Minguet Delgado via Pexels