Logo Baebeca Solutions GmbH

← Ratgeber

KI-generierten Code prüfen: Worauf es beim Review ankommt

5. November 2026

KI-generierten Code prüfen: Entwickler im roten Poloshirt prüft Programmcode an zwei Monitoren

KI

Dieser Beitrag wurde mit KI erstellt.

KI-generierten Code prüfst du am besten in zwei Stufen: Automatische Werkzeuge suchen nach bekannten Schwachstellen, veralteten oder erfundenen Abhängigkeiten und Stilfehlern, ein erfahrener Mensch prüft danach Logik, Rechte, Datenflüsse und Aufbau. Entscheidend ist, dass du dabei nicht der Oberfläche glaubst: KI-Code läuft oft auf Anhieb, sieht sauber aus und hat seine Fehler genau dort, wo ein kurzer Test nicht hinschaut. Wir zeigen, worauf es beim Review ankommt und wie du es in deinen Alltag einbaust.

Warum KI-Code ein eigenes Review braucht

Ein Sprachmodell schreibt Code, der zum Muster der Anfrage passt. Ob er auch sicher ist, ist eine andere Frage. Der Softwaresicherheitsanbieter Veracode hat für seinen GenAI Code Security Report 2025 über 100 Sprachmodelle mit 80 Programmieraufgaben getestet: In 45 Prozent der Fälle enthielt der erzeugte Code eine Schwachstelle aus den OWASP Top 10, den häufigsten Sicherheitsrisiken von Webanwendungen. Größere Modelle schnitten dabei nicht wesentlich besser ab als kleinere (Veracode, Help Net Security). Die Zahl beschreibt Testaufgaben, nicht jedes Projekt, zeigt aber deutlich: Funktionierender Code ist noch kein sicherer Code.

Dazu kommt die Menge. Wer mit KI entwickelt, erzeugt in einem Nachmittag so viel Code wie früher in einer Woche. Liest niemand mehr jede Zeile, wächst ein Projekt schnell zu etwas heran, das keiner im Team wirklich versteht. Ein Review ist deshalb kein Misstrauen gegen die KI, sondern das Sicherheitsnetz, das schnelle Entwicklung erst tragfähig macht.

Typische Schwächen von KI-Code

Bestimmte Fehler tauchen in KI-generiertem Code immer wieder auf. Sie lohnen einen gezielten Blick:

  • Ungeprüfte Eingaben: Formularwerte, URL-Parameter und Daten aus Schnittstellen landen ungefiltert in Datenbankabfragen, Shell-Befehlen oder der Ausgabe im Browser. Das öffnet Tür und Tor für Injection und Cross-Site-Scripting.
  • Fehlende Rechteprüfung: Die Funktion arbeitet, aber niemand prüft, ob der angemeldete Nutzer diesen Datensatz überhaupt sehen oder ändern darf.
  • Fest eingebaute Zugangsdaten: Passwörter, API-Schlüssel oder Tokens stehen direkt im Quelltext und damit im Repository.
  • Erfundene oder veraltete Abhängigkeiten: Die KI schlägt Bibliotheken vor, die es gar nicht gibt, oder Versionen mit bekannten Lücken.
  • Halbfertige Stellen: Platzhalter, auskommentierte Prüfungen oder ein „TODO“ an genau der Stelle, an der die Fehlerbehandlung hingehört.
  • Doppelte Logik: Dieselbe Regel steht in drei leicht unterschiedlichen Varianten an drei Orten, weil die KI jede Anfrage für sich gelöst hat.

Die erfundenen Pakete verdienen besondere Aufmerksamkeit. Forscher mehrerer US-Universitäten haben 576.000 Codebeispiele von 16 Sprachmodellen ausgewertet: Kommerzielle Modelle empfahlen im Schnitt mindestens 5,2 Prozent nicht existierende Pakete, frei verfügbare Modelle 21,7 Prozent, insgesamt über 205.000 verschiedene erfundene Namen (USENIX Security 2025, arXiv). Angreifer nutzen das aus, indem sie Schadcode unter genau solchen Namen veröffentlichen. Wer eine vorgeschlagene Bibliothek ungeprüft installiert, holt sich im schlimmsten Fall selbst die Hintertür ins Projekt.

Was ein gutes Review prüft

Ein gründliches Review schaut nicht nur auf einzelne Zeilen, sondern auf das ganze Projekt. Diese Bereiche gehören dazu:

  • Qualität und Korrektheit: Macht der Code, was er soll, auch bei leeren, ungültigen oder sehr großen Eingaben? Gibt es Tests, und prüfen sie das Richtige?
  • Sicherheit: Eingaben, Rechte, Zugangsdaten, Verschlüsselung und der Umgang mit Fehlermeldungen.
  • Wartbarkeit: Ist der Code verständlich aufgebaut, oder findet sich in einem Jahr niemand mehr darin zurecht?
  • Architektur: Passen Aufbau, Datenhaltung und Schnittstellen zu dem, was die Anwendung künftig leisten soll?
  • Lizenzen und Abhängigkeiten: Welche Bibliotheken stecken im Projekt, existieren sie wirklich, sind sie aktuell, und passt ihre Lizenz zu deinem Vorhaben?
  • Datenschutz: Wo werden personenbezogene Daten verarbeitet, protokolliert oder an externe Dienste übertragen?

Werkzeuge finden die Masse, Menschen das Wesentliche

Automatische Prüfungen sind die erste Stufe. Statische Codeanalyse findet typische Muster wie ungefilterte Eingaben, ein Abhängigkeits-Scanner meldet Bibliotheken mit bekannten Schwachstellen, ein Secret-Scanner schlägt bei Passwörtern im Quelltext an. Diese Werkzeuge sind schnell, unermüdlich und gehören bei jeder Änderung dazu, am besten automatisch in der Pipeline deines Repositorys.

Was sie nicht sehen, ist der Zusammenhang. Ob ein Kunde über eine geänderte Nummer in der Adresszeile die Rechnungen eines anderen Kunden abrufen kann, ob eine Preisberechnung bei Rabatten falsch rundet oder ob ein Ablauf bei zwei gleichzeitigen Bestellungen kippt, erkennt nur jemand, der weiß, was die Anwendung tun soll. Deshalb gehört nach den Werkzeugen ein erfahrener Entwickler an den Code, der die Befunde einordnet und gezielt dort weitersucht, wo es wehtun würde.

Einmal vor dem Livegang oder bei jeder Änderung?

Beides hat seinen Platz. Ein einmaliges Review passt, wenn ein Prototyp oder ein fertiges Projekt live gehen soll: Du bekommst einen Stand, auf den du dich verlassen kannst, und eine Liste dessen, was du vorher beheben solltest. Entwickelst du laufend weiter, lohnt sich ein laufendes Review: Jede Änderungsanfrage (Merge Request) durchläuft die automatischen Prüfungen und bekommt Feedback direkt im Repository, bevor sie in den Hauptstand übernommen wird. So bleiben Sicherheit und Aufbau dauerhaft im Blick, statt sich still zu verschlechtern.

Ein Code-Review ersetzt übrigens keinen Penetrationstest. Das Review schaut von innen auf den Quelltext, ein Penetrationstest greift die laufende Anwendung von außen an. Für Anwendungen mit sensiblen Daten ergänzen sich beide.

Was du selbst sofort tun kannst

  • Jede vorgeschlagene Bibliothek im offiziellen Paketverzeichnis nachschlagen, bevor du sie installierst: Gibt es sie, wer pflegt sie, wie aktuell ist sie?
  • Zugangsdaten nie in den Quelltext schreiben lassen, sondern in Umgebungsvariablen oder eine eigene, nicht eingecheckte Konfiguration.
  • Die KI ausdrücklich nach Tests für Randfälle und Fehlerpfade fragen und diese Tests selbst lesen.
  • Änderungen klein halten: Ein überschaubarer Merge Request lässt sich prüfen, tausend Zeilen auf einmal nicht.
  • Im Team festhalten, welche KI-Werkzeuge erlaubt sind und welcher Code hineindarf. Wie das geht, zeigt unser Ratgeber KI-Nutzungsrichtlinie: Was gehört hinein?

Wir helfen dir dabei

Beim KI-Code-Review prüfen unsere Entwickler deinen Code, egal mit welchem KI-Werkzeug er entstanden ist: einmalig vor dem Livegang oder laufend bei jeder Änderung. Du bekommst priorisierte Befunde, verständliche Erklärungen und konkrete Lösungsvorschläge, und wir gehen den Bericht gemeinsam mit dir durch. Automatisierte Analysen laufen auf Wunsch ausschließlich auf unserer eigenen Infrastruktur. Wer dauerhaft mit KI entwickelt, bekommt mit unserer KI-Entwicklungsplattform GitLab, automatische Prüfungen, Test- und Live-Umgebung aus einer Hand. Welche Chancen und Risiken KI-gestützte Entwicklung grundsätzlich hat, erklären wir auf unserer Seite zum Programmieren per Beschreibung.

Du hast ein Projekt, das eine KI zu großen Teilen geschrieben hat? Schreib uns an support@baebeca.de, ruf uns unter 02261-81616-0 an oder nimm Kontakt mit uns auf – wir sagen dir, wie ein Review für dich aussehen kann.

Alle Beiträge

Du hast Fragen? Wir helfen dir gern weiter.

Ruf uns an unter 02261-81616-0 oder schreib uns – wir melden uns zeitnah.