KI-Ratgeber · Prüfung vor dem Livegang

Checkliste vor dem Livegang: KI-generierten Code prüfen

Was Sie prüfen sollten, bevor eine mit ChatGPT, Claude oder anderen KI-Werkzeugen erstellte Anwendung für echte Nutzer online geht.

Erstgespräch vereinbaren

Warum KI-generierter Code eine Prüfung braucht

KI-Werkzeuge liefern oft Code, der auf den ersten Blick funktioniert. Fehlerfälle, Randbedingungen und Sicherheitsaspekte werden dabei häufig übersehen. Eine Anwendung, die läuft, ist deshalb noch keine sichere Anwendung.

Die Checkliste

Funktion: Alle Hauptwege durchspielen, auch Fehlerfälle sowie leere oder ungültige Eingaben.
Abhängigkeiten: Gibt es alle Pakete wirklich? KI-Werkzeuge erfinden gelegentlich Paketnamen, und Angreifer registrieren solche Namen gezielt. Sind die Pakete aktuell gepflegt und frei von bekannten Schwachstellen?
Geheimnisse: Stehen API-Schlüssel oder Passwörter im Code, im Frontend, im Repository oder in dessen Versionsgeschichte?
Berechtigungen: Sieht jeder Nutzer nur seine eigenen Daten, und wird das auf dem Server geprüft?
Eingaben: Werden Formulareingaben, Uploads und Parameter geprüft? Mehr dazu unter Sicherheit und Fallstricke.
Datenschutz: Ist klar, welche personenbezogenen Daten an KI-Anbieter gehen? Mehr dazu unter Datenschutz.
Kosten: Gibt es Obergrenzen für KI-Aufrufe, pro Nutzer und insgesamt? Mehr dazu unter Kosten im Betrieb.
Betrieb: Sind Monitoring, Backups und eine getestete Wiederherstellung eingerichtet? Mehr dazu unter Betrieb und Monitoring.
Tests: Gibt es automatisierte Tests für die kritischen Funktionen?

Code-Review durch einen Menschen

Code von KI-Werkzeugen sollte von einer Person gelesen werden, die ihn versteht. Gerade bei Anmeldung, Zahlungen und Datenbankzugriffen lohnt sich ein zweiter Blick.

Diese Prüfung übernehmen wir auch für Sie: KI-Anwendung produktionsreif machen.

Prüfung Ihres KI-Entwurfs anfragen

Im kostenlosen Erstgespräch per Videocall klären wir, was Ihre Anwendung vor dem Livegang braucht.