KI-Ratgeber · Sicherheit
Sicherheit von KI-generiertem Code: die häufigsten Fallstricke
Wo mit ChatGPT, Claude oder anderen KI-Werkzeugen erstellte Anwendungen typischerweise verwundbar sind und wie Sie das vermeiden.
Geheimnisse im Code
API-Schlüssel landen erstaunlich oft direkt im Quelltext, in Konfigurationsdateien im Repository oder im Frontend, wo jeder Besucher sie auslesen kann. Schlüssel gehören in eine getrennte Konfiguration auf dem Server und dürfen nicht in Logs auftauchen.
Wurde ein Schlüssel veröffentlicht, reicht es nicht, ihn aus dem Code zu löschen. Er bleibt in der Versionsgeschichte und muss beim Anbieter sofort ersetzt werden.
Fehlende Berechtigungsprüfung
Eine Anmeldung allein reicht nicht. Die Anwendung muss bei jedem Zugriff auf dem Server prüfen, ob der angemeldete Nutzer diese Daten sehen oder ändern darf. Prüfungen, die nur im Browser stattfinden, lassen sich umgehen.
Fehlt diese Prüfung, genügt oft eine geänderte Nummer in der Adresse, und ein Nutzer sieht die Daten eines anderen.
Ungeprüfte Eingaben
SQL-Injection, Cross-Site-Scripting und unsichere Datei-Uploads entstehen, wenn Eingaben ungeprüft verarbeitet werden. Gängige Frameworks bringen Schutzmechanismen mit. KI-generierter Code umgeht sie aber manchmal, etwa durch selbst zusammengesetzte Datenbankabfragen.
Erfundene und veraltete Pakete
KI-Werkzeuge schlagen gelegentlich Pakete vor, die es nicht gibt. Angreifer registrieren solche Namen gezielt und hinterlegen dort Schadcode. Andere Vorschläge sind veraltet oder haben bekannte Lücken. Jede Abhängigkeit sollte deshalb vor dem Livegang geprüft und danach regelmäßig aktualisiert werden.
Prompt Injection bei KI-Funktionen
Nutzt Ihre Anwendung selbst KI-Modelle, können Texte von außen ihr Verhalten beeinflussen, etwa Anweisungen in Dokumenten, E-Mails oder Webseiten, die die KI verarbeitet. Aktionen, die die KI auslösen darf, sollten deshalb eng begrenzt sein. Antworten der KI sollten nie ungeprüft als Befehl oder Code ausgeführt werden.
Missbrauch begrenzen
Anmeldung, Formulare und KI-Aufrufe brauchen Grenzen pro Nutzer und Zeitraum (Rate Limiting). Sonst kann jemand die Anwendung missbrauchen, um hohe Kosten zu verursachen oder Daten abzugreifen. Mehr dazu unter Kosten im Betrieb.
Fehlermeldungen, die zu viel verraten
Im Entwicklungsmodus zeigen viele Anwendungen ausführliche Fehlermeldungen mit Pfaden, Datenbankabfragen oder Konfiguration. Im Betrieb gehört das abgeschaltet: Nutzer sehen eine kurze Meldung, die Details landen im Log.
Alle Punkte zum Abhaken finden Sie in der Checkliste vor dem Livegang.
Sicherheitsprüfung anfragen
Im kostenlosen Erstgespräch per Videocall klären wir, wie wir Ihre Anwendung prüfen.