KI-Anbieter sammeln Trainingsdaten dort ein, wo sie sie finden, und manche Grenzen werden dabei offenbar bewusst ignoriert. Für kleine IT-Teams bedeutet das, dass öffentliche Websites, Quellcode und lokale KI-Agenten nicht automatisch unter eigener Kontrolle bleiben.
Der Kampf um Trainingsdaten
Große Sprachmodelle brauchen enorme Mengen an Text, Bildern, Büchern und Code. Der heise-Meinungsbeitrag beschreibt, wie Crawler trotz robots.txt auf Webinhalte zugreifen und wie Coding-Agenten beim Start ungefragt Git-Projekte untersuchen können. Auch der Einsatz aufgezeichneter Arztgespräche für KI-Training wird im Beitrag mit Bezug auf Informationen der Zeit kritisiert. Dazu kommen Berichte über den massenhaften Kauf und das Einscannen alter Bücher.
Was du absichern musst
Für ein fünfköpfiges Ops-Team beginnt das Problem bei der eigenen Angriffsfläche. Prüfe, welche Websites öffentlich erreichbar sind, welche Inhalte dort liegen und ob dein Webserver Crawler überhaupt sinnvoll begrenzt. robots.txt ist dabei nur eine Bitte, keine Zugriffskontrolle. Vertrauliche Dokumente, interne Wikis und Quellcode gehören hinter Authentifizierung, nicht hinter einen gut gemeinten Eintrag in einer Textdatei.
Bei Coding-Agenten solltest du den Zugriff wie bei fremdem Code behandeln. Der Agent braucht eine klar begrenzte Sandbox, keine Produktionszugänge und keine automatisch vererbten SSH-Schlüssel oder Cloud-Tokens. Prüfe außerdem, welche Dateien beim Start gelesen werden, welche Abhängigkeiten nachgeladen werden und wohin der Prozess Netzwerkverbindungen aufbauen darf. Ein eigener Runner oder eine isolierte virtuelle Maschine ist dafür oft sinnvoller als ein Agent direkt auf dem Admin-Rechner.
Hype und blinde Flecken
Der heise-Text ist ein pointierter Meinungsbeitrag, kein vollständiger Lagebericht über alle KI-Anbieter. Nicht jeder Crawler ignoriert Regeln, und nicht jede Nutzung öffentlich erreichbarer Daten ist automatisch rechtswidrig. Trotzdem bleibt ein praktisches Risiko: Eine veröffentlichte Information kann kopiert, weiterverarbeitet und später nur schwer wieder entfernt werden.
Auch lokale Modelle lösen das Problem nicht vollständig. Wenn du ein Modell mit einem externen Dienst betreibst, können Prompts, Repository-Inhalte oder Logs den eigenen Netzbereich verlassen. Selbst beim lokalen Betrieb bleiben Urheberrecht, Datenschutz und die Herkunft der Trainingsdaten offene Fragen. Zusätzliche Vorsicht ist bei Gesundheitsdaten nötig, weil eine Zustimmung in einer App nicht automatisch bedeutet, dass Betroffene den konkreten Trainingszweck verstanden haben.
Konkrete Prüfungen im Betrieb
Lege für KI-Tools dieselben Mindestregeln fest wie für andere externe Dienste. Keine Secrets in Arbeitsverzeichnissen, kein Zugriff auf komplette Home-Verzeichnisse und keine ausgehenden Verbindungen ohne nachvollziehbaren Zweck. Aktiviere Audit-Logs, pinne verwendete Agent-Versionen und prüfe regelmäßig, ob ein Update neue Berechtigungen verlangt. Für öffentliche Inhalte solltest du außerdem festhalten, welche Daten wirklich veröffentlicht werden müssen und welche besser hinter Login, VPN oder gar nicht im Internet liegen.
robots.txt
Die Datei
robots.txtbeschreibt, welche Bereiche ein Webcrawler nach dem Willen des Betreibers nicht durchsuchen soll. Sie verhindert den Zugriff technisch nicht. Schutz bieten erst Authentifizierung, Zugriffskontrollen oder eine nicht öffentliche Bereitstellung.
Quelle: heise online, „WTF: Die KI-Hersteller werden beim Datensammeln immer skrupelloser“