Startseite / Blog / Chatbots & Assistenten

Datensicherheit bei der Nutzung von KI-Tools: Was Sie nicht in einen Chatbot einfügen sollten

Daten nach Sensibilität einordnen, wissen, was in der Richtlinie eines Anbieters zu prüfen ist, und praktische Regeln, mit denen Privatpersonen und kleine Unternehmen KI sicherer nutzen.

Redaktion: PickYourToolAktualisiert: 2026-10-265 Min. Lesezeit

Einen Vertrag in einen Chatbot einzufügen, um ihn zusammenfassen zu lassen, ist sehr bequem und kann leicht Ärger verursachen, wenn Sie nicht wissen, wohin diese Daten gehen. Dieser Artikel will Sie nicht von der KI-Nutzung abschrecken, sondern Ihnen helfen, klare Grenzen zu ziehen: was hineindarf, was nicht und was Sie prüfen sollten, bevor Sie einem Tool vertrauen.

Wohin Ihre Daten gehen, wenn Sie auf Senden drücken

Wenn Sie Inhalte in einen Online-KI-Dienst eingeben, werden sie zur Verarbeitung an die Server des Anbieters gesendet. Je nach Dienst und Tarif kann der Anbieter:

• den Gesprächsverlauf in Ihrem Konto speichern;
• menschlichen Prüfern einige Gespräche zeigen, um die Qualität zu verbessern oder Missbrauch zu untersuchen;
• Gespräche zum Training von Modellen verwenden, es sei denn, Sie schalten diese Option ab oder nutzen einen Tarif mit der Zusage, nicht zu trainieren;
• Daten an Infrastruktur-Subunternehmer weitergeben (Cloud, Speicher).

Die konkreten Bedingungen unterscheiden sich zwischen Anbietern, zwischen kostenlosen, persönlichen und Business-Tarifen sowie zwischen App und API. Die genaue Antwort steht deshalb immer in der aktuellen Datenschutzrichtlinie und den Nutzungsbedingungen für genau den Tarif, den Sie nutzen, und nicht in einem Artikel wie diesem.

Daten in drei Stufen einteilen

Stufe 1: öffentlich. Inhalte, die bereits auf einer Website stehen, Pressemitteilungen, bereits verkaufte Produkte. Sie können sie frei verwenden.

Stufe 2: intern. Marketingpläne, noch nicht versendete Angebote, Arbeitsabläufe, interne E-Mails ohne personenbezogene Daten. Nutzen Sie sie, nachdem Sie die Richtlinie gelesen, gegebenenfalls die Option zur Datennutzung für das Training abgeschaltet und Eigennamen entfernt haben, wo sie nicht nötig sind.

Stufe 3: sensibel. Dazu gehören personenbezogene Daten von Kunden und Mitarbeitern (vollständige Namen mit Telefonnummer, Adresse, Ausweisnummer, Bankkonto), Gesundheitsinformationen, Verträge mit Vertraulichkeitsklauseln, proprietärer Quellcode, API-Schlüssel und Passwörter. Geben Sie sie nicht in öffentliche KI-Tools ein. Wenn es wirklich nötig ist, nutzen Sie nur einen Business-Tarif oder einen privat betriebenen Dienst, den eine fachkundige Person geprüft hat.

Fünf Punkte, die Sie in der Richtlinie prüfen sollten

1. Training: Werden Ihre Daten zum Training von Modellen verwendet, und können Sie das abschalten?
2. Aufbewahrung: Wie lange werden sie gespeichert, wie werden sie gelöscht, werden sie wirklich aus den Systemen entfernt?
3. Leser: Liest ein Mensch den Inhalt der Gespräche, und in welchen Fällen?
4. Standort und Übermittlung: Wo werden die Daten verarbeitet, werden sie ins Ausland übermittelt?
5. Zertifizierungen und vertragliche Zusagen: Gibt es für den Business-Tarif einen Auftragsverarbeitungsvertrag (DPA) und eine unabhängige Sicherheitszertifizierung?

Wenn Sie nicht auf alle fünf Punkte eine klare Antwort finden, betrachten Sie das Tool als noch nicht sicher für Daten ab Stufe 2.

Risiken jenseits der Speicherung

Sicherheit bei der Nutzung von KI betrifft nicht nur, was der Anbieter speichert. OWASP, die auf Anwendungssicherheit spezialisierte Organisation, listet Risiken auf, die speziell für Anwendungen mit Sprachmodellen gelten, darunter:

• Prompt Injection: In einer Webseite oder einem Dokument versteckte Inhalte bringen das Modell dazu, den Anweisungen eines Angreifers zu folgen. Das ist besonders besorgniserregend, wenn der Assistent handeln darf, etwa E-Mails senden oder Dateien lesen.
• Preisgabe sensibler Informationen durch Antworten.
• Übermäßige Berechtigungen: einem KI-Agenten mehr Zugriff geben, als er braucht.
• Zu großes Vertrauen in die Ergebnisse, zum Beispiel von der KI geschriebenen Code auszuführen, ohne ihn zu lesen.

Bei Tools mit „Agenten“-Funktionen (selbstständig im Web surfen, E-Mails senden, mit Dateien arbeiten) lautet das Sicherheitsprinzip: möglichst wenige Berechtigungen vergeben, Testkonten von echten Konten trennen und vor nicht rückgängig zu machenden Aktionen eine Bestätigung verlangen.

Praktische Regeln für Privatpersonen und kleine Unternehmen

• Vor dem Einfügen anonymisieren. Ersetzen Sie echte Namen durch „Kunde A“ und konkrete Beträge durch Spannen.
• Konten trennen. Nutzen Sie ein eigenes Arbeitskonto und aktivieren Sie die Zwei-Faktor-Authentifizierung.
• Verlauf oder Training abschalten, wenn der Dienst es erlaubt und Sie den Verlauf nicht brauchen.
• Niemals Passwörter, API-Schlüssel oder OTP-Codes in einen Chatbot eingeben, auch nicht „nur um Hilfe bei einem Fehler zu bekommen“. Wenn es schon passiert ist, ändern Sie den Schlüssel sofort.
• Eine einseitige Regel für Ihr Team schreiben: was erlaubt ist, was verboten ist, welche Tools freigegeben sind.
• Erweiterungen und Apps von Drittanbietern prüfen. Viele „KI“-Browsererweiterungen verlangen die Berechtigung, jede Seite zu lesen, die Sie öffnen.
• Die Richtlinie erneut lesen, wenn eine Änderungsmitteilung kommt. Bedingungen können sich im Lauf der Zeit ändern.

Wenn die Daten andere Personen betreffen

Wenn Sie personenbezogene Daten von Kunden oder Mitarbeitern verarbeiten, können rechtliche Pflichten bestehen, zum Beispiel eine Rechtsgrundlage zu haben, die Betroffenen zu informieren oder Übermittlungen ins Ausland zu beschränken. Die konkreten Regeln hängen von Land und Branche ab. In Vietnam ist das neue Gesetz zum Schutz personenbezogener Daten seit 2026 in Kraft; in Europa gibt es die DSGVO. Dieser Artikel ist keine Rechtsberatung; wenn Ihr Unternehmen große Mengen personenbezogener Daten verarbeitet, fragen Sie einen Anwalt oder Compliance-Experten.

Wenn Sie versehentlich sensible Daten gesendet haben

1. Löschen Sie das Gespräch und, falls möglich, entfernen Sie es aus dem Verlauf oder Speicher des Tools.
2. Handelte es sich um ein Passwort, einen API-Schlüssel oder ein Token, widerrufen Sie es und erstellen Sie sofort ein neues.
3. Notieren Sie, was wann gesendet wurde.
4. Handelte es sich um Kundendaten, informieren Sie die zuständige Person und prüfen Sie etwaige Meldepflichten.
5. Aktualisieren Sie Ihre internen Regeln, um eine Wiederholung zu vermeiden.

Fazit

KI sicher zu nutzen, setzt nicht voraus, dass Sie Sicherheitsexperte sind. Ordnen Sie Ihre Daten ein, lesen Sie die Richtlinie für den genauen Tarif, anonymisieren Sie, was möglich ist, und geben Sie keine Geheimnisse in einen Chatbot ein. Wählen Sie für wichtige Aufgaben einen Business-Tarif mit schriftlichen Zusagen. Denken Sie schließlich daran, dass jede Richtlinie sich ändern kann, weshalb Ihre vorsichtige Gewohnheit wichtiger ist als jedes Versprechen.

Dieser Artikel dient nur der allgemeinen Orientierung und ersetzt keine Rechts- oder Fachberatung. Siehe auch die Redaktions-, Affiliate- und Bewertungsrichtlinie.