KI-Tools im Team einsetzen: Aufgabe, Daten und menschliche Prüfung

Beginnen Sie mit einer Aufgabe, deren Ergebnis sich prüfen lässt

„Wir wollen KI nutzen“ ist kein Arbeitsauftrag. Wählen Sie eine begrenzte Tätigkeit, etwa einen Entwurf für interne Dokumentation, das Zusammenfassen einer nicht vertraulichen technischen Anleitung oder das Erzeugen von Testdaten ohne echte Kundendatensätze. Bestimmen Sie vorher, woran die verantwortliche Person erkennt, ob das Ergebnis brauchbar ist.

Der NIST-Rahmen für KI-Risiken behandelt Risiken abhängig vom konkreten Einsatz und empfiehlt, Zuständigkeiten für menschliche Aufsicht festzulegen. Das ist ein freiwilliger Orientierungsrahmen, keine rechtliche Freigabe. Die praktische Folgerung für ein Team: Wer das Ergebnis verwendet, braucht Zeit, Quellen und Fachwissen, um es zu prüfen. Eine bloße Schaltfläche mit „Akzeptieren“ schafft keine sinnvolle Kontrolle.

Trennen Sie den Einsatz eines fertigen Werkzeugs von der Entwicklung eines KI-Systems. Wenn ein Team ein vorhandenes Werkzeug für eine klar definierte Aufgabe verwendet, bleiben Auswahl, Zugriff und Prüfung zu klären. Das ist kein Auftrag zur Entwicklung eines Modells oder einer eigenen KI-Anwendung.

Freigabecheckliste: Was darf das Team eingeben?

Produktnamen und Kontostufen machen einen Unterschied. Ein Anbieter kann für Geschäftskonten andere Datenbedingungen nennen als für private Konten. Lesen Sie die aktuelle Richtlinie des konkret eingesetzten Produkts und prüfen Sie, ob die Organisation die betreffende Funktion freigegeben hat. Eine Datenschutzbehauptung für einen Dienst gilt nicht automatisch für andere KI-Werkzeuge.

Fiktives Beispiel: einen Testentwurf mit KI vorbereiten

Fiktives Beispiel, keine Division5-Kundenreferenz: Ein Entwicklungsteam möchte zu einer neuen Rabattregel zusätzliche Testideen sammeln. Die fachliche Regel ist freigegeben, die Eingabe enthält keine Kundendaten oder echten Bestellungen.

1. Die Product Ownerin bestätigt, welche Rabattwerte und Kombinationen fachlich erlaubt sind.
2. Eine Entwicklerin gibt nur die freigegebene Regel und einen erfundenen Beispieldatensatz in das zugelassene Werkzeug ein.
3. Das Werkzeug schlägt Fälle vor, etwa leeren Warenkorb, Mindestwert knapp unterschritten und zwei Rabatte zusammen.
4. Die QA-Fachkraft prüft jeden Fall gegen die bestätigte Regel, ergänzt fehlende Grenzfälle und verwirft unpassende Vorschläge.
5. Erst nach menschlicher Prüfung werden ausgewählte Fälle in die Testsuite übernommen und im normalen Review geprüft.

Das Werkzeug liefert hier mögliche Ideen, keine fachliche Freigabe. Wenn es einen Fall übersieht, ist die Testsuite weiterhin unvollständig. Das Team sollte daher mindestens ein bekanntes Beispiel verwenden, an dem es erkennt, ob der Vorschlag brauchbar ist.

Risiken an Eingaben, Ausgaben und verbundenen Datenquellen

Eine unbedachte Eingabe kann vertrauliche Inhalte an einen externen Dienst übermitteln. Ein plausibel formulierter Text kann zugleich falsch sein. Berücksichtigen Sie deshalb nicht nur die sichtbare Antwort, sondern auch verbundene Dateien, Suchquellen, Browserzugriff, Code-Repositories und gemeinsam genutzte Konten.

Wenn die Organisation einen konkreten Dienst freigibt, halten Sie fest, welche Datenkategorien zulässig sind, welche Einstellungen gelten und wie Beschäftigte bei versehentlicher Eingabe reagieren sollen. Kontrollieren Sie außerdem, ob die menschliche Prüfung unabhängig genug ist: Eine Person, die die Antwort nicht fachlich beurteilen kann, kann den Fehler kaum erkennen.

Bei Ergebnissen mit möglichen Folgen für Kundinnen, Kunden, Beschäftigte, Sicherheit oder Geld gelten strengere interne Prüfungen. Lassen Sie die passende Fachstelle entscheiden, ob eine Aufgabe überhaupt für automatisierte Unterstützung freigegeben wird. Diese Checkliste ersetzt keine Datenschutz-, Sicherheits- oder Rechtsprüfung.

Eine einfache Regel für das Team festhalten

Eine interne Vereinbarung sollte vier Fragen beantworten:

1. Für welche Aufgaben ist das Werkzeug zugelassen?
2. Welche Daten dürfen weder eingegeben noch über Integrationen freigegeben werden?
3. Wer prüft Ergebnisse, bevor sie in Code, Kundenkommunikation oder Entscheidungen einfließen?
4. Wem melden Mitarbeitende einen Fehler oder eine versehentliche Offenlegung?

Division5 vermittelt Fachkräfte, die KI-Werkzeuge in ihrer täglichen Arbeit einsetzen. Bei Entwicklungsteams sind KI-Abonnements im Preis enthalten. Wenn Sie ein Werkzeug im Kundenteam nutzen möchten, stellen Sie Produkt, Konto, Datenregeln und Prüfverantwortung klar und geben Sie externen Fachkräften nur die erforderlichen Zugänge. Für alle Fachkräfte gilt eine 30-tägige Testphase; die Bedingungen stehen vor dem Start schriftlich fest. Teamzusammenarbeit besprechen.