Transparenz beginnt nicht beim KI-Hinweis

Seit dem 2. August gelten die Transparenzpflichten des europäischen AI Act. Bei bestimmten Systemen müssen Menschen erkennen können, dass sie direkt mit KI interagieren. Für Unternehmen scheint die Aufgabe einfach: Hinweis einblenden, Pflicht erfüllt.

Doch damit beginnt die eigentliche Frage erst. Was versteht ein Nutzer von einer KI-Auswertung, wenn er zwar weiß, dass KI beteiligt ist, aber nicht, wofür seine Antworten verwendet werden? Wie soll er einer Empfehlung vertrauen, deren Grundlage er nicht einschätzen kann?

Ein Hinweis erklärt noch keine Entscheidung

Bei erklärungsbedürftigen B2B-Angeboten beginnt der Austausch oft in einem digitalen Tool. Interessenten beantworten Fragen zu ihrem Unternehmen und erhalten eine Einschätzung. Für den Anbieter ist das ein Weg, qualifizierte Kontakte zu gewinnen. Für die Nutzer ist es eine erste Form der Beratung.

Diese Erwartungen müssen zusammenpassen. Wenn ein Tool nach Budget und internen Prozessen fragt, muss der Zweck erkennbar sein. Gehen die Angaben nur in eine Auswertung ein? Werden sie an den Vertrieb weitergegeben? Beruht die Empfehlung auf festen Kriterien, auf KI oder auf beidem? Hat ein Mensch das Ergebnis geprüft?

Personalisierung braucht eine Grundlage

Ein interaktiver Lead-Magnet kann mehr leisten als ein Formular mit schöner Oberfläche. Er kann je nach Antwort nachhaken: Fehlen Anfragen oder werden daraus zu selten Aufträge? Die Auswertung gibt dem Interessenten eine erste Orientierung und dem Anbieter einen konkreten Einstieg ins Gespräch.

Allerdings wird ein Ergebnis nicht schon deshalb wertvoll, weil es personalisiert klingt. Wenn unterschiedliche Antworten zur gleichen Empfehlung und zum gleichen Buchungskalender führen, ist die Auswertung vor allem ein Vertriebsfilter. Der Nutzer merkt, dass sein Aufwand und der versprochene Erkenntnisgewinn nicht zusammenpassen.

Unternehmen müssen deshalb vor dem Einsatz festlegen, welche Informationen für eine Empfehlung relevant sind und was daraus abgeleitet werden darf. Welche Aussage ist mit den vorhandenen Angaben möglich? Wo beginnt Spekulation? Wann braucht es jemanden, der nachfragt und Verantwortung für seine Einschätzung übernimmt?

Solange diese Fragen offen sind, hilft auch ein leistungsfähiges Modell nur begrenzt. Es kann eine unklare Logik schneller ausführen. Vertrauen entsteht daraus nicht.

Transparenz muss zur Nutzerführung gehören

Der AI Act verlangt bei bestimmten Systemen, die unmittelbare Interaktion mit KI kenntlich zu machen. Ein Algorithmus im Hintergrund fällt nicht pauschal unter genau diese Hinweispflicht. Die Information über Datenverwendung und Zweck ist ebenfalls nicht in jedem Fall dieselbe Pflicht nach dem AI Act.

Für den Nutzer ist diese rechtliche Trennung kaum entscheidend. Er gibt Antworten, erhält ein Ergebnis und wird möglicherweise kontaktiert. Wenn Unternehmen erst am Ende erklären, wie diese Schritte zusammenhängen, kommt die Transparenz zu spät.

Sie gehört an die Stellen, an denen Menschen entscheiden: bevor sie Angaben machen, wenn sie eine Auswertung lesen und bevor daraus ein Vertriebsgespräch wird. Dafür müssen Unternehmen weder jeden Prompt noch ihre technische Architektur offenlegen. Sie müssen sagen, was das System tut, was es nicht leisten kann und was mit den Antworten geschieht.

Entscheidend ist, ob ein Nutzer nach der Auswertung versteht, worauf die Empfehlung beruht und welchen nächsten Schritt er gehen möchte.

Ein gutes KI-Tool kann Aufmerksamkeit in ein qualifiziertes Gespräch überführen. Das gelingt, wenn der Wert für den Nutzer vor dem Interesse am Lead steht. Ein Hinweis schafft Sichtbarkeit. Ob daraus Vertrauen wird, entscheidet der gesamte Prozess.