Einleitung
Clara Reben las die Beschwerden erst, als das Start-up schon abgewickelt war. Vorher hatte sie sie als Einzelfälle betrachtet: ein falscher Vorschlag hier, ein unfair wirkender Ausschluss dort. Auf dem ausgedruckten Stapel sahen die Fälle weniger zufällig aus. Das war unangenehmer als jede Investorenrunde.
Heute lebt Clara in München und berät junge Unternehmen, die KI-Funktionen einführen wollen. Ihre Arbeit beginnt oft mit der Frage, was passieren müsste, damit ein Produkt besser nicht startet.
Geschichte des Weges in die KI
Claras erstes Unternehmen hatte ein Empfehlungssystem zu schnell eingebaut. Es sollte Nutzerinnen helfen, passende Angebote zu finden; später zeigte sich, dass bestimmte Gruppen schlechtere Optionen sahen und kaum eine Möglichkeit hatten, die Entscheidung anzufechten. Die Insolvenz war nicht nur finanziell schmerzhaft. Sie war auch eine Lektion in Verantwortung, die zu spät kam.
Clara arbeitete sich in Risikomanagement, Modellkarten und europäische Regulierungslogik ein. Dabei lernte sie, dass Governance nicht aus schönen Grundsätzen besteht. Sie braucht Zuständigkeiten, Testfälle, Dokumentation und das Recht, einen Launch zu stoppen. Ihr erstes Beratungsprojekt war ein Prüfprotokoll für kleine KI-Produkte. Es fragte nach Datenherkunft, Opt-out, menschlicher Aufsicht und Beschwerdewegen. Beim Test vergaß ein Team ausgerechnet die Frage, wer die Protokolle später aktualisiert. Clara ließ die Lücke stehen, bis sie geklärt war.
Aktuelle Arbeit
Heute begleitet Clara Produktteams vor riskanten Veröffentlichungen. Bei einem Recruiting-Tool fiel ihr auf, dass historische Daten bestimmte Lebensläufe schlechter behandelten: längere Pausen, Umwege, nichtlineare Ausbildung. Das Team wollte erst nur die Schwelle anpassen. Clara drängte auf einen anderen Aufbau: Assistenz statt automatische Vorauswahl, Begründungspflicht statt stummes Ranking.
Ihr Nutzen ist schwer in Jubelzahlen zu fassen. Manche Schäden entstehen gerade nicht, weil Funktionen kleiner, langsamer oder erklärbarer werden. Clara nennt das Bauprüfung statt Bremsen. Niemand feiert einen Balkon dafür, dass er nicht einstürzt.
Persönlicher Rat
„Ethik ist kein Kapitel am Ende des Pitchdecks“, sagt Clara. Wer KI entwickelt, sollte vor dem ersten Prototyp klären, wem ein Fehler schadet und wer widersprechen kann. Je später diese Fragen kommen, desto teurer werden sie.
Schlüsselfakten
Alter und Ort: 31, München.
Hintergrund: gescheitertes Start-up, Produktverantwortung, Neustart.
Einstieg in KI: Prüfprotokoll für Datenherkunft, Nutzerrechte und menschliche Aufsicht.
Schwerpunkt heute: KI-Governance für junge Unternehmen.
Typische Werkzeuge: Risikomatrizen, Modellkarten, Audit-Workshops.
Werkstattnotiz
Claras älteste Vorlage hat eine leere Zeile, die nie gelöscht wird: „Wer ruft die betroffene Person an?“ Teams füllen vieles aus, diese Zeile bleibt auffällig oft unklar. Clara lässt sie absichtlich sichtbar. Dort zeigt sich, ob Verantwortung nur dokumentiert oder tatsächlich übernommen wird.