Ethikboard

Ethische Grundsätze und Qualitätssicherung

Anonyme Ersteinschätzung für Betroffene von sexuellen Übergriffen und Gewalt

Verantwortung im Umgang mit KI bei sensiblen Themen

whisper to me setzt künstliche Intelligenz in einem besonders sensiblen Bereich ein: der anonymen Erstorientierung für Betroffene von sexualisierter Gewalt und häuslicher Gewalt. Diese Verantwortung nehmen wir ernst. Unsere Arbeit orientiert sich an klaren ethischen Grundsätzen und verfolgt das Ziel, Betroffenen zu helfen, ohne ihnen zu schaden.

Unsere ethischen Grundsätze

1. Anonymität und Datenschutz an erster Stelle

Der Schutz der Identität deiner Nutzung ist nicht verhandelbar. Unser System wurde so konzipiert, dass zu keinem Zeitpunkt personenbezogene Daten erhoben, gespeichert oder verknüpft werden. Wir können Chat-Verläufe weder einsehen noch Personen zuordnen. Diese Anonymität ist die Basis unseres Features – sie ist der Grund, warum Menschen unser Angebot nutzen und uns vertrauen.

2. Fachliche Fundierung statt Spekulation

Unser KI-System basiert auf einem kuratierten Bestand geprüfter Gesetzestexte und juristischer Fachdokumente (RAG-Verfahren). Es erfolgt keine Internetsuche und keine unkontrollierte Informationsgewinnung. Jede Antwort soll auf nachvollziehbaren, verlässlichen Quellen basieren. Wo das System an seine Grenzen stößt, kommuniziert es das transparent.

3. Empathie und Sensibilität

Wir sind uns bewusst, dass hinter jeder Anfrage ein Mensch in einer möglicherweise belastenden Situation steht. Das KI-System wurde darauf ausgelegt, einfühlsam und nicht wertend zu kommunizieren. Es stellt keine fordernden Fragen, bietet immer nur Gesprächsangebote, ermutigt und gibt klare Hinweise auf weitere Hilfsangebote.

4. Keine Rechtsberatung, sondern Orientierung

Unser Angebot ersetzt keine anwaltliche Beratung, keine psychotherapeutische Behandlung und keine polizeiliche Anzeigeerstattung. Es dient ausschließlich der allgemeinen Erstorientierung. Das System zeigt rechtliche Möglichkeiten auf und verweist auf professionelle Beratungsstellen – es gibt keine individuelle Rechtsberatung. Wo das System an seine Grenzen stößt, kommuniziert es das transparent.

Ethikboard und interdisziplinäre Begleitung

Zur Gewährleistung dieser Grundsätze haben wir ein unabhängiges Ethikboard eingerichtet, das uns kritisch begleitet und berät:

  • Fachliche Prüfung der Systemantworten (Stichproben aus anonymisierten Chat-Transkripten)
  • Kontinuierliche Bewertung der Qualität und Sensibilität der Kommunikation
  • Sicherstellung, dass keine diskriminierenden, stigmatisierenden oder retraumatisierenden Inhalte erzeugt werden
  • Beratung zu ethischen Fragestellungen und technischen Weiterentwicklungen

Das Board setzt sich zusammen aus:

  • Jurist*innen mit Schwerpunkt Straf- und Opferschutzrecht
  • Psycholog*innen und Traumatherapeut*innen
  • Datenschutzexpert*innen
  • Vertreter*innen von Betroffeneninitiativen und Beratungsstellen

Das Board tagt regelmäßig und gibt Empfehlungen, die wir verbindlich umsetzen.

Transparenz und Evaluation

Wir evaluieren die Qualität unseres Angebots kontinuierlich durch:

  • Anonyme Nutzungsstatistiken (ohne Personenbezug)
  • Freiwilliges Feedback von Nutzenden (ebenfalls anonym)
  • Externe fachliche Bewertung durch unser Ethikboard
  • Regelmäßige Anpassung der Systemlogik und des Dokumentenbestands auf Basis dieser Rückmeldungen

Diese Ergebnisse werden in anonymisierter, zusammengefasster Form veröffentlicht, um Transparenz herzustellen und anderen Projekten im Bereich KI-gestützter Hilfsangebote Orientierung zu bieten.

Grenzen und Verantwortung

Wir wissen, dass KI keine menschliche Beratung ersetzen kann. Wir werben nicht damit, dass unser Tool „alle Probleme löst". Stattdessen kommunizieren wir ehrlich:

  • Wo die Grenzen des Systems liegen
  • Dass es sich um einen Erstkontakt, nicht um professionelle Beratung handelt
  • Dass bei konkreten Fragen zu rechtlichen Schritten immer eine Fachperson hinzugezogen werden sollte
  • Dass bei akuter Gefährdung sofort der Notruf (110) gewählt werden soll

Unser Versprechen

Wir verpflichten uns, unsere ethischen Grundsätze nicht nur einmal festzulegen, sondern sie aktiv zu leben:

  • Durch kontinuierliche fachliche Begleitung
  • Durch transparente Kommunikation über Möglichkeiten und Grenzen
  • Durch den kompromisslosen Schutz der Anonymität unserer Nutzenden
  • Durch den Respekt vor der Würde und Selbstbestimmung jeder Person, die unser Angebot nutzt

Wenn du Fragen, Anregungen oder Kritik zu unseren ethischen Grundsätzen hast, kontaktiere uns gerne.