Spotter-Sicherheit

Spotter ist die KI in Liftcue. Spotter ist eine KI, keine Person, und weder ein Notfalldienst noch ein Angebot für psychische Gesundheit. Diese Seite erklärt, wie Spotter mit einer Nachricht umgeht, in der du schreibst, dass du dir etwas antun willst, und welche Schutzvorkehrungen es dafür gibt.

Was Spotter ist

Spotter ist eine KI, die Training vorschlägt. Spotter gibt allgemeine Fitness-Informationen, keine medizinische Beratung. KI-Begleiter wie Spotter sind für manche Minderjährige möglicherweise nicht geeignet. Liftcue ist für Menschen ab 16 Jahren, und 16- und 17-Jährige dürfen es nur mit Zustimmung eines Elternteils nutzen, wo das Gesetz es verlangt (siehe unsere Nutzungsbedingungen).

Die Prüfung, die zuerst läuft

Jede Freitext-Nachricht, die du im Spotter-Chat, im Chat zum Bearbeiten deines Trainingsplans und im Einrichtungs-Chat sendest, wird auf unseren Servern auf Formulierungen zu Suizid, Selbstverletzung oder Essstörungen geprüft. Die Prüfung läuft, bevor ein KI-Modell aufgerufen wird. Kein KI-Modell entscheidet darüber, deshalb führen dieselben Worte immer zum selben Ergebnis.

Die Prüfung ist eine Liste von Formulierungen, die klingen, als würde jemand über sich selbst sprechen, in allen Sprachen, die die App unterstützt. Jede Sprache wird bei jeder Nachricht geprüft, weil Menschen Sprachen mischen. Sie ist vorsichtig angelegt: Sie sucht nach Formulierungen, nicht nach einzelnen Schreckenswörtern, deshalb löst Trainingssprache wie „Kreuzheben“ sie nicht aus.

Was du bekommst, wenn sie anschlägt

Statt einer KI-Antwort bekommst du eine feste Antwort, die wir geschrieben haben. Sie sagt dir, dass Spotter eine KI ist und dir nicht die Unterstützung geben kann, die ein Mensch geben kann, verweist dich auf eine kostenlose Hilfsstelle und nennt dir die Notrufnummer deines Landes. Am Ende steht, dass Spotter für dein Training da ist, wann immer du willst. Kein KI-Modell sieht deine Nachricht, und die Antwort verbraucht nichts von deinem KI-Kontingent.

Die Hilfsstelle richtet sich nach der Regionseinstellung deines Handys, die die App mit deinen Anfragen sendet. Wenn wir dein Land nicht kennen, nehmen wir das Land, das zu deiner Sprache gehört (Englisch: USA, Italienisch: Italien, Deutsch: Deutschland, Spanisch: Spanien, Französisch: Frankreich, Niederländisch: Niederlande, Portugiesisch: Portugal). Ist dein Land nicht in dieser Liste, verweist die Antwort auf findahelpline.com und sagt dir, den örtlichen Notruf anzurufen.

• USA — 988 Suicide & Crisis Lifeline: Anruf oder SMS an 988. Notruf: 911.
• Kanada — 9-8-8 Suicide Crisis Helpline: Anruf oder SMS an 988. Notruf: 911.
• Vereinigtes Königreich — Samaritans: Anruf unter 116 123. Notruf: 999.
• Australien — Lifeline: Anruf unter 13 11 14. Notruf: 000.
• Neuseeland — 1737 Need to talk?: Anruf oder SMS an 1737. Notruf: 111.
• Italien — Telefono Amico Italia: Anruf unter 02 2327 2327. Notruf: 112.
• Deutschland — TelefonSeelsorge: Anruf unter 0800 111 0 111. Notruf: 112.
• Spanien — Línea 024: Anruf unter 024. Notruf: 112.
• Frankreich — Numéro national de prévention du suicide: Anruf unter 3114. Notruf: 112.
• Niederlande — 113 Zelfmoordpreventie: Anruf unter 0800-0113. Notruf: 112.
• Portugal — Linha de Prevenção do Suicídio (SNS 24): Anruf unter 1411. Notruf: 112.

Die Sicherheitsanweisung, die wir dem KI-Modell geben

Jeder Text, den ein KI-Modell in Spotter für dich schreibt, trägt eine Sicherheitsanweisung, die allem anderen in seinen Anweisungen vorgeht. Kurz gesagt steht darin:

• Du bist ein KI-Trainingsassistent, kein Arzt. Stelle nie eine Diagnose zu einer Verletzung oder Erkrankung; sag, was die Person im Training tun kann, und empfiehl bei allem, was eine Diagnose braucht, einen Arzt oder Physiotherapeuten.
• Wenn die Person Brustschmerzen, Ohnmacht oder Beinahe-Ohnmacht, Atemnot oder Schmerzen erwähnt, die scharf, plötzlich oder schlimmer werdend sind, sag ihr zuerst, dass sie das Training beenden und einen Arzt aufsuchen soll, oder bei starken Beschwerden den Notruf rufen soll.
• Wenn die Person Anzeichen für eine Essstörung zeigt, schlage keine Gewichtsabnahme, keine Kalorienkürzung und keine Diät vor. Bleib beim Training und rate behutsam, mit einem Arzt zu sprechen.
• Wenn die Person erwähnt, dass sie sich etwas antun oder ihr Leben beenden will, gib keinen Trainingsrat und ermutige sie freundlich, sich jetzt an eine Krisen-Hotline oder den Notruf zu wenden. Das ist ein zweites Sicherheitsnetz, falls die Prüfung auf Formulierungen eine Nachricht übersieht.
• In normalen Trainingsgesprächen bleiben diese Regeln stumm: keine zusätzlichen Warnungen oder Haftungsausschlüsse.

Was wir speichern

Nichts von dem, was du in einer Nachricht geschrieben hast, die die Prüfung auslöst, wird gespeichert. Es wird weder in deinem Chatverlauf noch in Spotters Gedächtnis abgelegt, nicht an unser Analyse-Tool oder unser Tool für Absturzberichte gesendet und nicht in unsere Logs geschrieben. Dasselbe gilt für unsere feste Antwort. Wir zählen nur, wie oft die Antwort angezeigt wird, nach Art des Chats und Kategorie der Formulierung, ohne Text und ohne Angaben dazu, wer es war, damit wir berichten können, wie oft das Protokoll genutzt wird, wo das Gesetz es verlangt. Die einzige andere Spur ist ein Einweg-Fingerabdruck der Anfrage, der verhindert, dass dieselbe Anfrage zweimal verarbeitet wird, und der von deiner nächsten Nachricht überschrieben wird. Aus ihm lassen sich deine Worte nicht zurückgewinnen.

Wie wir die Liste der Formulierungen aktuell halten

Wir pflegen die Liste der Formulierungen selbst, testen sie an Beispielnachrichten, auch mit Trainingsjargon, der sie nicht auslösen darf, und prüfen sie mit jeder Version der App. Außerdem prüfen wir die Rufnummern der Hilfsstellen vor jeder Version, die die Liste ändert, noch einmal. Wenn dir eine Lücke oder ein Fehlalarm auffällt, schreib an support@liftcue.com. Du musst nicht angeben, was du getippt hast.

Wenn du jetzt Hilfe brauchst

Wenn du daran denkst, dir etwas anzutun, sprich heute mit jemandem: Die Nummern oben sind kostenlos. Wenn du gerade in Gefahr bist, ruf den örtlichen Notruf an. Siehe auch unsere Datenschutzerklärung und unsere Nutzungsbedingungen.