Spotter-veiligheid

Spotter is de AI in Liftcue. Het is een AI, geen persoon, en geen noodhulp- of geestelijke gezondheidsdienst. Deze pagina legt uit hoe Spotter omgaat met een bericht waarin je schrijft dat je jezelf iets wilt aandoen, en welke waarborgen daaromheen zijn gebouwd.

Wat Spotter is

Spotter is een AI die trainingen voorstelt. Spotter geeft algemene fitnessinformatie, geen medisch advies. AI-gezelschap zoals Spotter is mogelijk niet geschikt voor sommige minderjarigen. Liftcue is voor mensen van 16 jaar en ouder, en 16- en 17-jarigen mogen het alleen gebruiken met toestemming van een ouder waar de wet dat vereist (zie onze Gebruiksvoorwaarden).

De controle die als eerste draait

Elk vrij getypt bericht dat je stuurt in de Spotter-chat, in de chat waarmee je je programma aanpast en in de installatiechat wordt op onze servers gecontroleerd op uitdrukkingen over zelfmoord, zelfbeschadiging of eetstoornissen. De controle draait voordat een AI-model wordt aangeroepen. Geen enkel AI-model beslist erover, dus dezelfde woorden geven altijd hetzelfde resultaat.

De controle is een lijst met uitdrukkingen die klinken als iemand die over zichzelf praat, in elke taal die de app ondersteunt. Elke taal wordt bij elk bericht gecontroleerd, omdat mensen talen door elkaar gebruiken. Ze is voorzichtig opgezet: ze zoekt naar uitdrukkingen, niet naar losse schrikwoorden, dus trainingstaal zoals “deadlift” zet de controle niet in gang.

Wat je krijgt als de controle aanslaat

In plaats van een AI-antwoord krijg je een vast antwoord dat wij hebben geschreven. Daarin staat dat Spotter een AI is en je niet de steun kan geven die een persoon kan geven, het verwijst je naar een gratis hulplijn en geeft het alarmnummer van je land. Het eindigt met de boodschap dat Spotter er is voor je training wanneer je wilt. Geen enkel AI-model ziet je bericht, en het antwoord gebruikt niets van je AI-limiet.

De hulplijn volgt uit de regio-instelling van je telefoon, die de app met je verzoeken meestuurt. Kennen we je land niet, dan gebruiken we het land dat bij je taal hoort (Engels: Verenigde Staten, Italiaans: Italië, Duits: Duitsland, Spaans: Spanje, Frans: Frankrijk, Nederlands: Nederland, Portugees: Portugal). Staat je land niet in deze lijst, dan verwijst het antwoord naar findahelpline.com en zegt het dat je het lokale alarmnummer moet bellen.

• Verenigde Staten — 988 Suicide & Crisis Lifeline: bel of sms 988. Alarmnummer: 911.
• Canada — 9-8-8 Suicide Crisis Helpline: bel of sms 988. Alarmnummer: 911.
• Verenigd Koninkrijk — Samaritans: bel 116 123. Alarmnummer: 999.
• Australië — Lifeline: bel 13 11 14. Alarmnummer: 000.
• Nieuw-Zeeland — 1737 Need to talk?: bel of sms 1737. Alarmnummer: 111.
• Italië — Telefono Amico Italia: bel 02 2327 2327. Alarmnummer: 112.
• Duitsland — TelefonSeelsorge: bel 0800 111 0 111. Alarmnummer: 112.
• Spanje — Línea 024: bel 024. Alarmnummer: 112.
• Frankrijk — Numéro national de prévention du suicide: bel 3114. Alarmnummer: 112.
• Nederland — 113 Zelfmoordpreventie: bel 0800-0113. Alarmnummer: 112.
• Portugal — Linha de Prevenção do Suicídio (SNS 24): bel 1411. Alarmnummer: 112.

De veiligheidsinstructie die we het AI-model geven

Elke tekst die een AI-model voor je schrijft in Spotter bevat een veiligheidsinstructie die voorrang heeft op alles wat verder in zijn instructies staat. Kort gezegd staat daarin:

• Je bent een AI-trainingsassistent, geen arts. Stel nooit een diagnose van een blessure of medische aandoening; zeg wat de persoon in de training kan doen en stel een arts of fysiotherapeut voor bij alles wat een diagnose nodig heeft.
• Als de persoon pijn op de borst, flauwvallen of bijna flauwvallen, benauwdheid, of pijn die scherp, plotseling of erger wordend is noemt, zeg dan eerst dat de training moet stoppen en dat een arts moet worden bezocht, of dat bij ernstige klachten de hulpdiensten moeten worden gebeld.
• Als de persoon tekenen van een eetstoornis laat zien, stel dan geen gewichtsverlies, caloriebeperking of dieet voor. Blijf bij de training en stel voorzichtig voor met een arts te praten.
• Als de persoon zegt zichzelf iets te willen aandoen of een einde aan het leven te willen maken, geef dan geen trainingsadvies en moedig de persoon vriendelijk aan nu contact op te nemen met een hulplijn voor crises of de hulpdiensten. Dit is een tweede vangnet, voor het geval de controle op uitdrukkingen een bericht mist.
• In gewone trainingschat blijven deze regels stil: er worden geen waarschuwingen of disclaimers toegevoegd.

Wat we bewaren

Niets van wat je schreef in een bericht dat de controle in gang zet, wordt bewaard. Het wordt niet opgeslagen in je chatgeschiedenis of in het geheugen van Spotter, niet naar onze statistiektool of onze tool voor crashrapporten gestuurd en niet in onze logs geschreven. Hetzelfde geldt voor ons vaste antwoord. We tellen alleen hoe vaak het antwoord wordt getoond, per soort chat en categorie van uitdrukking, zonder tekst en zonder gegevens over wie het was, zodat we kunnen melden hoe vaak het protocol wordt gebruikt waar de wet ons dat vraagt. Het enige andere spoor is een eenrichtingsvingerafdruk van het verzoek, die voorkomt dat hetzelfde verzoek twee keer wordt verwerkt en die wordt overschreven door je volgende bericht. Hij kan niet worden teruggezet naar je woorden.

Hoe we de lijst met uitdrukkingen actueel houden

We onderhouden de lijst met uitdrukkingen zelf, testen de lijst op voorbeeldberichten, ook op trainingsjargon dat de controle niet in gang mag zetten, en beoordelen de lijst bij elke versie van de app. We controleren ook de nummers van de hulplijnen opnieuw vóór elke versie die de lijst wijzigt. Merk je een gemiste melding of een vals alarm op, schrijf dan naar support@liftcue.com. Je hoeft niet te vermelden wat je typte.

Als je nu hulp nodig hebt

Als je eraan denkt jezelf iets aan te doen, praat dan vandaag met iemand: de lijnen hierboven zijn gratis. Ben je nu in gevaar, bel dan het lokale alarmnummer. Zie ook ons Privacybeleid en onze Gebruiksvoorwaarden.