Sécurité de Spotter

Spotter est l’IA de Liftcue. C’est une IA, pas une personne, et ce n’est pas un service d’urgence ni de santé mentale. Cette page explique comment Spotter traite un message où tu parles de te faire du mal, et les garde-fous mis en place autour.

Ce qu’est Spotter

Spotter est une IA qui te propose des entraînements. Elle donne des informations générales sur la forme physique, pas des conseils médicaux. Les compagnons IA comme Spotter peuvent ne pas convenir à certains mineurs. Liftcue s’adresse aux personnes de 16 ans et plus, et les jeunes de 16 et 17 ans ne peuvent l’utiliser qu’avec l’accord d’un parent là où la loi l’exige (voir nos Conditions d’utilisation).

La vérification qui passe en premier

Chaque message libre que tu envoies dans le chat de Spotter, dans le chat qui modifie ton programme et dans le chat de configuration est vérifié sur nos serveurs : nous cherchons des expressions liées au suicide, à l’automutilation ou aux troubles du comportement alimentaire. La vérification a lieu avant l’appel à tout modèle d’IA. Aucun modèle d’IA ne décide, donc les mêmes mots donnent toujours le même résultat.

La vérification repose sur une liste d’expressions qui sonnent comme quelqu’un qui parle de lui-même, dans toutes les langues de l’app. Toutes les langues sont vérifiées pour chaque message, car les gens mélangent les langues. Elle est conçue avec prudence : elle cherche des expressions, pas des mots isolés qui font peur, donc le vocabulaire de l’entraînement comme « soulevé de terre » ne la déclenche pas.

Ce que tu reçois quand elle se déclenche

À la place d’une réponse de l’IA, tu reçois une réponse fixe que nous avons écrite. Elle te dit que Spotter est une IA et ne peut pas t’apporter le soutien d’une personne, t’indique une ligne d’aide gratuite et te donne le numéro d’urgence de ton pays. Elle se termine en disant que Spotter est là pour ton entraînement quand tu veux. Aucun modèle d’IA ne voit ton message, et la réponse ne consomme rien de ton quota d’IA.

La ligne d’aide dépend du réglage de région de ton téléphone, que l’app envoie avec tes requêtes. Si nous ne connaissons pas ton pays, nous utilisons le pays associé à ta langue (anglais : États-Unis, italien : Italie, allemand : Allemagne, espagnol : Espagne, français : France, néerlandais : Pays-Bas, portugais : Portugal). Si ton pays ne figure pas dans cette liste, la réponse t’indique findahelpline.com et te dit d’appeler le numéro d’urgence local.

• États-Unis — 988 Suicide & Crisis Lifeline : appel ou SMS au 988. Urgences : 911.
• Canada — 9-8-8 Suicide Crisis Helpline : appel ou SMS au 988. Urgences : 911.
• Royaume-Uni — Samaritans : appel au 116 123. Urgences : 999.
• Australie — Lifeline : appel au 13 11 14. Urgences : 000.
• Nouvelle-Zélande — 1737 Need to talk? : appel ou SMS au 1737. Urgences : 111.
• Italie — Telefono Amico Italia : appel au 02 2327 2327. Urgences : 112.
• Allemagne — TelefonSeelsorge : appel au 0800 111 0 111. Urgences : 112.
• Espagne — Línea 024 : appel au 024. Urgences : 112.
• France — Numéro national de prévention du suicide : appel au 3114. Urgences : 112.
• Pays-Bas — 113 Zelfmoordpreventie : appel au 0800-0113. Urgences : 112.
• Portugal — Linha de Prevenção do Suicídio (SNS 24) : appel au 1411. Urgences : 112.

La consigne de sécurité que nous donnons au modèle d’IA

Chaque texte qu’un modèle d’IA écrit pour toi dans Spotter est accompagné d’une consigne de sécurité qui l’emporte sur tout le reste de ses instructions. En résumé, elle dit :

• Tu es un assistant d’entraînement IA, pas un médecin. Ne diagnostique jamais une blessure ni une affection médicale ; dis ce que la personne peut faire à l’entraînement et suggère un médecin ou un kinésithérapeute pour tout ce qui demande un diagnostic.
• Si la personne parle de douleur à la poitrine, d’évanouissement ou de quasi-évanouissement, de difficultés à respirer, ou d’une douleur vive, soudaine ou qui s’aggrave, dis-lui d’abord d’arrêter de s’entraîner et de consulter un médecin, ou d’appeler les urgences si c’est grave.
• Si la personne montre des signes de troubles du comportement alimentaire, ne suggère ni perte de poids, ni réduction des calories, ni régime. Reste sur l’entraînement et suggère avec douceur d’en parler à un médecin.
• Si la personne dit vouloir se faire du mal ou mettre fin à ses jours, ne donne aucun conseil d’entraînement et encourage-la avec bienveillance à contacter dès maintenant une ligne d’aide ou les urgences. C’est un deuxième filet de sécurité, au cas où la vérification des expressions raterait un message.
• Dans une conversation d’entraînement normale, ces règles restent silencieuses : aucun avertissement ni mise en garde n’est ajouté.

Ce que nous conservons

Rien de ce que tu as écrit dans un message qui déclenche la vérification n’est conservé. Ce n’est enregistré ni dans l’historique de ton chat ni dans la mémoire de Spotter, ce n’est envoyé ni à notre outil de statistiques ni à notre outil de rapports de plantage, et ce n’est pas écrit dans nos journaux. Il en va de même pour notre réponse fixe. Nous comptons seulement combien de fois la réponse est affichée, par type de chat et par catégorie d’expression, sans texte et sans information sur la personne, afin de pouvoir déclarer la fréquence d’utilisation du protocole là où la loi nous le demande. Il reste une seule autre trace : une empreinte à sens unique de la requête, qui évite qu’une même requête soit traitée deux fois et qui est écrasée par ton message suivant. Elle ne permet pas de retrouver tes mots.

Comment nous tenons la liste d’expressions à jour

Nous maintenons nous-mêmes la liste d’expressions, nous la testons sur des messages d’exemple, y compris du jargon d’entraînement qui ne doit pas la déclencher, et nous la révisons à chaque version de l’app. Nous revérifions aussi les numéros des lignes d’aide avant chaque version qui modifie la liste. Si tu remarques un oubli ou une fausse alerte, écris à support@liftcue.com. Tu n’as pas besoin d’indiquer ce que tu avais tapé.

Si tu as besoin d’aide maintenant

Si tu penses à te faire du mal, parle à quelqu’un aujourd’hui : les lignes ci-dessus sont gratuites. Si tu es en danger maintenant, appelle le numéro d’urgence local. Consulte aussi notre Politique de confidentialité et nos Conditions d’utilisation.