Sicurezza di Spotter

Spotter è l’IA di Liftcue. È un’IA, non una persona, e non è un servizio di emergenza né di salute mentale. Questa pagina spiega come Spotter gestisce un messaggio in cui parli di farti del male e le tutele costruite attorno.

Che cos’è Spotter

Spotter è un’IA che ti suggerisce allenamenti. Fornisce informazioni generali sul fitness, non consigli medici. I compagni basati su IA come Spotter potrebbero non essere adatti ad alcuni minori. Liftcue è per persone dai 16 anni in su, e i ragazzi di 16 e 17 anni possono usarla solo con l’approvazione di un genitore dove la legge lo richiede (vedi i nostri Termini di utilizzo).

Il controllo che avviene per primo

Ogni messaggio di testo libero che invii nella chat di Spotter, nella chat per modificare il tuo programma e nella chat di configurazione viene controllato sui nostri server per cercare espressioni su suicidio, autolesionismo o disturbi alimentari. Il controllo avviene prima di chiamare qualsiasi modello di IA. Nessun modello di IA lo decide, quindi le stesse parole danno sempre lo stesso risultato.

Il controllo è un elenco di espressioni che suonano come qualcuno che parla di sé, in tutte le lingue supportate dall’app. Tutte le lingue vengono controllate a ogni messaggio, perché le persone mescolano le lingue. È pensato con prudenza: cerca espressioni, non singole parole che spaventano, quindi il linguaggio dell’allenamento come «stacco da terra» non lo attiva.

Che cosa ricevi quando scatta

Al posto di una risposta dell’IA ricevi una risposta fissa che abbiamo scritto noi. Ti dice che Spotter è un’IA e non può darti il sostegno che può darti una persona, ti indica una linea di assistenza gratuita e ti dà il numero di emergenza del tuo paese. Finisce dicendo che Spotter c’è per il tuo allenamento quando vuoi. Nessun modello di IA vede il tuo messaggio, e la risposta non consuma nulla del tuo limite di IA.

La linea di assistenza dipende dall’impostazione della regione del tuo telefono, che l’app invia con le tue richieste. Se non conosciamo il tuo paese, usiamo il paese associato alla tua lingua (inglese: Stati Uniti, italiano: Italia, tedesco: Germania, spagnolo: Spagna, francese: Francia, olandese: Paesi Bassi, portoghese: Portogallo). Se il tuo paese non è in questo elenco, la risposta ti indica findahelpline.com e ti dice di chiamare il numero di emergenza locale.

• Stati Uniti — 988 Suicide & Crisis Lifeline: chiama o scrivi al 988. Emergenza: 911.
• Canada — 9-8-8 Suicide Crisis Helpline: chiama o scrivi al 988. Emergenza: 911.
• Regno Unito — Samaritans: chiama il 116 123. Emergenza: 999.
• Australia — Lifeline: chiama il 13 11 14. Emergenza: 000.
• Nuova Zelanda — 1737 Need to talk?: chiama o scrivi al 1737. Emergenza: 111.
• Italia — Telefono Amico Italia: chiama il 02 2327 2327. Emergenza: 112.
• Germania — TelefonSeelsorge: chiama il 0800 111 0 111. Emergenza: 112.
• Spagna — Línea 024: chiama il 024. Emergenza: 112.
• Francia — Numéro national de prévention du suicide: chiama il 3114. Emergenza: 112.
• Paesi Bassi — 113 Zelfmoordpreventie: chiama il 0800-0113. Emergenza: 112.
• Portogallo — Linha de Prevenção do Suicídio (SNS 24): chiama il 1411. Emergenza: 112.

L’istruzione di sicurezza che diamo al modello di IA

Ogni testo che un modello di IA scrive per te in Spotter porta con sé un’istruzione di sicurezza che prevale su tutto il resto delle sue istruzioni. In sintesi dice:

• Sei un assistente di allenamento basato su IA, non un medico. Non diagnosticare mai un infortunio o una condizione medica; di’ che cosa la persona può fare in allenamento e suggerisci un medico o un fisioterapista per tutto ciò che richiede una diagnosi.
• Se la persona parla di dolore al petto, svenimenti o quasi svenimenti, difficoltà a respirare, o di un dolore acuto, improvviso o che peggiora, dille prima di tutto di smettere di allenarsi e di vedere un medico, o di chiamare i soccorsi se è grave.
• Se la persona mostra segni di un disturbo alimentare, non suggerire di dimagrire, di tagliare le calorie o di fare una dieta. Resta sull’allenamento e suggerisci con gentilezza di parlarne con un medico.
• Se la persona dice di voler farsi del male o togliersi la vita, non dare consigli di allenamento e incoraggiala con gentilezza a contattare subito una linea di assistenza per le crisi o i soccorsi. È una seconda rete di sicurezza, nel caso in cui il controllo delle espressioni lasci passare un messaggio.
• Nelle normali conversazioni sull’allenamento queste regole restano in silenzio: nessun avviso o avvertenza aggiunti.

Che cosa conserviamo

Di ciò che hai scritto in un messaggio che fa scattare il controllo non viene conservato nulla. Non viene salvato nella cronologia della chat né nella memoria di Spotter, non viene inviato al nostro strumento di statistiche né a quello dei report sui crash, e non viene scritto nei nostri log. Lo stesso vale per la nostra risposta fissa. Contiamo solo quante volte la risposta viene mostrata, per tipo di chat e categoria di espressione, senza testo e senza informazioni su chi fosse, così da poter riferire quanto spesso viene usato il protocollo dove la legge ce lo chiede. L’unica altra traccia è un’impronta a senso unico della richiesta, che evita che la stessa richiesta venga elaborata due volte e che viene sovrascritta dal tuo messaggio successivo. Non può essere trasformata di nuovo nelle tue parole.

Come teniamo aggiornato l’elenco di espressioni

Manteniamo noi stessi l’elenco di espressioni, lo proviamo su messaggi di esempio, compreso il gergo dell’allenamento che non deve farlo scattare, e lo rivediamo a ogni versione dell’app. Ricontrolliamo anche i numeri delle linee di assistenza prima di ogni versione che modifica l’elenco. Se noti una mancanza o un falso allarme, scrivi a support@liftcue.com. Non serve indicare che cosa hai scritto.

Se hai bisogno di aiuto adesso

Se stai pensando di farti del male, parla con qualcuno oggi: le linee qui sopra sono gratuite. Se sei in pericolo adesso, chiama il numero di emergenza locale. Vedi anche la nostra Informativa sulla privacy e i nostri Termini di utilizzo.