Seguridad de Spotter

Spotter es la IA de Liftcue. Es una IA, no una persona, y no es un servicio de emergencias ni de salud mental. Esta página explica cómo trata Spotter un mensaje en el que hablas de hacerte daño, y las salvaguardas que hay alrededor.

Qué es Spotter

Spotter es una IA que te sugiere entrenamientos. Da información general sobre forma física, no consejo médico. Los compañeros de IA como Spotter pueden no ser adecuados para algunos menores. Liftcue es para personas de 16 años o más, y los jóvenes de 16 y 17 años solo pueden usarlo con la aprobación de uno de sus padres donde la ley lo exija (consulta nuestros Términos de uso).

La comprobación que se hace primero

Cada mensaje de texto libre que envías en el chat de Spotter, en el chat que edita tu programa y en el chat de configuración se comprueba en nuestros servidores para detectar expresiones sobre suicidio, autolesiones o trastornos de la conducta alimentaria. La comprobación se hace antes de llamar a cualquier modelo de IA. Ningún modelo de IA lo decide, así que las mismas palabras dan siempre el mismo resultado.

La comprobación es una lista de expresiones que suenan a alguien que habla de sí mismo, en todos los idiomas que admite la app. Se comprueban todos los idiomas en cada mensaje, porque la gente mezcla idiomas. Está pensada con cautela: busca expresiones, no palabras sueltas que asusten, así que el lenguaje del entrenamiento como «peso muerto» no la activa.

Qué recibes cuando se activa

En lugar de una respuesta de IA, recibes una respuesta fija que hemos escrito nosotros. Te dice que Spotter es una IA y no puede darte el apoyo que te daría una persona, te indica una línea de ayuda gratuita y te da el número de emergencias de tu país. Termina diciendo que Spotter está para tu entrenamiento cuando quieras. Ningún modelo de IA ve tu mensaje, y la respuesta no gasta nada de tu cupo de IA.

La línea de ayuda sale del ajuste de región de tu móvil, que la app envía con tus solicitudes. Si no conocemos tu país, usamos el país que corresponde a tu idioma (inglés: Estados Unidos, italiano: Italia, alemán: Alemania, español: España, francés: Francia, neerlandés: Países Bajos, portugués: Portugal). Si tu país no está en esta lista, la respuesta te indica findahelpline.com y te dice que llames al número de emergencias local.

• Estados Unidos — 988 Suicide & Crisis Lifeline: llama o escribe al 988. Emergencias: 911.
• Canadá — 9-8-8 Suicide Crisis Helpline: llama o escribe al 988. Emergencias: 911.
• Reino Unido — Samaritans: llama al 116 123. Emergencias: 999.
• Australia — Lifeline: llama al 13 11 14. Emergencias: 000.
• Nueva Zelanda — 1737 Need to talk?: llama o escribe al 1737. Emergencias: 111.
• Italia — Telefono Amico Italia: llama al 02 2327 2327. Emergencias: 112.
• Alemania — TelefonSeelsorge: llama al 0800 111 0 111. Emergencias: 112.
• España — Línea 024: llama al 024. Emergencias: 112.
• Francia — Numéro national de prévention du suicide: llama al 3114. Emergencias: 112.
• Países Bajos — 113 Zelfmoordpreventie: llama al 0800-0113. Emergencias: 112.
• Portugal — Linha de Prevenção do Suicídio (SNS 24): llama al 1411. Emergencias: 112.

La instrucción de seguridad que damos al modelo de IA

Cada texto que un modelo de IA escribe para ti en Spotter lleva una instrucción de seguridad que prevalece sobre todo lo demás en sus instrucciones. En resumen, dice:

• Eres un asistente de entrenamiento con IA, no un médico. Nunca diagnostiques una lesión ni una enfermedad; di lo que la persona puede hacer en el entrenamiento y sugiere un médico o un fisioterapeuta para todo lo que necesite un diagnóstico.
• Si la persona menciona dolor en el pecho, desmayos o casi desmayos, dificultad para respirar, o un dolor agudo, repentino o que va a más, dile primero que deje de entrenar y consulte a un médico, o que llame a emergencias si es grave.
• Si la persona muestra señales de un trastorno de la conducta alimentaria, no sugieras perder peso, recortar calorías ni hacer dieta. Céntrate en el entrenamiento y sugiere con suavidad que hable con un médico.
• Si la persona menciona que quiere hacerse daño o quitarse la vida, no des consejos de entrenamiento y anímala con amabilidad a contactar ahora con una línea de ayuda en crisis o con emergencias. Es una segunda red de seguridad, por si la comprobación de expresiones deja pasar un mensaje.
• En una conversación normal de entrenamiento, estas reglas guardan silencio: no se añaden avisos ni advertencias.

Qué guardamos

No se guarda nada de lo que escribiste en un mensaje que activa la comprobación. No se guarda en tu historial de chat ni en la memoria de Spotter, no se envía a nuestra herramienta de estadísticas ni a la de informes de fallos, y no se escribe en nuestros registros. Lo mismo vale para nuestra respuesta fija. Solo contamos cuántas veces se muestra la respuesta, por tipo de chat y categoría de expresión, sin texto y sin información sobre quién fue, para poder informar de cuántas veces se usa el protocolo donde la ley nos lo pida. El único otro rastro es una huella de un solo sentido de la solicitud, que evita que la misma solicitud se procese dos veces y que se sobrescribe con tu siguiente mensaje. No se puede convertir de nuevo en tus palabras.

Cómo mantenemos al día la lista de expresiones

Mantenemos nosotros mismos la lista de expresiones, la probamos con mensajes de ejemplo, incluida la jerga de entrenamiento que no debe activarla, y la revisamos en cada versión de la app. También volvemos a comprobar los números de las líneas de ayuda antes de cada versión que cambie la lista. Si notas un fallo o una falsa alarma, escribe a support@liftcue.com. No hace falta que incluyas lo que escribiste.

Si necesitas ayuda ahora

Si estás pensando en hacerte daño, habla hoy con alguien: las líneas de arriba son gratuitas. Si estás en peligro ahora mismo, llama al número de emergencias local. Consulta también nuestra Política de privacidad y nuestros Términos de uso.