Suicidio y Facebook AI

Cuando una persona muere por suicidio, aquellos en su vida a menudo se preguntan qué podrían haber hecho para prevenirla.

Los usuarios de las redes sociales incluso pueden lamentar ver algo preocupante publicado por la persona, pero no hacer nada al respecto.

AdvertisementAdvertisement

En un intento de ayudar, Facebook ha anunciado que está ampliando su uso de herramientas de inteligencia artificial (IA) para identificar cuándo alguien está expresando pensamientos sobre suicidio o autolesiones en el sitio web de las redes sociales.

Antes de este mes, Facebook solo usaba las herramientas en algunos usuarios en los Estados Unidos. Ahora está disponible para la mayoría de los 2 mil millones de usuarios del sitio, excepto los de la Unión Europea, que tiene leyes de privacidad e internet más estrictas.

Mark Zuckerberg, el director ejecutivo de Facebook, dice que este uso de la IA es un avance positivo.

Anuncio

Recientemente publicó en su línea de tiempo de Facebook que, "En el último mes, estas herramientas de IA nos han ayudado a conectarnos con los primeros en responder rápidamente más de 100 veces. "

¿Cómo hacen exactamente eso las herramientas?

AdvertisementAdvertisement

Facebook no revela detalles en profundidad, pero parece que la herramienta funciona hojeando publicaciones o videos y marcándolos cuando detecta palabras, videos e imágenes que pueden indicar que una persona está en riesgo de suicidio.

Facebook ya usa AI en un asunto similar para escanear y eliminar publicaciones que presentan pornografía infantil y otro contenido objetable.

Un representante de Facebook dijo a Healthline que las herramientas de prevención de suicidio ayudan a detectar contenido más rápidamente. La IA también ayuda a priorizar los informes, indicando qué casos son más gravesius.

Luego, los miembros entrenados del equipo de operaciones comunitarias de Facebook revisan el contenido y determinan el tipo de ayuda que se brindará al usuario.

Estos miembros trabajan en todo el mundo, durante todo el día, y revisan los informes de las herramientas de IA y de los usuarios de Facebook interesados.

AdvertisementAdvertisement

Una forma en que la herramienta de inteligencia artificial detecta tendencias suicidas es preguntando a los usuarios con preguntas como, "¿Estás bien? " "¿Puedo ayudar? "Y" ¿Necesitas ayuda? "

El equipo de operaciones comunitarias de Facebook tiene la tarea de revisar el contenido denunciado como violento o preocupante.

En mayo, Facebook anunció que agregaría 3,000 trabajadores más al equipo de operaciones, que tenía 4, 500 empleados en ese momento.

Anuncio

Según el portavoz de Facebook, la tecnología ayuda a detectar los contenidos y videos que las personas publican en Facebook a menudo más rápido de lo que un amigo o familiares pueden denunciar el material.

Cuando se detectan estos, el usuario de Facebook se pone en contacto con el servicio de chat en vivo de Facebook desde organizaciones de apoyo a la crisis a través de Messenger y puede chatear en tiempo real.

AdvertisementAdvertisement

Defensores de la concienciación contra el suicidio abordan

Al crear AI para la prevención del suicidio, Facebook trabaja con organizaciones de salud mental, incluido Save. org, National Suicide Prevention Lifeline "1-800-273-TALK (8255)", y Forefront Suicide Prevention.

Daniel J. Reidenberg, PsyD, director ejecutivo de Save. org, dice que está encantado de que Facebook esté haciendo grandes esfuerzos para ayudar a avanzar en los esfuerzos de prevención del suicidio de formas que no se habían hecho antes.

"Si miramos en los últimos 50 o 60 años, ya sea que hablemos de avances en medicamentos o tratamiento para el suicidio y la salud mental, no hemos visto reducciones ni visto el suicidio debido a esas cosas, así que la idea que tal vez la tecnología puede ayudar es la mejor oportunidad que tenemos ahora para tratar de salvar vidas ", dijo Reidenberg a Healthline.

Anuncio

Si bien observa que las herramientas de IA pueden no estar completamente diseñadas y pueden presentar falsos positivos de personas que están en riesgo, él dice que es una intervención de vanguardia para la prevención del suicidio que puede tomar tiempo para comprender su eficacia.

"Antes de que apareciera AI, hubo falsos positivos de personas que informaban cosas a Facebook que pensaban que un amigo podía ser suicida. AI solo está acelerando el proceso para ayudar a eliminar algunos de esos falsos positivos y realmente retomar a aquellos que están verdaderamente en riesgo ", dijo Reidenberg.

AdvertisementAdvertisement

Agrega que las personas muestran signos de tendencias suicidas en las redes sociales, y que esto no es ni bueno ni malo.

"Las redes sociales están justo donde las personas están viviendo sus vidas hoy. Hace años, vivieron en el parque o en el recreo o se escribieron notas entre ellos, quizás compartidos por teléfono. A medida que más y más personas viven sus vidas en las redes sociales, comparten los momentos felices y los desafíos que enfrentan ", dijo.

El cambio, agrega, permite que las personas lleguen a cientos y cientos de personas a la vez.

Reidenberg dice que si observas a alguien en las redes sociales que puede estar deprimido o en riesgo de autolesionarse, comunícate con ellos con un mensaje, mensaje de texto o llamada telefónica si eres un amigo cercano. Facebook incluso ofrece textos pre-poblados para que sea más fácil comenzar una conversación.

Si no se siente cómodo con ese enfoque, Reidenberg sugiere usar la función de informe en Facebook.

"Es una cosa fácil y rápida de hacer. La tecnología no puede hacer esto solo. Necesitamos personas involucradas. No hacer algo es lo peor que puede pasar ", dijo.

¿Qué pasa con los problemas de privacidad?

Además de la buena intención, es difícil no considerar la invasión de la privacidad.

Charles Lee Mudd Jr., abogado de privacidad y director de Mudd Law, dice que el escaneo de Facebook en busca de palabras clave no debe considerarse una violación a la privacidad si se ha divulgado con anticipación.

"Mientras Facebook revele que revisa el contenido, no veo problemas reales de privacidad", dijo Mudd a Healthline. "Se debe entender que cualquier cosa publicada en cualquier lugar de Internet, incluso a través de correo electrónico, privado o no, o en las redes sociales, puede llegar a destinatarios no deseados.Al menos si Facebook nos deja saber que tiene robots que leen nuestro correo, o al menos buscan palabras clave o frases, podemos ajustar nuestro comportamiento en caso de que sea necesario. "

Si bien legalmente Facebook puede estar en claro, si está actuando éticamente es tema de debate.

Keshav Malani, cofundador de Powr of You, una compañía que ayuda a las personas a ganar dinero con su presencia digital, dice que sin importar las intenciones de Facebook, cada persona debe ser libre de decidir cómo se usan sus datos personales.

"O bien es una pendiente resbaladiza en lo que se considera un uso 'bueno' contra 'malo' de la información personal que compartimos en plataformas como Facebook. Además, las intenciones no son suficientes, porque los sesgos en los datos pueden dar como resultado afirmaciones no válidas o dañinas incluso desde el análisis de correlación histórica básica ", dijo Malani a Healthline.

Agrega que la inteligencia artificial es solo tan buena como los datos que recibe como entrada.

"Las plataformas individuales, como Facebook, que intentan asumir que te conocen lo suficiente como para sacar conclusiones sobre tu bienestar, serían ingenuas. Facebook, o cualquier otro medio de comunicación, solo cubren una pequeña parte de nuestra vida y, a menudo, pintan una imagen que elegimos compartir, por lo que extraer conclusiones de una fuente de datos tan limitada y posiblemente tendenciosa debe hacerse con extrema precaución ". él dijo.

Aún así, Reidenberg dice que las personas no deberían tener miedo de que Facebook use la IA.

"Esto no es Facebook acechando a la gente o entrando en el negocio de la gente", dijo. "Se trata de usar tecnología y personas para tratar de salvar vidas", dijo. "Créanme, si tienen a un ser querido en crisis, quieren que se haga todo por ellos, ya sea que estén en una sala de emergencias o en línea. "

De hecho, él espera que más tecnología pueda intervenir con personas en crisis.

"Cuando alguien está en una crisis, las opciones y alternativas se van de ellos. Se vuelven muy centrados en lo que está sucediendo en ese momento y no tienen las herramientas necesarias para superarlos ", dijo.

Cuando la tecnología puede ayudar a brindar más opciones a las personas, Reidenberg dice que mientras menos estén en crisis. Le gustaría ver a la tecnología crear más formas de identificar a las personas en riesgo antes de que estén incluso en riesgo, por ejemplo, de depresión.

Por ejemplo, dice que si sabemos que a medida que nos deprimimos, interactuamos menos, aislamos más, retiramos más, tenemos menos energía y hablamos y escribimos de manera diferente, entonces la tecnología de programación para notar estos cambios podría ser beneficiosa.

"Digamos que eres un afiche habitual en Facebook, pero luego te vuelves más deprimido en la vida y tu actividad disminuye lentamente. Luego empiezas a publicar fotos en Instagram de alguien muy triste o un día sombrío afuera. Si podemos lograr que la tecnología capte lo que le está sucediendo en su vida en función de su comportamiento en línea, podríamos comenzar a brindarle recursos o asistencia, y tal vez podamos darle la vuelta ", dijo Reidenberg.

Zuckerberg compartió un sentimiento similar en su publicación, aludiendo a los planes futuros de usar IA de otras maneras.

"Hay mucho más que podemos hacer para mejorar esto aún más", escribió. "En el futuro, AI podrá comprender más los matices sutiles del lenguaje y podrá identificar diferentes cuestiones además del suicidio, lo que incluye detectar más tipos de acoso y odio. "