Así es como Twitter dice combatir cuentas relacionadas al terrorismo

<![CDATA[

Twitter removió 950,000 cuentas de su plataforma relacionadas a terrorismo en los últimos tres años; tarea en la que algoritmos de machine learning (ML) han sido la herramienta principal para su detección y cese.

Pese a recientes señalamientos sobre la efectividad de las tareas de detección y remoción de cuentas relacionadas con hechos violentos o a cuentas maliciosas automatizadas, Colin Crowell, vicepresidente de políticas públicas de Twitter, afirmó que tecnologías como ML los están haciendo más ágiles y preventivos en esta tarea.

“Vimos que ISIS estaba usando cuentas de Twitter para promover mensajes terroristas, así que si ves en los últimos tres años hemos elevado la remoción de cuentas. (…) Hace tres años 25% de las cuentas fueron identificadas usando tecnología y actualmente ese número de detecciones es de 95%, pero de forma más importante 75% de este 95%, las hemos podido remover antes de que hagan su primer tuit y nos estamos volviendo más ágiles y más inteligentes al perseguir a automatización en la plataforma”, dijo en una visita a la Ciudad de México.

Recientemente, Twitter ha hecho hincapié en el esfuerzo que realiza para detectar y bajar contenido malicioso de la plataforma, ya que existe actualmente una latente preocupación sobre el impacto y propagación que este tipo de contenido, al igual que cuentas automatizadas de desinformación, puedan tener en distintos contextos.

Esta semana, Ayelet Shaked, ministra de justicia de Israel señaló que su país tendría la intención de tomar acciones legales contra la firma que dirige Jack Dorsey por la respuesta ante este tipo de contenido, pues afirmó que como país ha solicitado la baja de este contenido sin considerar acciones del todo expeditas.

Lee también: ¿Debes borrar Facebook tras escándalo?

El gobierno israelí dijo haber hecho 12,351 solicitudes a Twitter para bajar contenido relacionado a terrorismo en 2017, según datos de Bloomberg.

Cromwell abonó diciendo que el uso de ML para detectar este tipo de patrones de contenido ha elevado el número de detecciones, aunque admitió que aún existe un riesgo de no poder detectar la 100% este tipo de contenido malicioso o si se trata de mensajes automatizados al 100% o aquellos manejados por una red coordinada de gran volúmen.

“Vemos las señales en el comportamiento de las cuentas, como dirección IP, dirección, email, de qué lugar viene, estas son cosas que va aprendido el machine learning mientas más le alimentes a la máquina y no siempre vamos a saber si es una máquina o una persona”, argumentó el directivo.

Si bien Cromwell advierte que la batalla contra el spam y las publicaciones automatizadas es larga hacia adelante, confió en que la tecnología sofisticada puede reducir la brecha ampliamente.

En los últimos dos días, la firma ha experimentado –al igual que otras redes como Facebook y Snapchat– una caída de sus acciones en respuesta al escándalo que vive la red de Menlo Park actualmente por el uso de datos personales de los usuarios de la plataforma por Cambridge Analytica, que los utilizó para manipular información durante las elecciones de 2016 en Estados Unidos.

Recomendamos: Usuarios demandan a Facebook y a Cambridge Analytica en EU.

Las acciones de Twitter se recuperaron 1.38% el miércoles 21 de marzo, al cierre de la jornada.

]]>