Gaturro, Agatha, Aulín, Cecé, Nick, Samy, Link. Usted tal vez no los conozca. Pero sus hijos o sus nietos sí. Son los nombres de los protagonistas de varias de las redes sociales para chicos, como Picapon, Twigis y Aula365 que, entre todas, pueden sumar casi 10 millones de usuarios. Se trata de espacios que buscan posicionarse en la preferencia infantil, antes de ser fagocitados por el universo Facebook. Evidentemente, todas tienen un negocio por detrás. Pero coinciden en un punto: garantizar la seguridad de los chicos en estos espacios virtuales ayuda a desarrollar el negocio. Y no sólo el de ellos, el de los futuros sitios al que se vuelquen más tarde porque, como premisa de la seguridad, hay una tarea constante de enseñanza y concientización sobre lo que es manejarse en un mundo virtual.
A pocos días de celebrarse el Día de Internet, sirve recordar el desafío que enfrentan los más chicos en este mundo de mayores. En el caso de las redes argentinas, estas abordan a los chicos desde los cinco años en adelante. En todos los casos, debe haber un adulto que habilite la apertura de una cuenta, donde no será necesario mentir sobre la edad, como puede suceder en una red generalista. En estos espacios hay menores y padres que van aprendiendo junto con ellos sobre temas cotidianos y escolares.
El de la seguridad es, sin dudas, el tema más crítico. En todos los casos, el nivel de conciencia sobre las ventajas y los riesgos que significa estar conectados y consumir contenidos desde la Web es evidente desde el momento del acceso. Se apela a herramientas automáticas de control de contenidos, basadas en inteligencia artificial y, también, a la moderación manual a cargo de adultos que establecen los criterios sobre lo que un menor debe o no publicar.
Para Mundo Gaturro y sus productos satélites, como la red social Picapon, es clave la conformación y el cuidado de la comunidad que se genera. Estructuramos el sistema de trabajo en base a la moderación y a las medidas de seguridad vinculadas también con el negocio, dice a IT Business, Guido Corsini, gerente de producto de MundoGaturro (MG).
El cuidado de la seguridad en las redes sociales para chicos es vital para la buena salud del negocio de estas empresas. Si los chicos no están asegurados no hay posibilidad de producto. En nuestro caso, buscamos diferenciarnos por la cantidad de contenido que los chicos generan y, por esa razón, tenemos un sistema que hace la moderación automática inteligente sobre lo que suben, indica Demián Falestchi, gerente de Proyecto de Twigis. A estas medidas, se suma un equipo que gestiona los contenidos. Es decir: se observan constantemente de qué están hablando los chicos.
En Aula365, también se combinan sistemas automáticos y manuales de moderación. Nuestro mayor objetivo es generar un entorno seguro, con las condiciones dadas para que el aprendizaje fluya, por lo que esta moderación, además, incluye la revisión ortográfica y de redacción, de manera tal que los chicos aprendan también por sobre sus propias creaciones", explica Pablo Aristizábal, CEO de Competir.com, la creadora de Aula365. En lo referido a solicitudes de amistad estas pueden darse solo dentro del rango etario en el que se encuentre cada chico, agrega.
Uno para todos
Los especialistas consultados coinciden en el uso de una de sus herramientas de seguridad. Todos confían el control automático en Keepcon, una empresa que desarrolla soluciones de moderación de contenidos basada en Inteligencia Artificial (IA). Nuestro sistema está basado en tecnología que depende de un proceso de configuración inicial y de otro proceso de revisión continua, donde hay un equipo de lingüistas que observan si aparecen cosas nuevas cuando los chicos charlan en los distintos espacios virtuales", explica Matías Rozenfarb, CEO de Keepcon.
A partir de la observación de lo que los chicos comparten en las redes sociales, van conociéndose los nuevos términos que emplean. Así, para prevenir agresiones a través del lenguaje o, inclusive, detectar la presencia de algún adulto, queriendo establecer contacto con menores, combinan el lenguaje coloquial y formal con el que se da en los espacios virtuales. A partir de una sola palabra y las múltiples combinaciones que van ejecutando, son capaces de obtener 28 millones de términos que apunten a significar lo mismo. Tratamos de que el software tome las decisiones que tomaría un ser humano, es decir, reconocer palabras y rechazar o aprobar. Esto lo aplicamos también con frases gramaticales, con la introducción de símbolos y otros elementos que pudieran aparecer en la comunicación, agrega el responsable de Keepcon.
Sólo para chicos
Más allá de estas, una parte importante pasa por el involucramiento y participación de los padres. En nuestro caso, el tema de la seguridad está basado en dos principios: no permitir la filtración de personas o personajes indebidos y promover la interacción entre los chicos en alianza con los padres, las escuelas y los docentes, señala Corsini, de MG y Picapón.
En el caso de Twigis, lo que se puede subir o no, o los criterios vinculados con la moderación de contenidos se va desarrollando día a día. En el chat de Twigis, los chicos interactúan con avatares y es moderado en tiempo real. Lo que escriben pasa por un robot que aprueba o no lo subido. Después de tres intentos de subir algo que es rechazado, se los expulsa. Si reinciden, quedan suspendidos por 72 horas. Los chicos aprenden muy rápido y cuando se dan cuenta de que algo no se puede hacer no lo hacen. Ellos mismo son los guardianes de los contenidos y avisan cuando algo no les gusta o cuando detectan un comportamiento inadecuado, sostiene Faletschi. En coincidencia, Corsini apunta que es clave lograr que la comunidad se automodere porque los chicos repiten en el mundo online lo que hacen en el offline.
Las medidas que toma cada empresa les ayuda también a detectar cómo es el trato entre los usuarios. Lo que descubrimos, en general, es que los chicos, a veces, usan términos sexuales o agresivos, que son inapropiados para el estándar de un sitio para ellos. Entonces, tratamos de que aprendan que el lenguaje sostiene consecuencias no deseadas. Se busca que no haya una escalada de violencia verbal. Sin embargo, lo que es apropiado o no depende de cada empresa, sostiene Rozenbaf, de Keepcon.
En definitiva, cada sitio toma acciones concretas para garantizar la seguridad de los chicos. En el caso de MG y Picapon, la primera medida es el motor automático de control de contenidos; la segunda, definir sobre los temas de los que no se habla; y, la tercera, un acompañamiento de control manual, humano para recordar que el mundo online no es el offline. En este marco, les explicamos a los chicos que no den datos personales, que no trasladen las conversaciones del mundo real al mundo online, que entiendan la importancia de la información privada. Dejamos estos mensajes a través de juegos en los que aprenden sobre el respeto hacia los otros usuarios a fin de prevenir el ciberbullying, tips sobre seguridad informática y seguridad en redes y, en todos los casos, apelando al padre que es él que abre la cuenta en nuestro espacio, aclara Corsini.
Aristizábal, de Aula365, expresa que todo contenido creado en Aula365 pasa por el filtro de la moderación, sincrónica y asincrónica. Entre otras medidas, los chicos no pueden proveer ningún dato personal y se apela a la creación de un avatar para proteger su identidad". Además, la moderación toma en cuenta las diferencias que pueden haber de un país a otro. Como se trata de un sitio local la moderación siempre se considera de manera contextualizada. A esto, suman el internto por involucrar a los papás desde su rol como tutores, para que aprueben la participación y amistades de sus hijos, y los acompañen durante su evolución, poniéndolos al tanto de todas las actividades. Desde Twigis, Falestchi destaca que la ofrecida por ellos es la primera experiencia de los chicos en la nube. Cuentan con 1GB de capacidad en el que pueden sbir fotos, videos, música; siempre moderada por alguien. En este caso, apelamos más al control manual porque es más efectivo.
Estas redes sociales parecen ser el primer espacio donde se pone un énfasis mayor que el promedio en la seguridad informática, un camino por el que transitan tanto chicos como grandes de manera conjunta. Al menos, es lo que buscan los responsables de estas plataformas. Según recuerdan desde allí, son también los padres los que más deben aprender porque, en general, apenas nacieron con un control remoto bajo el brazo. La interacción que habilitó Internet es un mundo nuevo para los que nacieron antes de esa fecha.
