TikTok presenta herramientas para detectar el uso de IA y fomentar el bienestar digital.

TikTok ha introducido nuevas herramientas para identificar, etiquetar y comprender el contenido generado por inteligencia artificial (IA), una tecnología que transforma la protección de seguridad en la red social, adoptando mejores prácticas para eliminar cuentas que promueven el odio y la violencia.

TikTok anunció en su Foro Europeo de Seguridad en Dublín las novedades sobre cómo la plataforma utiliza tecnología, centrándose en la IA, y también presentó un nuevo espacio en la app llamado Tiempo y Bienestar, destinado a fomentar hábitos conscientes de uso digital.

El director global de divulgación y colaboración de TikTok, Valiant Richey, enfatizó que la seguridad es la base de la plataforma, que cuenta con alrededor de mil millones de usuarios, de los cuales doscientos millones se encuentran en Europa, y que esta no es negociable.

Entre las novedades, TikTok planea implementar una marca de agua invisible en las próximas semanas para etiquetar el contenido generado por IA, como indicó Jade Nester, directora de Seguridad, Privacidad y Protección de Datos en Europa.

Dicha marca supone una capa adicional de seguridad, accesible únicamente para TikTok, lo que dificulta su eliminación. Esto ayudará a etiquetar el contenido de manera más fiable y proporcionará más contexto sobre los cambios en el contenido.

Desde 2003, TikTok ha estado etiquetando contenido generado por IA, un esfuerzo que continúa, ya que, aunque la IA puede potenciar la creatividad, debe usarse de manera responsable y transparente para evitar la desinformación.

Hasta la fecha, se han etiquetado 1.300 millones de videos. TikTok exige a los creadores que marquen el contenido realista generado por IA en su plataforma, para lo cual ofrece herramientas.

Además, en las próximas semanas, se comenzará a probar un nuevo control para el contenido creado por IA, permitiendo a los usuarios decidir cuántas de estas creaciones desean ver en su feed “Para ti”.

Se lanzará un fondo de dos millones de dólares para que expertos produzcan contenido dirigido al feed “Para ti”, centrado en la alfabetización y seguridad de los usuarios en materia de IA.

Acciones contra contenidos de odio

El foro también abordó el refuerzo de prácticas en TikTok para detectar redes de cuentas que difunden odio y violencia.

Este año, la plataforma ha eliminado 17 redes de este tipo, que consisten en más de 920 cuentas dedicadas a propagar odio con ideologías extremistas.

En los primeros seis meses, se eliminaron 6,5 millones de videos por infringir normas, representando menos del 2 % de todo el contenido infringido, según Zachary Hecht, jefe de desarrollo de políticas para la confianza y seguridad de TikTok.

Estos grupos adaptan sus estrategias para eludir la detección, utilizando cuentas que aparentan ser inofensivas o intentando redirigir a los usuarios fuera de la plataforma para compartir materiales, o empleando lenguaje encriptado, como emojis, para referirse a discursos de odio.

Moderación de contenidos e IA

Detectar discursos de odio es uno de los objetivos de la moderación del contenido que se sube a TikTok, tarea realizada tanto por IA como por equipos humanos.

Aunque el uso de la IA no es nuevo, los avances recientes están transformando la moderación en este contexto de creciente creación de contenido, según Brie Pegum, quien resaltó la importancia de equilibrar la moderación realizada por IA y por humanos, dado que estos últimos siguen desempeñando un papel central.

Los datos indican una reducción del 76 % en el contenido gráfico moderado por el equipo humano el año pasado. Pegum también destacó la moderación de comentarios, donde la IA puede identificar el doble de los que no son permitidos.

Bienestar digital

Otra novedad es la implementación de nuevas funcionalidades de bienestar para fomentar hábitos digitales saludables.

El nuevo espacio de “Tiempo y Bienestar” ofrece, entre otras funciones, sonidos relajantes, ejercicios de respiración consciente y un “diario de afirmaciones” para establecer intenciones o propósitos para el día.

Se incorporan también cuatro nuevas Misiones Bienestar, dirigidas especialmente a adolescentes, aunque útiles para todos en el desarrollo de hábitos digitales equilibrados. Entre ellas se encuentran: Horas de Sueño, destinada a evitar el uso de la plataforma por la noche durante ocho semanas, y la misión semanal de Tiempo de Pantallas, para aumentar la conciencia sobre el tiempo que se pasa en la plataforma.

creditos de las imagenes de este post: Robertocavada.com