
handle: 10609/153072
Este trabajo tiene como finalidad implementar un sistema automatizado de moderación de contenido multimedia en plataformas de mensajería instantánea (Telegram en este caso), centrado en la detección y gestión de material sensible o NSFW (Not Safe For Work). Su objetivo es proteger a los usuarios, especialmente a grupos con presencia de menores, garantizando un espacio digital seguro y respetuoso. El contexto de aplicación se basa en la integración de un bot de Telegram que actúa como intermediario entre los usuarios y un servicio centralizado. Este servicio es una API REST especializada en analizar imágenes y animaciones (GIFs) haciendo uso de modelos de inteligencia artificial especializados en la detección de contenidos NSFW, permitiendo una moderación efectiva y configurable en tiempo real. La metodología de trabajo adoptada fue el modelo en cascada, que estructura el desarrollo en fases secuenciales: análisis, diseño, implementación, pruebas y despliegue. Esta aproximación permitió planificar y controlar el proyecto con claridad, garantizando la calidad en cada etapa y facilitando la identificación y corrección temprana de errores. Los resultados evidencian una detección efectiva y configurable, con capacidad para filtrar y anonimizar contenido inapropiado, manteniendo una baja tasa de falsos positivos. Además, la solución facilita la administración y mejora los resultados en la moderación de comunidades y grupos de Telegram. En conclusión, el trabajo demuestra la viabilidad de un sistema automatizado que contribuye a un entorno digital más seguro y ético, con potencial de ampliación para cubrir múltiples plataformas y tipos de contenido.
This project aims to implement an automated multimedia content moderation system for instant messaging platforms, focusing on the detection and management of sensitive or NSFW (Not Safe For Work) material. Its primary goal is to protect users, especially groups with minors, ensuring a safe and respectful digital environment. The application context involves the integration of a Telegram bot that acts as an intermediary between users and a centralized service. This service consists of a REST API specialized in analyzing images and animations (including GIFs) using artificial intelligence models trained for NSFW content detection, enabling effective and configurable real-time moderation. The development methodology followed the waterfall model, structuring the project into sequential phases: analysis, design, implementation, testing, and deployment. This approach allowed for clear planning and control, ensuring quality at each stage and facilitating early error detection and correction. The results demonstrate effective and customizable detection capabilities, with the ability to filter and anonymize inappropriate content while maintaining a low false positive rate. Additionally, the solution streamlines administration and improves moderation outcomes in Telegram communities and groups. In conclusion, this work validates the feasibility of an automated moderation system that contributes to a safer and more ethical digital space, with potential for extension to multiple platforms and content types.
Computer security -- FMDP, NSFW, moderador, ciberseguridad, Seguretat informàtica -- TFM, bot, Telegram
Computer security -- FMDP, NSFW, moderador, ciberseguridad, Seguretat informàtica -- TFM, bot, Telegram
| selected citations These citations are derived from selected sources. This is an alternative to the "Influence" indicator, which also reflects the overall/total impact of an article in the research community at large, based on the underlying citation network (diachronically). | 0 | |
| popularity This indicator reflects the "current" impact/attention (the "hype") of an article in the research community at large, based on the underlying citation network. | Average | |
| influence This indicator reflects the overall/total impact of an article in the research community at large, based on the underlying citation network (diachronically). | Average | |
| impulse This indicator reflects the initial momentum of an article directly after its publication, based on the underlying citation network. | Average |
