Qué es un clasificador NSFW
Un clasificador NSFW es un modelo que estima si una imagen contiene contenido sexual explícito; es el filtro de los generadores y las plataformas.
Un clasificador NSFW es un modelo de visión que asigna a una imagen una probabilidad de contener desnudez o sexo explícito y la bloquea si supera un umbral. Lo usan las redes sociales para moderar, los buscadores en SafeSearch y los generadores como filtro de seguridad. Las herramientas para desnudar fotos existen porque ese filtro se desactiva.
Cómo funciona
La sigla viene de not safe for work, «no apto para el trabajo». El clasificador es una red neuronal entrenada con miles de imágenes etiquetadas como seguras o explícitas. A cada imagen nueva le asigna un puntaje entre 0 y 1; la plataforma fija el umbral. El modelo abierto de Yahoo de 2016, open_nsfw, recomendaba tratar como seguro lo que quedaba bajo 0,2 y como explícito lo que superaba 0,8.
Los generadores modernos usan otra vía: el filtro de seguridad de Stable Diffusion compara la imagen generada con 17 conceptos sensibles codificados con CLIP y la reemplaza por una imagen negra si se acerca demasiado a alguno. Google Cloud Vision, que usan muchas apps, devuelve cinco niveles de probabilidad para las categorías «adulto» y «sugerente».
Dónde se usa y qué pasa si falla
| Dónde | Qué hace | Si falla |
|---|---|---|
| Redes sociales | Retira o limita la publicación | Censura arte o deja pasar abuso |
| Buscadores | Oculta resultados en SafeSearch | Expone contenido a menores |
| Generadores con filtro | Bloquea la salida explícita | Se rodea con otro texto |
| Tiendas de apps | Revisa capturas y descripción | Apps disfrazadas de editor |
| Apps para desnudar | No lo aplican o lo apagan | Sin barrera para fotos ajenas |
La última fila define la categoría que reseñamos: la diferencia técnica entre un editor de ropa y una app para desnudar es el filtro, no el modelo.
Por qué falla
- Falsos positivos: piel, playa, lactancia, arte clásico o imágenes médicas superan el umbral sin ser explícitas. Es la queja más común de fotógrafos y museos en redes sociales.
- Falsos negativos: ilustración, poses parciales o ropa ajustada quedan bajo el umbral. Un estudio de 2022 sobre el filtro de Stable Diffusion mostró que se rodea con facilidad añadiendo texto sin relación a la instrucción.
- Umbral único: subirlo deja pasar más contenido; bajarlo bloquea más fotos legítimas. Ninguna plataforma publica su valor exacto.
- Sesgos: los modelos entrenados con datos poco diversos marcan con más frecuencia ciertos tonos de piel o tipos de cuerpo, un problema documentado en la moderación automática.
- Límite editorial: este sitio no ejecuta clasificadores ni recibe fotos; describe la técnica y reseña servicios de terceros con fotos de control propias.
Qué significa para las apps para desnudar
Un servicio que promete «sin censura» está diciendo que quitó este componente. Eso no es ilegal por sí mismo, pero elimina la única barrera automática contra el uso con fotos ajenas o de menores. Por eso en cada ficha anotamos qué declara el proveedor sobre consentimiento y edad, y por qué la privacidad pesa 30 % en el puntaje según cómo evaluamos.
La protección de menores no puede depender de un clasificador: nuestra política se explica en protección de menores, y las muestras que publicamos se etiquetan como sintéticas según la política de contenido IA.
En Chile
Ninguna ley chilena obliga a un sitio a usar un clasificador NSFW. Lo que sí existe es responsabilidad por el resultado: difundir imágenes íntimas sin consentimiento cae en el artículo 161-C del Código Penal (Ley 21.153, 2019) y en el artículo 161-D (Ley 21.675, 2024); el material sexual con menores, real o generado, se persigue por los artículos 366 quinquies y 374 bis del mismo código.
La Ley 21.719, vigente desde el 1 de diciembre de 2026, trata la foto de un rostro como dato biométrico sensible. El Boletín 17.618-19, sobre el sello para contenido generado con IA, sigue en trámite. Esta entrada informa; no es asesoría legal.
Términos relacionados
- SafeSearch: el filtro de los buscadores, construido sobre un clasificador de este tipo.
- Stable Diffusion: el modelo abierto cuyo filtro de seguridad se puede apagar con una línea de código.
- Verificación de edad: la barrera que el clasificador no reemplaza.
Herramientas relacionadas
Los generadores sin filtro que probamos con fotos de control propias, con puntaje y fecha de prueba, están comparados en generadores nude IA; las fichas completas, en el catálogo de apps para desnudar.
Preguntas frecuentes sobre el clasificador NSFW
¿Qué significa NSFW?
«Not safe for work», no apto para el trabajo. En internet etiqueta contenido sexual o violento; en IA nombra al modelo que lo detecta y al filtro que lo bloquea en generadores y plataformas.
¿Cómo sabe un modelo si una imagen es explícita?
No lo «sabe»: calcula un puntaje entre 0 y 1 a partir de miles de ejemplos etiquetados. La plataforma decide desde qué valor bloquea; por eso dos servicios tratan la misma foto de forma distinta.
¿Por qué bloquea fotos de playa o arte?
Porque la piel visible y ciertas poses elevan el puntaje aunque no haya nada explícito. Es un falso positivo; bajar el umbral lo evita, pero deja pasar más contenido que sí lo es.
¿Las apps para desnudar tienen clasificador NSFW?
En general no, o lo apagan: su función es producir la salida que el filtro bloquearía. Algunas declaran filtros contra menores; en cada reseña anotamos qué dice el proveedor al respecto.
¿Es obligatorio en Chile?
No hay norma que lo exija. La responsabilidad recae en el resultado: difundir imágenes íntimas sin consentimiento o material con menores se sanciona por el Código Penal, con o sin filtro.
Seguir leyendo
- Protección de menores: qué hace este sitio más allá de un filtro automático.
- Detección de deepfakes: los clasificadores que buscan lo sintético, no lo explícito.
- Privacidad al probar herramientas de IA: qué revisar antes de subir una foto.
- Inpainting: la técnica que el filtro intenta contener.
Fuentes
- Yahoo, 2016 — open_nsfw, modelo abierto de clasificación de contenido explícito: github.com.
- Rando, Paleka, Lindner, Heim y Tramèr (2022) — «Red-Teaming the Stable Diffusion Safety Filter», arXiv 2210.04610: arxiv.org.
- Google Cloud — documentación de Vision API, detección SafeSearch: cloud.google.com.
- CompVis — repositorio oficial de Stable Diffusion, con el filtro de seguridad: github.com.
- Biblioteca del Congreso Nacional — Ley N.° 21.153, artículo 161-C del Código Penal: bcn.cl.
- Biblioteca del Congreso Nacional — Código Penal, artículos 161-D, 366 quinquies y 374 bis: bcn.cl.
- Biblioteca del Congreso Nacional — Ley N.° 21.719 de protección de datos personales: bcn.cl.