Cómo interpretar las puntuaciones de detección de deepfakes

Una puntuación no es una respuesta definitiva

Cuando una herramienta de detección devuelve un resultado, es tentador leerlo como un juicio final: manipulado o auténtico. Pero eso no es lo que produce un detector. Lo que produce es una estimación probabilística, un valor que expresa un grado de riesgo, no una certeza.

Esto importa porque las decisiones basadas en medios digitales —verificar una imagen periodística, evaluar un audio en un proceso legal, revisar un vídeo antes de publicarlo— tienen consecuencias reales. Tratar una puntuación como si fuera un dictamen puede llevar a errores en cualquier dirección.

Los detectores de medios manipulados, incluidos los que participan en evaluaciones como el Open Media Forensics Challenge (OpenMFC) del Instituto Nacional de Estándares y Tecnología de EE. UU. (NIST), están diseñados para medir el rendimiento de algoritmos forenses sobre imágenes y vídeos. OpenMFC evalúa si un medio ha sido manipulado y, en caso afirmativo, intenta localizar la región y el tipo de alteración. El hecho de que NIST mantenga una serie de evaluaciones continua y abierta a investigadores de todo el mundo refleja que la detección forense de medios es un campo activo.

Falsos positivos, falsos negativos y por qué ambos son relevantes

Todo sistema de clasificación probabilística convive con dos tipos de error. Un falso positivo ocurre cuando el sistema señala como manipulado un archivo que en realidad es auténtico. Un falso negativo ocurre cuando el sistema no detecta una manipulación que sí existe.

Para quien necesita verificar el origen o la integridad de un archivo, esto tiene una implicación directa: una puntuación baja no garantiza autenticidad, y una puntuación alta no garantiza manipulación. Ambos resultados requieren interpretación.

Herramientas como DeepFakeCheck ofrecen resultados probabilísticos que deben leerse como señales de riesgo, no como veredictos. La herramienta tiene un nivel de uso gratuito disponible sin necesidad de registro inicial, lo que permite explorar sus resultados antes de comprometerse con un flujo de trabajo más amplio.

Por qué el contexto cambia la lectura de cualquier resultado

Una puntuación de detección se produce sobre el archivo tal como llega al sistema. Lo que ese archivo ha atravesado antes —cómo fue capturado, distribuido, comprimido o convertido— forma parte del contexto que la puntuación por sí sola no puede comunicar.

Desde una perspectiva de verificación, hay varias dimensiones que conviene considerar junto al resultado del detector:

• Procedencia del archivo: ¿De dónde viene? ¿Quién lo publicó primero y en qué plataforma?
• Historial de distribución: ¿Ha pasado por múltiples canales antes de llegar a tus manos? Considera revisar el historial de distribución del archivo como parte del proceso de verificación.
• Tipo de contenido: ¿Es coherente con lo que se afirma que muestra? ¿Coincide la fecha, el lugar, los participantes?
• Motivación potencial: ¿Existe algún incentivo para que este archivo haya sido alterado o fabricado?

Ninguno de estos factores reemplaza la detección automatizada, pero tampoco la detección automatizada los reemplaza a ellos. Son capas complementarias de análisis.

Flujo de verificación: cómo usar una puntuación de forma responsable

El siguiente flujo está pensado para quien recibe un archivo y necesita tomar una decisión informada sobre su autenticidad o integridad.

Paso 1 — Obtén la puntuación de detección

Ejecuta el archivo a través de una herramienta forense. Anota el valor y cualquier indicación sobre la región o tipo de manipulación detectada, si el sistema los proporciona.

Paso 2 — Interpreta el resultado como rango de riesgo, no como certeza

• Puntuación alta → riesgo elevado de manipulación; requiere investigación adicional.
• Puntuación baja → riesgo reducido; no equivale a autenticidad confirmada.
• Puntuación intermedia → resultado ambiguo; no tomes decisiones basadas solo en este dato.

Paso 3 — Investiga la procedencia

Busca la fuente original del archivo. Comprueba si existe una versión anterior o de mayor resolución. Verifica quién lo publicó primero y si hay metadatos accesibles.

Paso 4 — Aplica verificación contextual

Contrasta el contenido con fuentes independientes. ¿Es coherente con eventos documentados? ¿Hay otras imágenes o registros del mismo momento?

Paso 5 — Considera el tipo de error más relevante para tu caso

Si las consecuencias de un falso negativo son graves (publicar algo manipulado como real), establece un umbral de cautela más alto. Si las consecuencias de un falso positivo son graves (acusar de manipulación algo auténtico), aplica el mismo criterio en la dirección contraria.

Paso 6 — Incorpora revisión humana con criterio experto

Ningún resultado automatizado debería ser el único fundamento de una decisión de alto impacto. Un analista con conocimiento del contexto, del tipo de contenido y de las limitaciones del sistema aporta una capa que ningún detector puede sustituir.

Paso 7 — Documenta tu proceso

Registra qué herramienta usaste, qué puntuación obtuvo, qué pasos de verificación adicionales seguiste y qué conclusión provisional alcanzaste. Esto es especialmente importante en contextos legales, periodísticos o institucionales.

---

El trabajo de NIST a través de OpenMFC —que incluye conjuntos de datos de referencia, infraestructura de evaluación y un foro de comunicación para investigadores— ilustra que la detección forense de medios es un campo que avanza mediante evaluación sistemática y colaboración abierta. Eso es precisamente lo que hace que sus resultados sean valiosos: no porque ofrezcan certeza, sino porque ofrecen medidas de rendimiento comparables y transparentes.

Quien usa herramientas de detección en contextos reales se beneficia de entender ese marco: los resultados son útiles cuando se leen con rigor, se combinan con contexto y se someten a revisión crítica. Una puntuación bien interpretada vale mucho más que una puntuación mal entendida.

---

Fuentes

• NIST — Open Media Forensics Challenge: https://www.nist.gov/itl/iad/mltg/open-media-forensics-challenge