{"slug": "detecta-si-tu-modelo-de-materiales-hace-trampa-con-la-huella-bibliografica", "title": "Detecta si tu modelo de materiales hace trampa con la 'huella bibliográfica'", "summary": "A developer released an open-source CLI tool, materials-confounding-check, that detects whether a materials science ML model is cheating by relying on bibliographic metadata (authors, journals, years) instead of actual chemistry. The tool runs four falsification sub-tests using a null distribution of 100 permutations and a percentile-95 threshold, and its verdict remains stable across seed sweeps. It fills a gap left by generic leakage scanners like Giskard, which do not cover the specific bibliographic footprint test for materials science.", "body_md": "Un modelo de ML puede predecir la propiedad de un material sin entender la química: basta con que \"aprenda\" qué autores, revistas o años suelen ir con cada resultado. Esta herramienta aplica el test de falsificación de\n\nClever Materialspara descubrirlo.\n\nImagina que entrenas un modelo para predecir si un material es estable. El modelo no mira la química: descubre que los artículos del grupo X (publicados en la revista Y, en torno al año Z) casi siempre reportan \"estable\". Así que aprende a clasificar por el **membrete bibliográfico**, no por la estructura. Funciona en el papel y se rompe en la práctica.\n\nA esto se le llama **confounding bibliográfico** (o *leakage* por metadata). No es un error de código: es una señal espuria que el modelo aprovecha. El paper *Clever Materials* (Jablonka et al., 2026) mostró que este patrón está **generalizado** en cinco tareas reales de materials science.\n\n`materials-confounding-check`\n\nes una CLI (`mcc check`\n\n) que corre **cuatro sub-tests de falsificación** sobre tu dataset (descriptores químicos + metadata bibliográfica + propiedad objetivo):\n\n`low`\n\n/ `medium`\n\n/ `high`\n\nde riesgo de confounding.El punto delicado de cualquier \"test de significancia\" es fijar el umbral a mano. Si ajustas el margen hasta que tu fixture pase, el test no prueba nada: es el anti-patrón *Clever-Hans* que el propio proyecto detecta.\n\nPor eso el núcleo estadístico usa una **distribución nula de N=100 permutaciones** de la metadata (deterministas por semilla) y decide por **percentil-95**, no por un margen fijo. Y el test de detección (AC-4) usa un *fixture* con confounding **inyectado independientemente**, así el veredicto no sale de las propias reglas del tester. El veredicto (`spurious → high`\n\n, `clean → low`\n\n) se mantiene estable en un **sweep de 4 semillas** distintas.\n\n```\npip install -e .\nmcc check --in dataset.csv --out reporte.json\n```\n\nOpciones: `--seed`\n\n(determinismo), `--n-perm`\n\n(permutaciones de la distribución nula, por defecto 100), `--group-by`\n\n(year|author), `--no-metadata-enrich`\n\n(offline). El reporte JSON trae los cuatro bloques y el veredicto final.\n\nHerramientas como [Giskard](https://github.com/Giskard-AI/giskard) cubren *leakage* tabular genérico, pero su scanner tabular (v2) está sin mantenimiento activo y **no corre el test de huella bibliográfica** específico de materials science. Ese es el hueco que esta herramienta llena.\n\n`ruff`\n\nlimpio, cobertura ~88%.*Repositorio: https://github.com/amurlaniakea/materials-confounding-check — Licencia AGPL-3.0-or-later, Pedro Sordo Martínez.*", "url": "https://wpnews.pro/news/detecta-si-tu-modelo-de-materiales-hace-trampa-con-la-huella-bibliografica", "canonical_source": "https://dev.to/magopredator/detecta-si-tu-modelo-de-materiales-hace-trampa-con-la-huella-bibliografica-301a", "published_at": "2026-07-12 03:07:16+00:00", "updated_at": "2026-07-12 03:43:25.599418+00:00", "lang": "en", "topics": ["machine-learning", "developer-tools", "ai-research"], "entities": ["Pedro Sordo Martínez", "materials-confounding-check", "Giskard", "Clever Materials", "Jablonka et al."], "alternates": {"html": "https://wpnews.pro/news/detecta-si-tu-modelo-de-materiales-hace-trampa-con-la-huella-bibliografica", "markdown": "https://wpnews.pro/news/detecta-si-tu-modelo-de-materiales-hace-trampa-con-la-huella-bibliografica.md", "text": "https://wpnews.pro/news/detecta-si-tu-modelo-de-materiales-hace-trampa-con-la-huella-bibliografica.txt", "jsonld": "https://wpnews.pro/news/detecta-si-tu-modelo-de-materiales-hace-trampa-con-la-huella-bibliografica.jsonld"}}