1. Qué hace la IA
IP-SPIDER emplea modelos y reglas para comparar elementos denominativos, visuales, fonéticos y lingüísticos, clasificar señales, resumir fuentes y proponer factores de riesgo. Cada función debe mostrar su propósito y el tipo de salida que genera.
2. Control humano
El sistema no presenta un score como sentencia. El usuario revisa la fuente, los factores, la evidencia y el contexto antes de confirmar, descartar o escalar una alerta. Las acciones jurídicas, comerciales o reputacionales requieren intervención humana.
3. Explicabilidad y trazabilidad
Cuando una función prioriza una señal, debe conservar los factores relevantes, la versión del modelo o regla, la fecha, la fuente y la intervención del usuario. Una explicación no convierte el resultado en asesoramiento jurídico.
4. Calidad, sesgos y evaluación
Evaluamos errores, falsos positivos, falsos negativos, idiomas, territorios y cambios de distribución. Ningún modelo elimina el sesgo ni cubre de forma idéntica todos los alfabetos, sectores, plataformas o culturas.
5. Datos y proveedores de modelos
Minimizamos los datos enviados a modelos externos y aplicamos configuraciones contractuales adecuadas. Los datos de un cliente no deben utilizarse para entrenar modelos generales sin base jurídica, autorización y transparencia específicas.
6. Límites conocidos
- Las fuentes pueden estar incompletas, retrasadas o cambiar.
- La similitud estadística no equivale a confundibilidad jurídica.
- Los modelos generativos pueden producir resúmenes incorrectos.
- El contexto local, la notoriedad y las pruebas de uso requieren análisis profesional.
- Una baja puntuación no demuestra ausencia de riesgo.
7. Usos prohibidos
No debe usarse IP-SPIDER para tomar decisiones exclusivamente automatizadas con efectos jurídicos sobre personas, inferir categorías sensibles, discriminar, acosar, vigilar de forma ilícita, fabricar evidencia, suplantar identidades o eludir derechos y términos de fuentes externas.
8. Gobernanza y transparencia
Mantenemos inventario de funciones, finalidad, responsable, proveedores, datos, evaluaciones y cambios relevantes. Adaptaremos estas medidas a las obligaciones aplicables del Reglamento europeo de IA y a las normas de los mercados donde se preste el servicio.