Cuatro preguntas para quienes necesitan que la supervisión humana funcione antes de que las consecuencias sean difíciles de revertir Karina Carlos Antes de poner en marcha un proceso asistido por IA, pide a la persona que deberá supervisarlo que recorra una decisión que podría necesitar cuestionar. ¿Qué información revisaría? ¿Qué podría modificar? ¿Cómo impediría que la acción siguiera adelante mientras quedara una duda relevante por resolver? Después, pídele que demuestre e

IA jurídica, evidencia y responsabilidad por lo que se recomienda Karina Carlos · Self-Conquest Al respaldar una recomendación elaborada con IA, un profesional asume responsabilidad por el consejo que ofrece. Verificar los hechos es indispensable. También lo es precisar por qué esos hechos justifican actuar, a qué objetivos responde la propuesta y qué supuestos pendientes podrían modificarla. El umbral que propongo es poder reconstruir y cuestionar el razonamiento que sostien

Conservar la diferencia entre una explicación plausible, una conclusión acreditada y una decisión que debe tomarse ahora Karina Carlos El registro de que un sistema de IA emitió una alerta permite establecer algo sobre su resultado. Que el hecho sospechado haya ocurrido es una cuestión diferente. Esa distinción puede perderse cuando una explicación parece convincente, un cliente necesita una respuesta y alguien debe decidir qué sigue. El reto práctico consiste en actuar con l

Cómo evaluar los casos que la automatización retira de la vista del analista de seguridad Karina Carlos Una cola de alertas de seguridad más corta puede representar trabajo útil. Los analistas quizá dispongan de más tiempo para investigar los casos que lo requieren. Sin embargo, la cola muestra únicamente lo que sigue disponible para revisión. Si un sistema automatizado cierra parte del trabajo entrante, evaluar solo la pantalla del analista deja una parte del proceso sin exa

Por Karina Carlos, fundadora de Self-Conquest Consideremos una decisión hipotética sobre acceso a una prestación pública. Una persona recibe una notificación: su hogar supera el umbral de ingresos. El documento identifica el programa, comunica el resultado e indica cómo impugnarlo. Sin embargo, la persona no puede saber qué registro de ingresos se utilizó, a qué periodo corresponde ni cómo corregirlo. Quien atiende el caso puede consultar el mismo resultado, pero tampoco reco