
Human Authority en la era de la IA · Artículo canónico · Sección 3
Definir Human Authority
Las capacidades y los límites éticos de las acciones con consecuencias
Escrito por Karina Carlos, fundadora de Self-Conquest.
Registro de la fuente: Versión 0.2 · 31 de agosto de 2026
Panorama de Human Authority · Anterior: Por qué no basta con una persona dentro del proceso · Siguiente: El problema de acceso
Human Authority es la capacidad humana integrada y la legitimidad para gobernar acciones con consecuencias: ejercer el autogobierno, discernir y juzgar, decidir e intervenir bajo incertidumbre, hacer legible el fundamento que rige la decisión, ejercer el poder de manera proporcional y seguir respondiendo por lo que ocurra después. Su ejercicio debe ser acorde con la competencia, el rol, la responsabilidad, la jurisdicción y el alcance real de la influencia y el control de la persona.
La sección 2 estableció el umbral de una supervisión humana significativa. La presencia humana no basta. La competencia, el contexto que rige la decisión, la evaluación independiente, las facultades de intervención, el apoyo necesario, la comunicación protegida, la trazabilidad y la rendición de cuentas deben estar presentes para que un rol humano funcione como gobernanza y no como ceremonia.
Ese umbral deja sin resolver una pregunta más difícil. Si la autoridad no se confiere por ser humano, ocupar un cargo de alto nivel, hablar con seguridad o estar presente en el último punto de control, ¿qué hace que una persona sea capaz de gobernar acciones con consecuencias? Human Authority responde a esa pregunta como una categoría de capacidad y legitimidad, no como una presunción de superioridad humana.
La autoridad es una arquitectura y no un atributo
Human Authority no es un rasgo aislado que una persona posee o del que carece. Su unidad principal es una arquitectura con tres niveles: capacidad individual, legitimidad relacional y función institucional. La persona debe poder gobernar su atención, sus incentivos, su juicio y su acción. La relación entre la persona y quienes se ven afectados debe hacer que el poder sea inteligible y pueda ser cuestionado. La institución debe proporcionar facultades reales de decisión, apoyo, registros y rendición de cuentas. Los trabajos sobre control humano significativo y sistemas de decisión revisables respaldan esta unidad sociotécnica de análisis. 1 2
La legitimidad relacional importa porque el acatamiento no equivale a la autoridad. La investigación psicológica sugiere que es más probable que las personas acaten voluntariamente una autoridad cuando la perciben como apropiada y justa que cuando se basa únicamente en el miedo, el castigo o la recompensa. La filosofía política añade un punto normativo distinto: el poder de gobernar debe ejercerse mediante la autoridad debida y procedimientos que puedan explicarse a quienes están sujetos a él. 3 4
Ninguno de estos cuerpos de investigación establece el constructo completo de Human Authority. La legitimidad percibida puede atribuirse a instituciones injustas, y una explicación filosófica del poder democrático no puede convertirse sin más en una regla corporativa universal. Su relevancia es más acotada: ayudan a distinguir el poder que puede comprenderse y cuestionarse de la fuerza que depende principalmente del estatus, el miedo o el control.
Distinción de la categoría. Human Authority no se confiere únicamente por el cargo, la presencia, el estatus, el carisma, la seguridad o el estilo de comunicación. Surge cuando la capacidad de gobernar, la legitimidad y la rendición de cuentas institucional operan de forma conjunta.
Siete dimensiones constitutivas
La arquitectura se vuelve observable a través de siete dimensiones: autogobierno, discernimiento contextual, juicio, agencia bajo incertidumbre, legibilidad comunicativa, influencia ética y poder proporcional, y rendición de cuentas adaptativa. Son constitutivas porque la ausencia de cualquiera de ellas puede volver la autoridad inutilizable o ilegítima. No son un perfil de personalidad, una pretensión de perfección ni una afirmación científica de que la lista sea universalmente completa.
Autogobierno y Self-Conquest
Self-Conquest es la práctica continua de observar los propios sesgos e incentivos, regular los impulsos, aceptar la corrección, revisar las decisiones y renunciar a las ventajas ilegítimas. No es un estado consumado de pureza moral ni de ausencia de ambición. La ambición, el logro y el estatus pueden contribuir a una aportación legítima; la pregunta sobre la integridad es si siguen regidos por el propósito y la responsabilidad o empiezan a imponerse sobre ellos.
La investigación sobre regulación emocional, humildad intelectual, motivación autónoma y aprendizaje a partir del fracaso respalda componentes de esta práctica. La regulación implica seleccionar respuestas en lugar de limitarse a suprimir la emoción visible. La humildad intelectual incluye reconocer que las propias creencias pueden ser erróneas y permanecer abierto a argumentos más sólidos. Aprender del fracaso requiere identificarlo, analizarlo y corregirlo de manera deliberada. 5 6 7 8
Estas líneas de investigación no validan Self-Conquest como método integrado ni prueban que la regulación interna produzca un liderazgo legítimo. La proposición formulada por la autora es más específica: una persona no puede gobernar de manera fiable acciones con consecuencias mientras se niega a gobernar sus propios incentivos, su falibilidad y su respuesta correctiva. Self-Conquest da nombre a esa obligación continua, no a su cumplimiento empírico.
Discernimiento contextual
El discernimiento es la capacidad de identificar los hechos, lo que está en juego, los criterios rectores, los incentivos, las condiciones de poder, la información faltante, la incertidumbre y las consecuencias previsibles que son relevantes para una decisión. Establece qué merece atención antes de que el juicio seleccione un curso de acción. Más información no mejora necesariamente el discernimiento si la jerarquía de relevancia sigue sin estar clara.
La investigación sobre construcción de sentido describe cómo las personas convierten circunstancias ambiguas en una situación lo suficientemente explícita para facilitar la organización y la acción. Human Authority añade una prueba de gobernanza: la interpretación debe seguir respondiendo ante los hechos, el propósito legítimo, los límites del rol y quienes asumirán las consecuencias. 9
El discernimiento, por tanto, difiere del análisis por sí solo. El análisis puede ampliar las explicaciones posibles. El discernimiento identifica qué distinciones son relevantes ahora, qué incentivos pueden distorsionar la perspectiva, qué sigue siendo desconocido y qué debe regir la siguiente decisión. Da prioridad al contexto sobre el contenido sin descuidar la evidencia específica que contiene este último.
Juicio
El juicio es la capacidad de determinar el siguiente paso con integridad manteniendo la fidelidad a los hechos, a un propósito legítimo, a los límites del rol, a las obligaciones aplicables, a las tensiones relevantes entre opciones y a las consecuencias previsibles. No requiere certeza. Requiere una elección defendible y proporcional a lo que se sabe, a lo que sigue siendo incierto y a lo que puede corregirse.
El juicio práctico está situado en un contexto, en lugar de estar completamente determinado por reglas. La investigación sobre la phronesis respalda la necesidad de una atención comprometida y de acción allí donde las reglas generales no resuelven un caso particular. No demuestra que una decisión vaya a ser correcta ni autoriza a una persona a exceder su jurisdicción. 10
Estándar de juicio. El siguiente paso con integridad debe mantener simultáneamente la fidelidad a los hechos, al propósito legítimo, a los límites del rol, a las obligaciones aplicables, a las tensiones relevantes entre opciones y a las consecuencias previsibles.
Agencia bajo incertidumbre
La agencia es la capacidad de mantener en marcha el trabajo que tiene consecuencias sin fingir que se sabe lo que no se sabe. Convierte el discernimiento y el juicio en una siguiente acción disponible. Bajo incertidumbre, esto puede significar decidir, probar, pausar, solicitar evidencia, acotar el alcance, documentar el riesgo residual o escalar la cuestión a la instancia correspondiente. Avanzar no equivale a ir rápido, y la agencia no es impulsividad.
Los Principios de IA de la OCDE preservan la agencia humana y una supervisión adecuada al contexto, mientras que la investigación sobre construcción de sentido y juicio práctico respalda la acción en condiciones ambiguas. 11 9 10 Human Authority añade un límite del rol: cuando no existe jurisdicción directa, la agencia se ejerce mediante el cuestionamiento, la documentación y el escalamiento a la instancia correspondiente, en lugar de la ejecución no autorizada o el acatamiento pasivo.
Una persona que actúa rápidamente sin fidelidad a los hechos, sin la autoridad que corresponde o sin disposición a corregir no está demostrando Human Authority. Tampoco lo hace quien espera una certeza imposible mientras se acumulan consecuencias relevantes. Esta dimensión es la capacidad de actuar dentro de la autoridad real de la persona sin borrar la incertidumbre y preservando la posibilidad de revisión.
Legibilidad comunicativa
Human Authority está incompleta cuando el juicio no puede hacerse lo suficientemente legible para orientar la acción, recibir cuestionamientos y sustentar la rendición de cuentas. La legibilidad hace que otras personas puedan utilizar lo que está en juego, la evidencia, la incertidumbre, las facultades de decisión, el fundamento y la acción recomendada. No garantiza el acuerdo. Ofrece a los demás algo que pueden evaluar.
Los sistemas de decisión revisables requieren registros y escrutinio a lo largo de los procesos técnicos y organizacionales, no una explicación como capa decorativa. La investigación sobre comunicación de la incertidumbre también indica que reconocerla no tiene por qué destruir la confianza, aunque los efectos varían según el formato y el contexto. Una exigencia normativa de explicación pública refuerza, además, el papel de la legibilidad en una gobernanza legítima. 2 12 4
Límite contra el sesgo. La legibilidad es neutral respecto de la modalidad. Puede ser verbal, escrita, visual, documentada, asistida o expresarse mediante formas que siguen evolucionando. No equivale al carisma, el acento, la fluidez, el predominio de la voz, la brevedad ni el refinamiento ejecutivo convencional.
Influencia ética y poder proporcional
Human Authority incluye la capacidad de persuadir, dirigir, restringir y coordinar. Esos actos no se vuelven legítimos ni porque la persona tenga buenas intenciones ni porque el resultado sea eficiente. La persuasión ética requiere una intención transparente, afirmaciones veraces, ausencia de omisiones relevantes, ausencia de explotación de la vulnerabilidad, una posibilidad real de disentir y acceso a la información relevante para la decisión de la otra parte.
La investigación sobre autonomía, el Informe Belmont y el derecho de consumo de la UE ofrecen analogías de alcance acotado sobre la influencia que preserva la agencia y sobre la información relevante que una persona necesita para decidir. Estas fuentes rigen ámbitos particulares; no establecen una ley universal de la persuasión. 7 14 15 Dentro de Human Authority, la agencia informada sobre los aspectos relevantes significa revelar los hechos, los intereses, los riesgos, las alternativas y las limitaciones que una persona razonable consideraría relevantes, preservando al mismo tiempo la confidencialidad legítima.
El consentimiento no es posible en todo ejercicio legítimo de la autoridad. Los deberes de seguridad, la respuesta a crisis, la ley y la responsabilidad ejecutiva pueden requerir dirección o restricción. En esos casos, la prueba de legitimidad se vuelve más exigente: el mandato, la necesidad, la proporcionalidad, la transparencia, la posibilidad de cuestionamiento y la rendición de cuentas deben estar presentes en relación con lo que está en juego. 13 3 4
Rendición de cuentas adaptativa
La rendición de cuentas adaptativa es la capacidad de seguir respondiendo por lo que ocurra después, observar lo sucedido, aprender del error y reorientarse hacia el siguiente paso con integridad, en lugar de defender la identidad o preservar la apariencia de tener razón. Un mal resultado no niega automáticamente Human Authority. La negativa o la incapacidad de aprender de la evidencia relevante sí pueden hacerlo.
Aprender del fracaso requiere algo más que admitir que algo salió mal. Requiere identificar y analizar el fracaso, poner a prueba medidas correctivas y afrontar las barreras técnicas o sociales que impiden el aprendizaje. La humildad intelectual puede favorecer la apertura a evidencia más sólida, pero ninguna de estas líneas de investigación establece qué autoridad debería conservar una persona después del fracaso. 8 6
Human Authority vincula, por tanto, la obligación de responder con la corrección. La persona debe poder decir qué cambió, qué evidencia justifica la revisión, qué sigue siendo incierto y qué se hará de manera diferente a partir de ahora. Una rendición de cuentas que solo produce culpa no es adaptativa; un lenguaje de aprendizaje que evita las consecuencias no es rendición de cuentas.
La legitimidad rige el poder que tiene consecuencias
El poder se convierte en Human Authority solo cuando su propósito, su alcance, sus medios y sus consecuencias siguen siendo proporcionales, inteligibles, susceptibles de cuestionamiento y sujetos a rendición de cuentas.
-
Propósito legítimo y obligaciones. La acción debe servir a un propósito defendible dentro de la legislación aplicable, los deberes de seguridad, los derechos fundamentales y los compromisos que rigen la institución.
-
Competencia y jurisdicción. El rol, la competencia, las facultades de decisión, la responsabilidad y el control real de la persona deben ser acordes con la autoridad ejercida.
-
Necesidad y proporcionalidad. La intervención o la restricción deben responder a lo que está en juego y no tener un alcance mayor del que la situación razonablemente requiere.
-
Transparencia y agencia informada sobre los aspectos relevantes. Las partes afectadas deben recibir los hechos, los intereses, los riesgos, las alternativas y las limitaciones relevantes para su decisión, con sujeción a restricciones legítimas de confidencialidad.
-
Posibilidad de cuestionamiento. La decisión y su proporcionalidad deben estar abiertas a un cuestionamiento significativo, incluida la revisión por un tercero competente cuando corresponda.
-
Trazabilidad y rendición de cuentas. El fundamento que rige la decisión, la evidencia, la intervención, la incertidumbre residual y la asignación de responsabilidades deben poder revisarse después de los hechos.
La integridad busca un beneficio ampliado o mutuo siempre que ello sea razonablemente compatible con un propósito legítimo y con los derechos fundamentales. Algunas decisiones siguen siendo trágicas: ningún resultado disponible beneficia a todos. En esos casos, Human Authority requiere considerar de manera justa los intereses legítimos y negarse a trasladar un daño desproporcionado a las partes con menos poder. El beneficio de la mayoría, por sí solo, no vuelve legítima una decisión.
El desempeño es evidencia y no permiso
Un alto desempeño demostrado es evidencia importante de competencia y un resultado frecuente de Human Authority. No es suficiente para establecer la legitimidad ni constituye permiso para ejercer poder. Los resultados obtenidos mediante el engaño, el miedo, la explotación, la ventaja ilegítima o el traslado desproporcionado del daño a otros no se vuelven legítimos por tener éxito comercial u operativo.
Los marcos de gobernanza tratan la rendición de cuentas como un trabajo continuo y no como una aprobación única, y distribuyen la responsabilidad según el rol, el contexto y la capacidad de actuar. La crítica de las moral crumple zones (zonas de absorción de responsabilidad moral) añade un límite necesario: la obligación de responder se vuelve ilegítima cuando se asigna a una persona sin el conocimiento o el control necesarios para cambiar el resultado. 16 17 18
Una persona puede conservar Human Authority después de que una decisión íntegra produzca un mal resultado cuando observa el resultado, aprende de la evidencia relevante, corrige el rumbo y prefiere mejorar a justificarse. La integridad no vuelve irrelevante la competencia. El fracaso reiterado puede requerir que la autoridad se reduzca, se transfiera o se retire.
Dentro de esta categoría, el ajuste debería basarse en evidencia conductual documentada y relevante para el rol, y ajustarse a un plazo razonable y comunicado, establecido por necesidades operativas legítimas. Salvo cuando la continuidad del ejercicio genere un riesgo material inmediato, la persona debería recibir el apoyo necesario, una oportunidad genuina de mejorar, una decisión razonada de la autoridad competente y una oportunidad significativa de impugnar esa decisión. Este es un estándar procedimental de Human Authority formulado por la autora, no asesoría en derecho laboral.
Cuando el escalamiento ordinario ya no basta
La voz es una condición operativa de la gobernanza. La investigación sobre la voz de los empleados muestra que la comunicación ascendente puede llevar preocupaciones e información sobre problemas a una autoridad superior, mientras que el silencio puede privar a las organizaciones de evidencia relevante. No obstante, la voz depende tanto de condiciones individuales como organizacionales. 19
Cuando los canales ordinarios se han agotado o hay razones fundadas para creer que están comprometidos, y la evidencia creíble indica un riesgo material para la seguridad, la salud, los derechos fundamentales o el bienestar humano, o un abuso grave de poder, Human Authority puede requerir negarse a ejecutar, retirarse del proceso o denunciar a través de canales protegidos competentes. La respuesta debe seguir siendo necesaria, proporcional, documentada y orientada a minimizar el daño colateral evitable.
El límite jurídico debe permanecer explícito. La Directiva de la UE sobre protección de los denunciantes establece canales internos y externos de denuncia y permite acudir directamente a canales externos dentro de su ámbito de aplicación; agotar los canales internos no es un requisito jurídico universal. La divulgación pública también puede estar protegida bajo condiciones especificadas. La transposición nacional, los deberes profesionales, la confidencialidad y las reglas sectoriales siguen rigiendo la vía disponible. 20
La orientación de la OCDE sobre integridad pública respalda canales claros de denuncia, vías alternativas independientes, protección frente a represalias, revisión efectiva y respuesta de quienes dirigen. Es orientación y no una ley universal. El Convenio del Consejo de Europa sobre IA respalda la posibilidad de cuestionamiento y de presentar reclamaciones en contextos de IA con consecuencias, pero no crea un derecho general de los empleados a negarse a actuar. 21 13
Límite del escalamiento. El desacuerdo ordinario, la incomodidad, la frustración por el estatus o una relación de poder desfavorable no autorizan por sí solos a eludir la gobernanza. El umbral requiere evidencia creíble de riesgo material, explotación, represalias, supresión de información relevante o imposibilidad de obtener una revisión imparcial.
La prueba de Human Authority
Human Authority está presente cuando una persona puede gobernarse a sí misma, leer el contexto que rige la decisión, formar un juicio defendible sin falsa certeza, ejercer la agencia disponible para su rol, hacer legible el fundamento, usar la influencia o la restricción de manera proporcional y seguir respondiendo mediante la corrección. El ejercicio debe ser legítimo en su propósito, acorde con la competencia y la jurisdicción, abierto al cuestionamiento y trazable hasta las personas e instituciones que poseen conocimiento y control reales.
La categoría excluye dos errores simétricos. El primero es la humanidad ceremonial: una persona está presente, pero carece de juicio, autoridad, apoyo o rendición de cuentas. El segundo es la autoridad heroica: un individuo aparentemente excepcional se atribuye permiso para imponerse sobre los sistemas, las instituciones o las partes afectadas debido a su seguridad, su desempeño o su convicción. Human Authority requiere tanto agencia como restricción, tanto poder como obligación de responder.
Acto irreductible. La contribución humana consiste en gobernar la legitimidad de la acción: determinar y revisar el propósito y los criterios, juzgar las tensiones entre opciones y las excepciones, autorizar o interrumpir la ejecución y seguir respondiendo por las consecuencias dentro de una estructura transparente de rendición de cuentas.
Definir la categoría no garantiza que una persona pueda acceder a ella cuando aumenta lo que está en juego. La competencia puede estar presente mientras la visibilidad, la jerarquía, la presión del tiempo o las consecuencias distorsionan la atención, la voz y la conducta. La sección 4 examina ese problema de acceso: por qué el juicio que existe en condiciones ordinarias puede dejar de estar disponible precisamente cuando más lo necesitan las personas presentes.
Fuentes seleccionadas
Estas fuentes respaldan componentes, analogías y límites específicos de este ensayo. No validan la arquitectura completa de Human Authority ni la metodología Self-Conquest.
[1] Santoni de Sio, F., and van den Hoven, J. (2018). Meaningful Human Control over Autonomous Systems: A Philosophical Account. Frontiers in Robotics and AI.
[2] Cobbe, J., Lee, M. S. A., and Singh, J. (2021). Reviewable Automated Decision-Making: A Framework for Accountable Algorithmic Systems. Proceedings of the ACM Conference on Fairness, Accountability, and Transparency.
[3] Tyler, T. R. (2006). Psychological Perspectives on Legitimacy and Legitimation. Annual Review of Psychology.
[4] Lazar, S. (2024). Legitimacy, Authority, and Democratic Duties of Explanation. In Oxford Studies in Political Philosophy, Volume 10.
[5] Gross, J. J. (2015). Emotion Regulation: Current Status and Future Prospects. Psychological Inquiry.
[6] Leary, M. R., et al. (2017). Cognitive and Interpersonal Features of Intellectual Humility. Personality and Social Psychology Bulletin.
[7] Deci, E. L., and Ryan, R. M. (2000). The 'What' and 'Why' of Goal Pursuits: Human Needs and the Self-Determination of Behavior. Psychological Inquiry.
[8] Cannon, M. D., and Edmondson, A. C. (2005). Failing to Learn and Learning to Fail (Intelligently). Long Range Planning.
[9] Weick, K. E., Sutcliffe, K. M., and Obstfeld, D. (2005). Organizing and the Process of Sensemaking. Organization Science.
[10] Shotter, J., and Tsoukas, H. (2014). In Search of Phronesis: Leadership and the Art of Judgment. Academy of Management Learning & Education.
[11] Organisation for Economic Co-operation and Development (2019; updated 2024). OECD AI Principles — Human-centred values and fairness.
[12] van der Bles, A. M., et al. (2020). The Effects of Communicating Uncertainty on Public Trust in Facts and Numbers. Proceedings of the National Academy of Sciences.
[13] Council of Europe (2024). Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law.
[14] U.S. National Commission for the Protection of Human Subjects of Biomedical and Behavioral Research (1979). The Belmont Report.
[15] European Union (2005). Directive 2005/29/EC concerning unfair business-to-consumer commercial practices, Article 7.
[16] National Institute of Standards and Technology (2023). Artificial Intelligence Risk Management Framework 1.0 — GOVERN function.
[17] Organisation for Economic Co-operation and Development (2019; updated 2024). OECD AI Principles — Accountability.
[18] Elish, M. C. (2019). Moral Crumple Zones: Cautionary Tales in Human-Robot Interaction. Engaging Science, Technology, and Society.
[19] Morrison, E. W. (2014). Employee Voice and Silence. Annual Review of Organizational Psychology and Organizational Behavior.
[20] European Union (2019). Directive (EU) 2019/1937 on the protection of persons who report breaches of Union law.
[21] Organisation for Economic Co-operation and Development (2020). OECD Public Integrity Handbook — Openness.
Autoría versión y cita
Escrito por Karina Carlos, fundadora de Self-Conquest.
Publicado por Self-Conquest como cuerpo metodológico.
Basado en el artículo canónico de Human Authority aprobado por la autora y contrastado con las fuentes.
Registro de la fuente: Versión 0.2 · 31 de agosto de 2026
Edición web: 0.1
Fuente canónica: karinacarlos.com
Entrada a la metodología: Self-Conquest
Cita sugerida: Carlos, Karina. “Defining Human Authority.” Human Authority in the Age of AI, Section 3. Self-Conquest, 2026. https://www.karinacarlos.com/human-authority/defining-human-authority.
Acerca de la autora
Karina Carlos fundó Self-Conquest, una metodología en desarrollo para Human Authority en la era de la IA. Su trabajo en comunicación ejecutiva, discernimiento, presencia y liderazgo bajo presión examina cómo el juicio humano se vuelve legítimo, legible y utilizable en condiciones con consecuencias.
Continuar la indagación
Continuar a la sección 4: El problema de acceso o volver al panorama de Human Authority.
Para seguir la vía de la metodología y sus aplicaciones, continuar a través de Self-Conquest.
Fuente canónica: karinacarlos.com
Entrada a la metodología: self-conquest.com