{
  "version": "1.0.0",
  "segments": [
    {
      "speaker": "Albert Esplugas",
      "startTime": "4.24",
      "endTime": "29.425",
      "body": "Durante décadas, llamamos recursos a las personas, nos equivocamos. Y ahora, justo cuando empezamos a corregirlo, llega una nueva inteligencia que sí lo es. Los agentes que se gestionan, se asignan y se optimizan como recursos inhumanos. Ese es el giro que lo cambia todo. Las personas dejaron de ser recursos y los agentes empiezan a serlo."
    },
    {
      "speaker": "Albert Esplugas",
      "startTime": "30.384998",
      "endTime": "74.575",
      "body": "Soy Albert Esplugas, este es mi podcast, y existe gracias a Inusual, una escuela de reeducación ejecutiva donde desaprendemos las viejas formas de liderar para superar objetivos haciendo crecer las personas. Y es que el buen liderazgo consiste en distinguir lo que se gestiona de lo que se lidera. Todo el mundo habla de gobernanza de la IA como si fuera una casilla que se marca una vez, y no lo es. Las organizaciones que gestionan bien el riesgo de IA están un 12 por 100 más avanzadas en adopción tecnológica que las que lo tienen mal resuelto. La gobernanza decide si la IA se queda en un piloto eterno o se convierte en una ventaja competitiva."
    },
    {
      "speaker": "Albert Esplugas",
      "startTime": "75.935",
      "endTime": "119.81",
      "body": "Hoy quiero explicar 2 cosas, qué es exactamente la cobranza de IA y por qué se vuelve mucho más exigente cuando entran en juego los agentes. No porque haga falta inventar una gobernanza distinta, sino porque los agentes la llevan a un nivel de autonomía donde la mayoría de las organizaciones descubre que le faltan piezas, y voy a dedicar un bloque entero a qué significa esto para Recursos Humanos. ¿Qué es realmente la gobernanza de la IA? Pues empecemos por la definición formal de Gardner. La gobernanza de la IA es el proceso de crear políticas, asignar derechos de decisión y garantizar la responsabilidad organizativa sobre los riesgos y las decisiones asociados al uso de la inteligencia artificial."
    },
    {
      "speaker": "Albert Esplugas",
      "startTime": "121.09",
      "endTime": "169.695",
      "body": "Fijaros en las 3 palabras clave, políticas, derechos de decisión y responsabilidad. Va mucho más allá de un comité de ética que se reúne una vez al trimestre, es la infraestructura de decisión de la empresa aplicada a la IA. Por ejemplo, en la gobernanza corporativa clásica, está claro quién puede firmar un contrato, hasta qué importe, quién aprueba un gasto y quién responde si algo sale mal. La gobernanza de la IA es exactamente eso, pero trasladada a los sistemas, quién puede desplegar un modelo, quién aprueba un caso de uso de alto riesgo, quién responde ante el regulador o ante un cliente si el sistema se equivoca. El problema típico es que muchas organizaciones meten gobernanza, riesgo, cumplimiento y seguridad en un mismo saco."
    },
    {
      "speaker": "Albert Esplugas",
      "startTime": "170.58",
      "endTime": "220.845",
      "body": "Sin un responsable claro, con legal, IT, riesgo y negocio, opinando a la vez, quedan huecos de supervisión por cubrir. Un programa serio cubre los 6 bloques, responsabilidad, política de la IA, riesgo y cumplimiento, datos preparados para la IA, desarrollo y despliegue. No hace falta memorizarlos, lo que hay que retener es la lógica, cubre todo el ciclo de vida, desde que los datos alimentan al sistema hasta que pasa el día después de ponerlo en producción. Y no hace falta tener un aparato burocrático gigante. El módulo que funciona tiene 3 niveles, arriba de todo, supervisión, el consejo y el comité ejecutivo, en el centro, un equipo operativo de gobernanza que coordina, y abajo, en las unidades de negocio, que son las que despliegan la IA de alto riesgo en el día a día."
    },
    {
      "speaker": "Albert Esplugas",
      "startTime": "222.845",
      "endTime": "257.48",
      "body": "La IA genética exige la misma gobernanza, pero con más granularidad y más piezas, porque 3 cosas cambian de escala a la vez. 1º, el sistema pasa de proponer a ejecutar. Un modelo generativo produce algo, un texto, una recomendación, una predicción, y una persona decide si lo usa o no. En cambio, un agente interpreta una instrucción compleja, elabora un plan y lo ejecuta a través de varios sistemas, sin que un humano intervenga necesariamente en cada paso. Una analogía."
    },
    {
      "speaker": "Albert Esplugas",
      "startTime": "257.56",
      "endTime": "296.11002",
      "body": "La IA generativa es como un becario brillante que os redacta un borrador de contrato, lo leéis, lo corregís y lo firmáis, o no lo firmáis. En cambio, un agente es darle a ese becario acceso al sistema de contratación, a la firma electrónica de la empresa y permiso para negociar con el proveedor. Ya no estáis revisando en borrador, estáis delegando autoridad. 2º aspecto, el agente decide en entornos cambiantes. A un sistema que produce siempre el mismo tipo de salida se le puede validar por el resultado antes de usarlo, pero a un agente no, porque su valor está, justamente, en adaptar el plan a lo que se va encontrando."
    },
    {
      "speaker": "Albert Esplugas",
      "startTime": "296.35",
      "endTime": "346.635",
      "body": "Un dato que ha cambiado, un sistema que no responde, una excepción imprevista. No podéis preaprobar cada camino porque el camino se va decidiendo en ejecución, y eso obliga a cambiar el método, de validar resultados, a acotar fronteras y vigilar comportamiento, establecer unos warries, qué puede tocar, hasta dónde, con qué datos y qué señales indican que se está desviando o no. Es la diferencia entre revisar el informe de alguien y confiar en un profesional al que le has definido muy bien el marco y al que monitorizas, pero por excepción. 3º aspecto, el despliegue se multiplica sin que nadie lo decida. Los agentes no llegan solo por proyectos internos aprobado, llegan embebidos en herramientas que ya tenéis, como Microsoft, Salesforce, Google y, en general, cualquier aplicación de software."
    },
    {
      "speaker": "Albert Esplugas",
      "startTime": "348.3",
      "endTime": "393.14502",
      "body": "Hablemos de los mecanismos de cobranza, y hay 3. El 1º es el que llaman, Garner llama overside, 2º, controls, y 3º, evaluation, y por eso hacen las siglas OCE. Vamos a a empezar 1º, overside, es decir, supervisión, saber qué hay y qué hizo, un inventario vivo de qué agentes están activos, con qué permisos y bajo qué responsable, y un rastro de evidencia de cada acción, qué pidió el usuario, qué plan hizo el agente, qué herramientas y datos usó, qué aprobaciones tuvo y dónde acabó el resultado. Sin eso, ninguna excepción se puede diagnosticar ni tampoco se puede defender ante una auditoría. 2º, controles."
    },
    {
      "speaker": "Albert Esplugas",
      "startTime": "393.385",
      "endTime": "430.545",
      "body": "Acotar la autoridad, establecer el mínimo privilegio, separación de funciones y distintos grados de autonomía. El agente puede redactar, pero no aprobar, puede recomendar, pero no ejecutar sin un humano en el bucle cuando el resultado toca sistemas críticos o sale de la empresa. Es el equivalente técnico de la matriz de delegación de autoridad. Y 3º, evaluación, comprobar de forma continua. Como no podéis validar por adelantado un resultado cuya forma todavía no conocéis, convertid los controles de calidad que ya existen, como son conciliaciones, umbrales o revisiones de cumplimiento, en pruebas automáticas."
    },
    {
      "speaker": "Albert Esplugas",
      "startTime": "431.12",
      "endTime": "458.455",
      "body": "Se ejecutan antes de poner el agente en producción y siguen ejecutándose mientras opera, porque la desviación puede aparecer meses después de la puesta en marcha. Estamos usando agentes para evaluar a los agentes que se están ejecutando. Vamos ahora a hablar de de gobernanza y recursos humanos. La de la guía no es solo un asunto de IT, de legal o de riesgo. Recursos humanos tiene un papel que nadie más puede ocupar por 3 motivos."
    },
    {
      "speaker": "Albert Esplugas",
      "startTime": "458.85498",
      "endTime": "493.85",
      "body": "1º, recursos humanos construye la matriz de autoridad, porque ya sabe hacerlo. Definir qué puede hacer un agente en solitario y qué requiere intervención humana es el mismo ejercicio que definir los niveles de aprobación de un puesto de trabajo. Recursos humanos ya tiene el lenguaje de las descripciones de puesto, los niveles de autoridad y las líneas de escalado, por lo tanto, le va a ser más fácil. Ese conocimiento se traslada directamente a diseñar la descripción de puesto de un agente de ella. Sin ese rigor, la delegación de autoridad se acaba improvisando, sea humano o artificial, y la improvisación todos sabemos que sale cara."
    },
    {
      "speaker": "Albert Esplugas",
      "startTime": "494.73",
      "endTime": "538.84503",
      "body": "2º, sin alfabetización ni gestión del cambio, la gobernanza se queda en papel mojado. Hay que preparar a los trabajadores, y debe arrancar esa preparación en paralelo a los primeros pilotos, no después. Como mínimo, hace falta un programa de alfabetización en IA que explique cómo estas herramientas cambian el trabajo real de cada persona y que evolucione hacia un esfuerzo continuo de reskilling, qué tareas automatizan y qué habilidades hacen falta para las que quedan. Y 3º, Recursos Humanos es a la vez gobernante y gobernado. Cuando se usa la IA cada vez más agéntica en temas como contratación, evaluación del desempeño o promoción, Recursos Humanos pasa de diseñar la gobernanza a estar sujeto a ella."
    },
    {
      "speaker": "Albert Esplugas",
      "startTime": "539.245",
      "endTime": "579.23",
      "body": "Un sesgo en un sistema que filtra currículums o puntúa desempeño es un riesgo legal, reputacional y humano de 1º orden, no es un fallo técnico. Ese proceso necesita del mismo escrutinio con el comité que cualquier otro, sin excepción, por el hecho de venir de casa del equipo que está trabajando en la gobernanza. Hablemos de 7 acciones concretas que podéis hacer. Lo 1º es nombrar un responsable único de gobernanza con perfil híbrido de riesgo, cumplimiento y tecnología, y buena capacidad de interlocución, porque va a coordinar departamentos que compiten por prioridades. 2º, extender la gobernanza que ya existe, en lugar de reinventarla."
    },
    {
      "speaker": "Albert Esplugas",
      "startTime": "579.31",
      "endTime": "621.59503",
      "body": "Partid de vuestro modelo actual de gobernanza de datos y de riesgo que seguro que ya tenéis, y añadid las piezas específicas de la inteligencia artificial. 3º, diseñar una estructura mínima viable, supervisión arriba, un equipo operativo central y responsabilidad distribuida en las unidades de negocio, que es donde realmente se usa la IA de mayor riesgo. 4º, graduar la autonomía caso por caso. Para cada abuso, definid en qué peldaño está el sistema, sugerir, redactar, aprobar bajo umbral o ejecutar, y qué condiciones hacen falta para irlo subiendo de peldaño. 5º, invertir en trazabilidades del diseño, no como un parche."
    },
    {
      "speaker": "Albert Esplugas",
      "startTime": "621.755",
      "endTime": "653.435",
      "body": "Si un rastro de auditoría, de qué decidió la gente, con qué datos y con qué aprobación, la gobernanza es simplemente un PDF. 6º, usar la gobernanza como acelerador. Empezad por casos de bajo riesgo, pero definid desde el 1º día la ruta de escalado. Si acabas limitando la IA a lo trivial por miedo, eso acaba teniendo un coste mucho más elevado que el que el ahorro en riesgo que ha habitado. Y 7º, dar a Recursos Humanos un asiento en el comité con 3 tareas."
    },
    {
      "speaker": "Albert Esplugas",
      "startTime": "653.675",
      "endTime": "684.145",
      "body": "1, construir la matriz de autoridad de los agentes. 2, liderar la alfabetización del reskilling. Y 3, someter a sus propios usos de IA el mismo escrutinio que exige a los demás. Y cierro con la idea que sostengo siempre, la ventaja competitiva no está en el modelo de IA que compréis, está en cómo vuestra organización decide, delega y responde. La gobernanza bien hecha es lo que os permite decir que sí más rápido que la competencia y con más seguridad."
    },
    {
      "speaker": "Albert Esplugas",
      "startTime": "684.73004",
      "endTime": "719.39996",
      "body": "Muchas gracias por vuestra atención, y nos vemos en el próximo episodio. Este es el nuevo oficio de dirigir, gestionar agentes como recursos sin tratar a las personas como si lo fueran. Confundirlos es el gran error de esta época, distinguirlos, la mejor definición de un buen liderazgo. Este podcast existe gracias a Inusual, donde reeducar la manera de dirigir es la mejor forma de ir en serio y estar preparados para lo que viene. Hasta el próximo episodio."
    }
  ]
}