Inteligencia Artificial

CursoIntermedio

Gobernanza, Ética y Riesgos de la Inteligencia Artificial

Establece el gobierno de la inteligencia artificial en tu organización: inventario de sistemas, clasificación de riesgos, políticas de uso, supervisión humana, evaluación de impacto y monitoreo. Terminas con controles definidos sobre un sistema real y un plan de implementación.

Definición

En la mayoría de las organizaciones la inteligencia artificial entró antes que las reglas: hay herramientas en uso que nadie autorizó, decisiones asistidas por sistemas que nadie evaluó, y datos circulando por servicios que nadie revisó. Este curso construye el gobierno que faltó. Empieza por distinguir tres cosas que suelen mezclarse —desarrollar, usar y supervisar sistemas de IA—, porque las responsabilidades son distintas en cada caso. Después trabaja los riesgos concretos: sesgos algorítmicos y discriminación, errores de sistemas automatizados, privacidad y uso de datos, e impacto organizacional y reputacional. Sobre esa base desarrolla los principios éticos aplicables —transparencia, explicabilidad, supervisión humana y responsabilidad— y los traduce en instrumentos: inventario de sistemas, clasificación por nivel de riesgo, evaluación de impacto, políticas organizacionales de uso, monitoreo y auditoría de modelos. Incluye el panorama regulatorio y su relación con la protección de datos, más la gestión de proveedores de sistemas inteligentes, que es donde se concentra buena parte del riesgo real. Cierra con un taller donde se definen controles sobre un sistema en uso y se construye un plan de implementación.

Público objetivo

Directivos y líderes de transformación digital que deben responder por el uso de IA en su organización.
Profesionales de tecnología y análisis de datos que implementan o integran sistemas de inteligencia artificial.
Equipos de innovación y modernización institucional.
Profesionales de cumplimiento, auditoría y gestión de riesgos que deben evaluar iniciativas de IA.
Funcionarios públicos y responsables de proyectos de inteligencia artificial en el Estado.
Encargados de protección de datos que enfrentan el cruce entre IA y datos personales.
Responsables de compras y contratos que evalúan proveedores de sistemas inteligentes.
Para quién NO es: No es un curso técnico: no se construyen ni se auditan modelos desde el código. Tampoco es un curso jurídico: el panorama regulatorio se aborda como criterio de diseño, no como análisis legal. Para el marco normativo de datos personales está el curso de Ley 21.719.

Objetivos

Comprender los riesgos de la inteligencia artificial y establecer los criterios y los instrumentos de gobernanza que permiten operarla de forma responsable en una organización.

Distinguir los roles y las responsabilidades de quien desarrolla, quien usa y quien supervisa un sistema de inteligencia artificial.
Identificar y clasificar los riesgos de un sistema de IA: sesgos, errores, privacidad, seguridad e impacto reputacional.
Aplicar los principios de transparencia, explicabilidad, supervisión humana y responsabilidad a sistemas concretos.
Conocer los marcos de referencia de gestión de riesgos de inteligencia artificial y qué aporta cada uno.
Construir un inventario de sistemas de IA en uso en la organización, incluidos los que nadie autorizó.
Diseñar una política organizacional de uso de inteligencia artificial que efectivamente se pueda aplicar.
Realizar una evaluación de impacto sobre un caso de uso de alto impacto.
Definir el monitoreo posterior: qué métricas, qué evidencia y con qué frecuencia se revisa.
Gestionar proveedores de sistemas inteligentes: qué exigir, qué verificar y qué cláusulas evitan quedar atrapado.

Resultados de aprendizaje

Crear un inventario inicial de los sistemas de inteligencia artificial en uso en la organización.
Clasificar cada sistema por nivel de riesgo y asignar responsables claros.
Proponer controles proporcionales al riesgo de cada caso, en vez de aplicar el mismo control a todo.
Diseñar una política inicial de uso de IA que el equipo pueda seguir sin quedar paralizado.
Realizar una evaluación de impacto y documentarla de forma que resista una revisión externa.
Definir la evidencia y las métricas que demuestran que el gobierno está operando.
Evaluar a un proveedor de sistemas inteligentes con criterios propios.

Temario

1. Introducción a la gobernanza de la inteligencia artificial

Qué es la gobernanza de inteligencia artificial y qué problema resuelve que no resuelva el gobierno de datos o de TI.
Diferencia entre desarrollar, usar y supervisar sistemas de IA: tres roles con responsabilidades distintas que suelen confundirse.
Por qué la gobernanza llega tarde en casi todas las organizaciones, y qué implica ordenar algo que ya está en uso.
Responsabilidad en proyectos de IA: quién responde cuando el sistema se equivoca.

2. Riesgos asociados a la inteligencia artificial

Sesgos algorítmicos y discriminación: cómo se producen desde los datos y por qué no se corrigen solos.
Errores en sistemas automatizados: por qué un modelo se equivoca con seguridad aparente y qué consecuencias tiene a escala.
Riesgos de privacidad y uso de datos: qué información alimenta el sistema y con qué base legal.
Impacto organizacional y reputacional: qué ocurre cuando una falla se hace pública.
Riesgos de seguridad: filtración por prompts, manipulación del modelo y dependencia del proveedor.

3. Principios éticos en inteligencia artificial

Uso responsable: qué significa en decisiones concretas y no en una declaración de principios.
Transparencia y explicabilidad de los modelos: qué debe poder explicarse y a quién.
Supervisión humana en decisiones automatizadas: cómo se diseña para que sea real y no una firma al final.
Responsabilidad en el uso de sistemas inteligentes: cómo se asigna y cómo se documenta.
Proporcionalidad: por qué el mismo control aplicado a todos los sistemas termina no aplicándose a ninguno.

4. Marcos y buenas prácticas de gobernanza

Marcos de referencia de gestión de riesgos de inteligencia artificial: qué proponen y qué aporta cada uno.
Evaluación de impacto de sistemas inteligentes: cuándo corresponde, qué contiene y cómo se documenta.
Monitoreo y auditoría de modelos: qué se revisa después de implementar y con qué frecuencia.
Políticas organizacionales para el uso de IA: qué debe contener una que la gente efectivamente siga.
Degradación del modelo: por qué un sistema que funcionaba bien deja de hacerlo y cómo se detecta.

5. Regulación y cumplimiento

Panorama regulatorio de la inteligencia artificial: hacia dónde va y qué anticipar.
Relación entre IA, protección de datos y cumplimiento normativo, con foco en la Ley 21.719 en Chile.
Decisiones automatizadas: qué exige la normativa cuando un sistema decide sobre una persona.
Desafíos legales abiertos: propiedad intelectual, responsabilidad por el error y autoría.
Gestión de proveedores de sistemas inteligentes: qué exigir en el contrato, qué verificar y qué cláusulas evitan la dependencia.

6. Implementación de gobernanza en organizaciones

Inventario y clasificación de sistemas de IA: cómo se levanta, incluidos los que nadie autorizó.
Identificación de riesgos en proyectos de IA, con criterio de proporcionalidad.
Diseño de lineamientos organizacionales: qué se puede usar, para qué y con qué límites.
Evaluación de casos de uso de alto impacto: los que exigen control reforzado y por qué.
Estrategias para una adopción responsable: cómo habilitar el uso en vez de prohibirlo por reflejo, que es lo que genera la Shadow AI.
Roles y gobernanza permanente: quién sostiene el programa cuando el proyecto termina.

7. Taller aplicado

Caso real de gobernanza de inteligencia artificial, analizado en detalle.
Definición de controles sobre un sistema que la organización ya tiene en uso.
Construcción de un plan de implementación con responsables, plazos e indicadores.
Revisión cruzada de los planes entre participantes.

Metodología y materiales

Metodología

Exposición de cada componente del gobierno seguida de su instrumento concreto: inventario, matriz, política o checklist.
Casos reales de fallas de gobernanza de IA, analizados desde el control que faltó.
Ejercicio de evaluación de impacto sobre un caso de uso de alto impacto.
Taller de definición de controles sobre un sistema que la organización ya tiene en uso.
Construcción guiada de un plan de implementación con responsables y plazos.

Materiales incluidos

Matriz de inventario de sistemas de inteligencia artificial, lista para completar.
Plantilla de clasificación y evaluación de riesgos por sistema.
Guía para redactar una política organizacional de uso de IA.
Checklist de supervisión humana y de evaluación de impacto.
Pauta de evaluación de proveedores de sistemas inteligentes.

Evaluación y certificación

Evaluación del curso

Evaluación de caso y controles.

Certificados

Certificado de participación Passus

Condiciones de inscripción

Se dicta online en vivo o presencial. En cursos abiertos las clases siguen el calendario publicado por Passus; en cursos cerrados, la modalidad, el horario y la fecha se acuerdan con la institución o empresa.

Requisitos

No requiere programación ni conocimientos técnicos de inteligencia artificial.
Es útil tener experiencia en gestión, tecnología, datos o riesgos.
Ayuda conocer los sistemas y procesos de la propia organización, porque el inventario y el taller final parten de ahí.

Preguntas frecuentes

¿Necesito conocimientos técnicos de inteligencia artificial?

No se requiere programación ni formación técnica. Es útil tener experiencia en gestión, tecnología, datos o riesgos. Los conceptos técnicos necesarios se explican en la medida en que hacen falta para decidir.

¿Qué me llevo concretamente al terminar?

Un inventario inicial de los sistemas de IA en uso en tu organización, cada uno clasificado por riesgo y con responsable asignado; una política inicial de uso; una evaluación de impacto sobre un caso concreto; y un plan de implementación con responsables y plazos.

¿Sirve si mi organización ya usa herramientas de IA sin ninguna regla?

Es el escenario más común y para el que está construido el curso. La gobernanza casi siempre llega después del uso. El módulo 6 trabaja explícitamente cómo levantar el inventario de lo que ya está funcionando —incluidas las herramientas que nadie autorizó— y ordenarlo sin paralizar a la organización.

¿Cuál es la diferencia con el curso de Ley 21.719?

Este curso gobierna los sistemas de inteligencia artificial: inventario, riesgos, políticas, supervisión y monitoreo. El de Ley 21.719 trabaja las obligaciones legales sobre datos personales: bases de licitud, derechos de los titulares, registro de tratamientos y respuesta a vulneraciones. Se cruzan en el uso de datos personales por sistemas de IA, y se complementan.

¿Cómo se diseña una supervisión humana que no sea un trámite?

Es uno de los puntos centrales del curso. Una supervisión real exige que la persona tenga la información necesaria, el tiempo efectivo para revisar y la autoridad para revertir la decisión. Cuando falta cualquiera de las tres, la firma existe pero la supervisión no.

¿Ayuda a evaluar proveedores de sistemas con IA?

Sí. El módulo 5 cubre qué exigir en el contrato, qué verificar sobre el modelo y el tratamiento de datos, y qué cláusulas evitan quedar atrapado con un proveedor que después cambia condiciones o cierra el servicio.

¿Prohibir el uso de IA no es más seguro?

Suele ser lo contrario. La prohibición por reflejo genera Shadow AI: el equipo usa las herramientas igual, pero sin registro, sin control y con datos que nadie revisó. El curso trabaja la habilitación con reglas como estrategia más segura que la prohibición.

¿Entrega certificación oficial?

No incluye examen de certificación externo. Passus entrega certificado de participación al finalizar.

¿Sirve para el sector público?

Sí, y es uno de los perfiles a los que apunta. Las exigencias de transparencia, explicabilidad y rendición de cuentas son más estrictas en el Estado. Si tu foco es específicamente la aplicación en servicios públicos, complementa bien con IA en Gestión Pública y Servicios Ciudadanos.

¿Se puede dictar para mi organización?

Sí, en modalidad cerrada, y es donde más rinde: el inventario, la evaluación de impacto y el plan de implementación se construyen sobre los sistemas reales que la organización ya tiene en uso.