IA Ética y Docencia Responsable: Una mirada desde la Ingeniería de Sistemas - Curso IA – Foro 2 – Ética en la Inteligencia Artificial: Navegando dilemas en contextos disciplinares - UNIMINUTO

Curso IA – Foro 2 – Ética en la Inteligencia Artificial: Navegando dilemas en contextos disciplinares

IA Ética y Docencia Responsable: Una mirada desde la Ingeniería de Sistemas

Posted by ANYELO GERLEY on 14 abril, 2025 at 11:04 am

Como profesional en ingeniería de sistemas y docente universitario, he tenido la oportunidad de observar cómo la Inteligencia Artificial (IA) transforma tanto los procesos técnicos como los educativos. No obstante, esta transformación conlleva dilemas éticos complejos, que deben ser abordados con criterio crítico y responsable.

Los sistemas que diseñamos no solo deben ser funcionales y eficientes, sino también justos, inclusivos, explicables y confiables. La ética en la IA no es un complemento, sino un pilar fundamental del diseño, desarrollo y aplicación de estas tecnologías.

Dilema Ético 1: Sesgos algorítmicos
Ejemplo específico: Un modelo de selección de
personal que discrimina por género o raza debido a datos sesgados.
Impacto en la teoría: Desafía la idea de
neutralidad técnica; promueve la ética en el entrenamiento de modelos.
Impacto en la práctica
profesional:
Puede producir injusticias en decisiones automatizadas y perjudicar a
poblaciones vulnerables.

Dilema Ético 2: Falta de explicabilidad

Ejemplo específico: Sistemas de IA en salud o
finanzas que no permiten entender cómo se llegó a una decisión.
Impacto en la teoría: Obliga a replantear la
transparencia como principio del diseño algorítmico.
Impacto en la práctica
profesional:
Dificulta la auditoría, el derecho a la apelación y la confianza en el
sistema.

Dilema Ético 3: Privacidad y vigilancia

Ejemplo específico: Sistemas de videovigilancia
con reconocimiento facial sin consentimiento informado.
Impacto en la teoría: Contrasta con principios de
privacidad y derechos digitales.
Impacto en la práctica
profesional:
Riesgo de abuso institucional y pérdida de libertad individual.

Dilema Ético 4: Automatización sin responsabilidad ética

Ejemplo específico: Chatbots o asistentes que
dan respuestas ofensivas o erróneas sin filtros ni supervisión.
Impacto en la teoría: Problematiza el rol del
ingeniero como garante de calidad ética.
Impacto en la práctica
profesional: Compromete
la imagen profesional y la legalidad del sistema.

Dilema Ético 5: Uso educativo sin validación crítica

Ejemplo específico: Estudiantes que utilizan IA
para generar trabajos sin comprender el contenido.
Impacto en la teoría: Desafía el sentido
formativo del aprendizaje y la autoría académica.
Impacto en la práctica
profesional:
Riesgo de plagio, deshumanización del proceso educativo y superficialidad
del conocimiento.

Acá pueden ver la matriz como imagen: