-
IA y Ética Profesional: Saberes Previos en Ingeniería de Sistemas
Saber previo 1: Conocimiento de algoritmos de IA y aprendizaje automático.
Dilema Ético Identificado: Discriminación algorítmica.
Ejemplo Específico: Un sistema de selección de personal entrenado con datos históricos que discrimina a mujeres para cargos de liderazgo.
Impacto en la Teoría: Cuestiona la neutralidad matemática de los algoritmos y exige análisis ético en los modelos.
Impacto en la Práctica Profesional: Afecta la reputación de las empresas y puede generar demandas legales o sesgos sociales profundos.Saber previo 2: Diseño y desarrollo de software basado en IA.
Dilema Ético Identificado: Falta de transparencia (“caja negra”).
Ejemplo Específico: Un sistema de diagnóstico médico por IA que da recomendaciones sin explicar cómo llegó a la conclusión.
Impacto en la Teoría: Genera debates sobre la interpretabilidad de los modelos de IA frente a teorías de la computación explicable.
Impacto en la Práctica Profesional: Puede comprometer la confianza del usuario y los estándares de auditoría en sectores críticos como salud o finanzas.Saber previo 3: Automatización de procesos
Dilema Ético Identificado: Desplazamiento laboral.
Ejemplo Específico: Sistemas de IA que reemplazan a operadores humanos en fábricas o call centers.
Impacto en la Teoría: Pone en discusión teorías sobre el rol del ingeniero en la construcción de futuro laboral y social.
Impacto en la Práctica Profesional: El profesional debe prever impactos sociales y diseñar IA responsable, evitando contribuir a la desigualdad.
Saber previo 4: Uso de IA generativa y chatbots.
Dilema Ético Identificado: Plagio y desinformación.
Ejemplo Específico: Estudiantes que usan IA para generar trabajos sin citar, o creación de noticias falsas.
Impacto en la Teoría: Reta las normas académicas y plantea nuevas reglas para el uso ético de herramientas en la educación.Impacto en la Práctica Profesional: En la práctica profesional, compromete la integridad del ingeniero y puede llevar a sanciones académicas o laborales.
-
1 Reply
-
Totalmente de acuerdo con que la discriminación algorítmica representa un riesgo serio en la aplicación de IA en recursos humanos. Me gustaría agregar que uno de los supuestos erróneos que a menudo se hace es pensar que un algoritmo es neutral porque está basado en matemáticas. Sin embargo, los datos históricos con los que se entrena el modelo ya contienen sesgos sociales. Si en el pasado hubo más hombres en cargos de liderazgo, el modelo simplemente replica esa desigualdad. Como solución, creo que los equipos de desarrollo deberían incluir perfiles interdisciplinarios, por ejemplo, sociólogos o expertos en equidad de género para auditar los datos y ajustar los modelos.
Log in to reply.