-
Dilema ético del uso de la IA en educación e investigación
Conocimiento: Evaluación y calificación
Dilema: El uso de algoritmos para evaluar tareas o exámenes puede reproducir sesgos o carecer de contexto humano.
Consecuencias: Cuestiona la objetividad y justicia como principios de evaluación
Soluciones: Complementar la evaluación automatizada con revisión humana; ajustar criterios de IA para contemplar contexto; capacitar docentes en lectura crítica de resultados
Conocimiento: Sustitución del rol docente
Dilema: Uso excesivo de IA para tareas de enseñanza puede disminuir el papel crítico y humano del educador.
Consecuencias: Pone en tensión teorías que valoran la interacción social y la mediación pedagógica
Soluciones: Promover un modelo híbrido donde la IA apoye, pero no reemplace; valorar el componente humano en procesos formativos; formación continua del profesorado.
Conocimiento: Privacidad de los datos estudiantiles
Dilema: La recolección y almacenamiento de datos personales puede no cumplir con normas éticas o legales.
Consecuencias: Interpela los marcos de autonomía y consentimiento informado en educación
Soluciones: Riesgo de vulneración de derechos de estudiantes; exigencia de protocolos claros de manejo de datos.
-
7 Replies
-
Sucede muy seguido que la IA intenta ser muy objetiva y deja de tener en cuenta la subjetividad, misma que caracteriza a las ciencias humanas y otras ramas del saber, por lo que se necesita más rigurosidad en las mismas a la hora de problematizar y dar calificaciones o respuestas.
-
Cordial saludo Paula.
Respecto al uso de la IA en un ámbito educativo, las instituciones educativas deben ser responsables y transparentes en cuanto a la recolección, el uso y la protección de los datos de los estudiantes, además, es fundamental educar a los estudiantes y a sus familias sobre el manejo de estos datos y garantizar que se les de autonomía sobre la información que comparten.
-
Gracias Paula por tu aporte tan claro y concreto. En lo personal, considero que si bien la IA puede ser un apoyo en el ejercicio evaluativo, esta debería ser una tarea indelegable a lo no humano, por asuntos que como tú planteas, hace que se pierda la sensibilidad, la subjetividad y reflexividad que esta labor implica y más en escenarios donde nos pensamos la labor docente centrada en el aprendizaje del estudiante desde las pedagogías activas que nos proponen la movilización orientada al logro más que a la nota cuantitativa, en ese sentido, la retroalimentación que el/a docente puede hacer al proceso particular del/a estudiante, desde lo que se vivencia en el aula de clase, en las conversaciones cotidianas y demás, son elementos que no va a realizar la IA. Y considerar que se usa la IA para que luego el/a docente revise lo calificado por estos sistemas, verifique y ajuste, en lo personal, siento que es un doble trabajo para el docente mismo y hace que perdamos confianza en nuestros propios criterios.
Un saludo, Eliana
-
Aunque la IA ofrece ventajas en evaluación, enseñanza y gestión educativa, también presenta dilemas éticos que exigen un enfoque crítico. La evaluación automatizada puede reproducir sesgos, pero también permitir mayor transparencia si se diseña con participación docente. En lugar de temer que la IA sustituya al profesorado, se debe repensar su rol como mediador y guía en procesos más personalizados y humanos. En cuanto a la privacidad, no basta con protocolos técnicos: se requiere fomentar la soberanía de los datos y educar a estudiantes sobre su uso. En todos los casos, la clave está en integrar la ética como principio estructural del diseño y aplicación de estas tecnologías.
-
Estoy de acuerdo con tu mensaje. La IA no debe verse como una amenaza, sino como una herramienta que, bien orientada, puede fortalecer la labor docente y enriquecer los procesos educativos. Sin embargo, como mencionas, es fundamental que su implementación esté guiada por principios éticos sólidos, donde la participación docente, la protección de datos y la formación crítica de los estudiantes sean prioridades. Integrar la ética desde el diseño es clave para un uso justo y responsable de la tecnología en la educación.
-
-
Buenos días apreciada Paula:
En lo que compete específicamente al uso de IA en investigación por supuesto existen dilemas éticos muy importantes como el plagio, los sesgos en los códigos proporcionados a estas herramientas y además la brecha en investigación que ya se estan presentando en los países que estan asignando presupuestos importantes a investigación con IA y los que no, entre otros, sin embargo como investigadores sabemos que existen muchas herramientas de IA que potencian la investigación como:
https://www.researchrabbit.ai/ entre otros muchos de este estilo que facilitan enormemente la búsqueda estrategica de bibliografía científica.
Otra gran herramienta de análisis y procesamiento de bibliografía científica es NotbookLM https://notebooklm.google/
En lo que compete al tratamiento y análisis de datos cuantitativos tenemos por ejemplo R-studio quees una versión mucho más sencilla de R https://www.r-studio.com/es/ y tenemos Jamovi https://www.jamovi.org/ que simplifica significativamente el procesamiento estadístico de los datos.
En cualitativa atlas ti en su versión 2025 esta muy poderosa con la inclusión de IA https://atlasti.com/
Sin embargo, sabemos que los dilemas éticos del uso de IA en investigación van mucho más alla y los investigadores podemos por ejemplo empezar po involucrarnos activamente en el movimiento actual de investitagación abierta y en el grupo mundial sobre aspectos éticos del uso de IA.
Cordialmente,
Bety Díaz
Docente de Mastría en Educación
UNIMINUTO.
-
Profesora Paula, cordial saludo,
La forma en que Usted estructura los dilemas asociados a la evaluación, la docencia y la privacidad en contextos mediados por inteligencia artificial permite visualizar con claridad los riesgos éticos emergentes. De manera respetuosa considero especialmente valioso su llamado a complementar los procesos automatizados con la mirada humana, pues la justicia evaluativa y la mediación pedagógica no pueden reducirse a métricas ni patrones algorítmicos. Coincido además en la necesidad urgente de capacitar al profesorado, no solo en el uso técnico de estas herramientas, sino en su lectura crítica desde una perspectiva ética y pedagógica. En suma, más que una amenaza, la IA debe ser vista como una oportunidad para revalorizar lo humano en la educación, siempre que se gestione con responsabilidad, transparencia y sentido ético.
Log in to reply.