-
Dilemas éticos respecto al uso de IA en el campo disciplinar
Respecto a los dilemas éticos acerca del uso de IA en la psicología como campo disciplinar, quisiera exponer puntualmente la mirada en cuatro elementos:
1. Privacidad de la información: Uno de los aspectos más importantes a considerar en el ámbito de la salud se refiere a la reserva y confidencialidad de la información, así como, el cuidado y archivo protocolario de historias clínicas que actualmente han migrado a las plataformas o softwares de HC para contar con información digitalizada evitando el deterioro de papel y perdidas de documentación. Sin embargo, aunque experimenta una mejora en el proceso de sistematización y organización por medio de IA, el riesgo ante el filtro de información y divulgación o perdida de datos por afectación o daño del sistema también se ha convertido en un riesgo latente, situaciones que expondrían información personal de muchos usuarios en salud.
2. Procesos de Diagnóstico: Dentro de los elementos a considerar ante el uso de las IA, se encuentra la posibilidad de brindar información a la IA y solicitar un diagnóstico e incluso un plan de tratamiento para pacientes, realizar ensayos es posible obtener un informe desde el modelo clínico solicitado, aspecto que, aunque supone una ayuda y claridad para un profesional, no puede sustituir el trabajo de análisis interdisciplinar que debe generarse y los parámetros observables que realiza el profesional clínico para abordar cada diagnóstico de manera particular. El riesgo en este punto está indicado por el uso desmedido de personas que considerarían innecesario una formación clínica para obtener diagnósticos o generar intervenciones pues las podrían obtener por medio de una IA y con datos incorrectos o fuera de contexto, los resultados podrían afectar a los consultantes. (Menciono esta situación, porque incluso hace ya varios años en Colombia existe la mala praxis de las empresas en el área de recursos humanos de hacer aplicación de pruebas clínicas por parte de profesionales en administración, contaduría y otras ciencias empresariales, sin el conocimiento ni la competencia disciplinar para hacerlo de manera correcta y ética)
3. Atención clínica mediada por IA: Otro elemento a considerar son las IA que se han generado para hacer atención clínica individual por medio de diferentes plataformas y que cada vez son más utilizadas por usuarios en todo el mundo, si bien, constituye un apoyo para la salud mental de la población por las facilidades de acceso, también, supone un riesgo que la población crea que cualquier alteración mental puede ser tratada de manera individual y sin un recurso humano de apoyo en el proceso.
4. Poco desarrollo de competencias profesionales: Por los elementos mencionados en el uso de las IA y el acceso a diagnósticos, tratamientos y hasta informes, el escenario académico se encuentra en un momento complejo por el uso indebido e indiscriminado por parte de los estudiantes, quienes parecen no considerar la necesidad de adquirir habilidades y competencias indispensables para los profesionales en el campo de la salud. La dificultad mas evidente en la educación actual es el mal uso que hacen los estudiantes de los recursos digitales.
-
1 Reply
-
Con relación al punto 4, Estoy de acuerdo en que el uso indebido e indiscriminado de la inteligencia artificial en el entorno académico, especialmente en el campo de la salud, plantea un desafío importante. La IA, aunque poderosa, no puede reemplazar las habilidades fundamentales que los futuros profesionales necesitan desarrollar. Los diagnósticos, tratamientos y la toma de decisiones en el área de la salud no solo requieren conocimientos técnicos, sino también juicio crítico, empatía y responsabilidad ética, aspectos que las máquinas no pueden replicar.
En este sentido, el problema radica en que los estudiantes podrían estar utilizando la IA como un atajo para resolver problemas complejos, sin desarrollar las competencias necesarias para interpretar adecuadamente los resultados o para manejar situaciones inesperadas. Es crucial que las instituciones académicas encuentren un equilibrio: aprovechar las ventajas que ofrece la IA, pero al mismo tiempo, reforzar la necesidad de desarrollar habilidades que solo pueden adquirirse mediante la práctica y el aprendizaje activo.