Alba Nubia Rodríguez

Vicedecana de Investigaciones

Facultad de Humanidades

Presentación

El conversatorio sobre uso de la Inteligencia Artificial en la Universidad del Valle fue organizado por el Comité de Investigaciones de la Facultad de Humanidades y se realizó el 13 de marzo del año en curso en el Auditorio Germán Colmenares. Este evento se realizó a propósito de la lectura del documento circulado por la Vicerrectoría de Investigaciones, titulado: Lineamientos para el uso de la Inteligencia Artificial en la Universidad del Valle.

Profesoras/es invitadas/os:

1. Profesora Laura Sofia Rodriguez: Candidata a Doctora en Telecomunicaciones y Magíster en gestión informática y telecomunicaciones de la Universidad ICESI Especialista en Gerencia de Informática Organizacional de la Universidad ICESI Pregrado en Ingeniería Electrónica de la Universidad del Valle Cofundadora del grupo de Mujeres STEM Integrante del grupo de investigación en Ingeniería con Perspectiva de Género (GENIUS -UV.

2. Profesora María Elena Guapacha: Doctora en Filosofía en Educación Philosophy in Applied Linguistics) Universidad de Auckland (Nueva Zelanda) Magíster en Didáctica del Inglés, Universidad de Caldas Pregrado: Licenciatura en Lenguas Extranjeras Inglés - francés. Integrante del grupo de Investigación: Equipo de Investigación en Lingüística Aplicada (EILA)

3. Profesor Martin Urquijo: Doctor en Filosofía de la Universitat De Valencia Magíster en Filosofía de la Pontificia Universidad Javeriana Especialización Universitat De Valencia Diploma en Estudios Avanzados (DEA) Pregrado: Licenciado En Filosofía y Letras, de la Universidad Santo Tomás Integrante del grupo de Investigación: “Praxis: Filosofía y Política”.

El conversatorio fue coordinado por el profesor Alexander Ramírez, representante de la Escuela de Ciencias del Lenguaje ante el Comité de Investigaciones de la Facultad. Licenciado en Lenguas extranjeras en Ingles y Frances, Magister en Lingüística y Español de la Universidad del Valle y Doctor en Educación de la Universidad del Valle.

Del conversatorio se destacan los siguientes planteamientos: Sobre el uso de la Inteligencia Artificial y los sesgos de género, clase social, pertenencia étnico racial, entre otros.

Profesora Laura Sofía Rodríguez, grupo de Mujeres STEM.

La profesora ha analizado si la inteligencia artificial (IA) perpetúa desigualdades y contribuye a los sesgos de género. En este sentido, llamó la atención sobre los sesgos, las desigualdades y las violencias que la IA está legitimando cultural y socialmente, especialmente en lo concerniente al género y a la pertenencia étnica.

El hecho de que la gestión y el desarrollo de estos sistemas, basados en patrones estadísticos, sean dirigidos principalmente por hombres, desde centros de poder e influencia con intereses específicos, condiciona la neutralidad y la confiabilidad de los datos y contenidos con los que se alimenta la IA. Para la profesora, las regulaciones y normativas sobre su desarrollo tecnológico y su uso son necesarias para garantizar la protección moral de las personas y los grupos, así como la imparcialidad de los contenidos que se generan. En la Universidad, se debe propiciar una reflexión ética sobre estos sesgos y en el documento Lineamientos para el uso de la Inteligencia Artificial en la Universidad del Valle, se debe incluir la alerta sobre los sesgos de género y etnia que implica la IA.

La profesora realizó un análisis sobre si la IA está libre de sesgos o si, por el contrario, perpetúa sesgos y desigualdades. En uno de sus estudios, identificó manifestaciones de violencia digital a través de mensajes en la plataforma X, dirigidos a personas afrodescendientes, población LGTBIQ+ y mujeres. El algoritmo, desarrollado en un contexto colombiano, fue capaz de reconocer, a partir de un conjunto de mensajes, si estos constituían o no violencias basadas en género y racismo.

En otro estudio, analizó perfiles de mujeres y hombres con cargos directivos en empresas de tecnología, considerando su formación académica y años de experiencia. Los resultados mostraron que las mujeres requieren más años de experiencia y mayor capacitación para acceder a cargos de liderazgo. Además, evidenció que mujeres con perfiles equivalentes a los de hombres en cargos directivos suelen desempeñarse en posiciones operativas y con menores salarios. Con la IA es posible realizar análisis de datos que permitan identificar y visualizar, de manera diferenciada, las zonas de la ciudad donde se presentan mayores casos de violencia, incorporando un enfoque de género. Esto incluye agresiones sexuales, homicidios y otras violencias que afectan no solo a mujeres, sino también a personas pertenecientes a la población LGTBIQ+.

La profesora Rodríguez plantea que es necesario desmontar el mito de que la IA es imparcial, ya que detrás de su desarrollo hay personas que diseñan los algoritmos e introducen información específica. Señala que, si un sistema se entrena principalmente con imágenes de personas blancas, al solicitar la generación de una imagen para publicidad, la IA tenderá a reproducir estos rasgos. En consecuencia, puede presentar dificultades para reconocer o representar adecuadamente a personas negras, indígenas u otras diversidades.

Asimismo, indica que, cuando a la IA se le suministran textos para análisis y se eliminan elementos relacionados con desigualdades, al solicitarle una producción escrita, esta tiende a generar respuestas polarizadas, influenciadas por los patrones presentes en grandes volúmenes de información.

En este sentido, el uso de la IA debe ser regulado desde las políticas públicas, con el fin de evitar que se reproduzcan o profundicen violencias hacia sectores históricamente vulnerables, como mujeres, pueblos indígenas y comunidades afrodescendientes. Aspecto que no está considerado en el documento Lineamientos para el uso de la Inteligencia Artificial en la Universidad del Valle.

Finalmente, desde el Comité de Investigaciones se propone reflexionar sobre cómo estos desarrollos tecnológicos influyen en los sesgos de género y en los procesos de formación de los estudiantes, teniendo en cuenta que estas plataformas implican responsabilidades sociales y riesgos para las comunidades.

Profesor Martín Urquijo - Ética en el uso de la AI.

“El no encontró la IA, la IA lo encontró a él”. Su experiencia lo ha dejado perplejo ante los desarrollos de la IA, ya que está transformando las prácticas educativas e impactando el ejercicio de la docencia y la evaluación.

En filosofía se busca elevar el nivel de pensamiento de los estudiantes, mientras que la IA, al imitar el pensamiento humano y la reflexión, genera una profunda crisis en el pensamiento crítico y en la enseñanza de esta disciplina.

Sobre el uso ético de la IA, considera que debe aprenderse a orientar; de lo contrario, será esta la que termine orientando a los seres humanos, con el riesgo de convertirlos en marionetas del desarrollo científico y tecnológico.

Para el profesor Martín Urquijo, la IA “es un gran plagiador”. Por tanto, solo una formación ética sólida puede permitir a profesores y estudiantes usar esta tecnología de manera adecuada. En este sentido, advierte que es un problema ético utilizar la información de la IA como si fuera de autoría propia, pues en ella hay información, pero no necesariamente conocimiento. Otro aspecto importante que se debe incluir en el documento, Lineamientos para el uso de la Inteligencia Artificial en la Universidad del Valle.

Asimismo, señala que la IA tiene sesgos, ya que está diseñada en función de intereses del mercado y de la empresa privada, dentro de un sistema capitalista.

En cuanto al uso ético de la IA, retoma a Rousseau, quien desde 1750 cuestionaba si la ciencia y la tecnología contribuyen al mejoramiento del ser humano, concluyendo que no, al considerar que se habían perdido virtudes fundamentales.

El documento de Lineamientos para el uso de la Inteligencia Artificial que construye la Universidad del Valle debe ser una normativa democrática, no prohibitiva, sino reflexiva, crítica y deliberativa, elaborada por la comunidad universitaria. Debe promover un uso ético, autónomo y responsable, y servir de base para futuras regulaciones en los ámbitos estudiantil y profesoral.

Finalmente, es necesario considerar el impacto ambiental de la IA, especialmente por su alto consumo de agua, así como los riesgos que su uso implica para el equilibrio del planeta.

Profesora María Eugenia Guapacha - Uso de la AI en procesos educativos.

La profesora ha utilizado la IA para realizar investigación con los estudiantes en las aulas de clase, especialmente en la planeación de clases. Ha investigado con profesores jóvenes y con profesores con amplia experiencia, si la IA es efectiva para este propósito, y han identificado que, a pesar de que la IA presenta planeaciones contemporáneas e interesantes, es indudable que requiere la intervención del ser humano.

También ha investigado el uso de la IA para evaluar exámenes de alto impacto, encontrando que no es adecuada para este fin. No se puede confiar plenamente en la IA para revisar los exámenes de los estudiantes, ya que no conoce el contexto del aprendizaje de lenguas extranjeras. Por ejemplo, un profesor puede identificar cuando un estudiante tiene un dominio limitado del idioma y ser más flexible en la calificación; en cambio, la IA tiende a ser más estricta, desconociendo dichas particularidades. Esto evidencia la necesidad de la intervención humana, es decir, del evaluador.

Otra investigación realizada por la profesora se centró en la identificación del plagio. Para ello, utilizó herramientas como Zero GPT y QuillBot, tanto en sus versiones libres como de pago. Analizó 450 textos originales escritos por estudiantes, tanto antes como después del uso masivo de la IA, esperando que las herramientas identificaran correctamente los textos elaborados completamente por humanos. No obstante, estas no lograron distinguir con precisión cuáles textos habían sido escritos por humanos y cuáles no, lo que reafirma la necesidad de la intervención humana para identificar el plagio. En consecuencia, las herramientas de IA, tanto gratuitas como de pago, no resultaron confiables para este propósito.

La profesora María Eugenia Guapacha presentó ante la audiencia diversas experiencias sobre el uso de la IA en el ámbito educativo, especialmente en el aprendizaje de idiomas. En ellas, encontró que, a pesar de las ventajas que ofrece la IA en actividades como la planeación de clases, la evaluación o la verificación de autoría, siempre debe existir un criterio humano que comprenda el contexto del proceso académico.

Asimismo, señala la necesidad de un diagnóstico institucional que permita identificar cómo y para qué se está utilizando la IA, así como qué se considera ético y qué no. A partir de ello, se deben construir lineamientos, socializarlos y, posteriormente, consolidarlos en una normatividad consensuada.

Propone que todo trabajo presentado por los estudiantes incluya una declaración en la que se especifique qué partes fueron elaboradas por el estudiante y cuáles fueron apoyadas por IA.

Igualmente, plantea la necesidad de establecer lineamientos claros por parte de la Universidad del Valle sobre qué se considera plagio y qué no, evitando así posibles injusticias en la evaluación de estudiantes. Señala que presentar un texto generado por IA como propio constituye plagio.

Para identificar casos de plagio, sugiere dialogar con el estudiante, revisar sus trabajos anteriores y fortalecer estrategias como la enseñanza del parafraseo y la alfabetización académica. En este proceso, las unidades académicas y la biblioteca pueden implementar talleres, con el apoyo de la Escuela de Ciencias del Lenguaje.

También propone establecer porcentajes de uso permitido de la IA en la Universidad. Por ejemplo, un 0% en exámenes o pruebas de competencia lingüística; un 20% en ensayos argumentativos o análisis críticos, donde debe primar el trabajo intelectual; y entre un 30% y 40% en actividades como la revisión de proyectos o artículos. Este aspecto es relevante en un documento sobre Lineamientos para el uso de la IA en la Universidad del Valle.

Finalmente, sugiere fortalecer la capacitación docente en el uso de la IA e incluirla dentro de la carga académica.

Preguntas e intervenciones del público:

Interviene la profesora Solanyer López, de la Escuela de Trabajo Social y Desarrollo Humano y editora de la revista Prospectiva, quien comentó sobre los avances de las revistas de la Universidad del Valle en torno al uso de la IA en la escritura de artículos de investigación, reflexión y revisión. Señaló que existen límites muy claros sobre lo que se puede y no se puede hacer con la IA; por ejemplo, esta no puede figurar como autora o coautora. Destacó la importancia de definir estos límites conforme a estándares internacionales, así como precisar en qué contextos puede y no puede utilizarse la IA.

Por su parte, el profesor Óscar Buitrago indicó que desde hace muchos años se viene trabajando con autómatas, y que, con la llegada de la IA, es fundamental realizar un diagnóstico institucional que permita comprender cómo se está utilizando en la administración, la investigación y la pedagogía. Advirtió que, sin este diagnóstico, los lineamientos carecerán de un fundamento sólido. Asimismo, planteó que el acceso a la IA debe ser un derecho de todos los ciudadanos y que no debería privatizarse, ya que cobrar por su uso implica restringir el acceso al conocimiento.

El profesor Adolfo Álvarez señaló que el uso de la IA debe propiciar un debate abierto y libre. Además, destacó la necesidad de incluir en la discusión el impacto ambiental y la distribución de los recursos que implica el uso de estas tecnologías.

Conclusiones del Conversatorio sobre el Uso de la Inteligencia Artificial - AI.

1. La inteligencia artificial se consolida como una herramienta que está transformando significativamente los procesos educativos, investigativos y administrativos, lo que exige una reflexión institucional profunda sobre su uso.

2. Se reconoce que la IA no es neutral, ya que puede reproducir y amplificar sesgos sociales relacionados con género, raza, clase y otras condiciones, generando riesgos para comunidades históricamente vulnerables. Este aspecto debe incluirse explícitamente en el documento sobre lineamientos para el uso de la IA en la Universidad del Valle.

3. Se hace necesario establecer lineamientos institucionales claros que orienten un uso ético, responsable y crítico de la IA. Estos deben construirse de manera participativa y no limitarse a enfoques prohibitivos.

4. Se concluye que la IA no sustituye el pensamiento crítico ni el conocimiento humano; por tanto, su uso debe estar siempre mediado por el criterio y la supervisión de docentes e investigadores.

5. En el ámbito educativo, aunque la IA ofrece ventajas en actividades como la planeación académica, presenta limitaciones importantes en procesos de evaluación, comprensión del contexto estudiantil y detección de plagio.

6. Se evidencia la necesidad de definir institucionalmente qué se entiende por plagio en relación con el uso de la IA, así como establecer criterios claros sobre los niveles permitidos de uso de estas herramientas en diferentes actividades académicas.

7. Se recomienda implementar la obligatoriedad de declarar el uso de herramientas de IA en los trabajos académicos (pregrado y posgrados), con el fin de promover la transparencia y la integridad académica.

8. Se resalta la importancia de fortalecer la formación en pensamiento crítico, ética y alfabetización académica, tanto en estudiantes como en docentes, para un uso adecuado de estas tecnologías.

9. Se considera prioritario realizar un diagnóstico institucional que permita conocer cómo se está utilizando actualmente la IA en los distintos ámbitos universitarios y por los distintos estamentos (estudiantes, profesorado, personal administrativo) como base para la formulación de políticas y normativas.

10. Se recomienda incluir procesos de capacitación docente en el uso pedagógico y ético de la IA, incorporándolos dentro de la carga académica. 11. Se advierte sobre la necesidad de garantizar el acceso equitativo a estas tecnologías, evitando que su uso se convierta en un factor de exclusión o privatización del conocimiento.

12. Finalmente, se concluye que el uso de la IA también implica impactos ambientales relevantes, los cuales deben ser considerados en la formulación de lineamientos institucionales.

Resumen de los principales puntos recomendados para tener en cuenta en el documento sobre Lineamientos para el uso de la IA.

● Responsabilidad social en el uso de la IA.

● Riesgos de su uso e implementación para poblaciones históricamente vulneradas.

● Necesidad de una métrica institucional sobre los porcentajes de uso aceptado de la IA.

● Definiciones institucionales claras sobre qué constituye plagio y qué no.

● Alfabetización en IA, dado que los profesores del conversatorio coinciden en que se trata de una nueva forma de literacidad.