3 Integridad académica y derechos de autor
La mayoría de las conversaciones actuales sobre LLMs en entornos de educación superior se refieren a la integridad académica y los derechos de autor. Esto es algo que está cada vez más en la mente de los instructores y que necesita consideración cuidadosa y comunicación clara.
En mi experiencia, hay una amplia gama de perspectivas de instructores y estudiantes sobre esto. No me alinearé con ningún enfoque o recomendación en particular. Sin embargo, sí creo que es fundamental proporcionar claridad y no asumir que ya existe un sentido común sobre esto. El uso de Inteligencia Artificial por parte de la población en general es muy reciente y todavía estamos ajustándonos y definiendo expectativas de lo que es aceptable de ella.
3.1 Integridad Académica
Algunos campos en la educación superior han participado más en conversaciones sobre integridad académica que otros. Esto depende mucho del contexto, el cuerpo estudiantil y la preferencia instructiva. Sin embargo, la mayor parte de la discusión sobre IA en la educación superior se ha centrado en la integridad académica.
Hay diferentes puntos de vista sobre qué está y qué no está permitido en un curso. Mi enfoque aquí no será determinar qué es permisible o no en un curso, sino qué consideraciones podrían ser efectivas y claras para evitar problemas relacionados con la integridad académica.
3.1.1 Programa de estudios
Una concepción común de los programas de estudios de cursos es que proporcionan un tipo de contrato entre instructores y estudiantes. Similar a un acuerdo de usuario, los programas dan una oportunidad a los instructores para delinear claramente las expectativas para los estudiantes en un curso. Como tal, este es un gran lugar para aclarar qué está permitido o no, o esperado o no con respecto al uso de LLMs.
Para estudiantes Para instructores Asegúrate de leer la sección de “Política de IA” y/o “Integridad Académica” de tu programa de estudios. Si estas son demasiado genéricas o no están claras, contacta a tu instructor y solicita que establezca claramente hasta qué punto permiten que los LLMs se usen en tu clase. Incluye una sección muy detallada de “Política de IA” y/o “Integridad Académica” en tu programa de estudios. Considera dar algunos ejemplos explícitos de uso esperado.
Los asuntos de integridad académica pueden ser complicados. Una forma efectiva de explorar qué funciona en tu caso particular es ir más allá del uso permitido vs. prohibido y considerar hasta qué punto puede usarse algo.
Por ejemplo, prohibir completamente el uso de LLM (o IA) en una clase podría no ser realista ni productivo. Por otro lado, permitir completamente el uso sin restricciones podría ser perjudicial para el aprendizaje de los estudiantes. Intenta ver esto como un espectro. La tarea entonces se convierte en determinar dónde en ese espectro estás ubicado para el curso específico.
EJEMPLO DE POLÍTICA DE IA
Esta es parte de la política de IA que estoy incluyendo en mi curso más reciente de Introducción a las Demostraciones:
Uso de IA generativa
El uso de IA generativa en entornos académicos debe considerarse con cuidado. Una buena regla a tener en cuenta es que usar IA generativa para reemplazar lo que un humano podría hacer podría entrar en conflicto con las reglas generales de honestidad académica. Para nuestro curso, la recomendación es evitar el uso de herramientas de IA generativa para las tareas a menos que se establezca explícitamente. Cuando esto esté permitido, asegúrate de citar, atribuir y/o describir hasta qué punto lo usaste en tu trabajo y aprendizaje.
3.1.2 El primer día de clase
En el espíritu de comunicación y claridad, he estado dedicando una buena parte de mi primer día de clase a discutir sobre IA en nuestro curso. Esto me permite explicar mi perspectiva y escuchar de los estudiantes sobre sus propias expectativas. Como instructor, es interesante escuchar a los estudiantes compartir sus expectativas.
Los estudiantes han apreciado con entusiasmo este ejercicio. Valoran escuchar no solo las políticas, sino también el razonamiento, las preocupaciones y las esperanzas detrás de ellas, así como las percepciones de otros estudiantes. Esta es también una excelente manera de descubrir nuevas formas creativas de usar LLMs, o de señalar el uso como inapropiado.
Comienzo mis cursos con algunas preguntas a la clase como:
- ¿Cómo usas típicamente la IA para tus cursos?
- ¿Qué recomendarías a otros estudiantes?
- ¿Qué evitas o piensas que es inapropiado?
- ¿Cuáles son tus preocupaciones sobre el uso de IA?
3.1.3 Tareas
A veces los programas de estudios pueden ser un poco genéricos con la política y podrían quedarse cortos en consideraciones específicas para tareas particulares.
Para estudiantes Para instructores Asegúrate de preguntarle a tu instructor sobre el grado en que puedes usar LLMs para cada tipo de tarea. Cuando tengas dudas, una buena práctica general es divulgar y describir cómo usaste los LLMs. Da ejemplos de qué prompts usaste. Cuando sea necesario, incluye el LLM específico y la versión utilizada. Incluye en tus instrucciones de tareas hasta qué punto los estudiantes pueden usar LLMs y qué tipo de atribución se espera que incluyan. Pide que incluyan qué prompts se usaron.
Los LLMs pueden considerarse como una herramienta muy sofisticada. Así como hacer referencia a Wikipedia se ha vuelto normal, citar o hacer referencia a LLMs es, en general, una buena práctica. Sin embargo, los LLMs también pueden considerarse como más que solo herramientas. También actúan como agentes, lo que les da un aire de autonomía y toma de decisiones. En este sentido, también es útil pensar en los LLMs como entidades, de ahí la idea de atribución. Esto podría depender del uso.
Por ejemplo, si se usó un LLM para encontrar un sinónimo, la atribución podría no ser necesaria, sin embargo si se usó para generar un ejemplo o crear un resumen, este podría ser el caso.
Una buena regla general es pensar cuál sería la mejor práctica si en lugar de usar un LLM hubiéramos pedido a un compañero que hiciera la misma tarea. ¿Habríamos atribuido su ayuda?
Algunas formas en que puedes atribuir o divulgar el uso de LLM es incluyendo lo siguiente, ya sea en tareas o material de clase:
- preparado con la asistencia de IA
- se usó IA para generar gráficos y esquemas
- ejemplo generado con la asistencia de IA
3.1.4 Lineamientos comunitarios
Cada curso es diferente. No solo debido al tema, sino también debido al trasfondo y valores de todos. Promover discusiones sobre consideraciones de integridad académica también puede ser un buen ejercicio de trabajo en equipo en los cursos. Más aún, compartir la lógica detrás de por qué abogar o desalentar ciertas prácticas también puede obtener adhesión tanto de instructores como de estudiantes.
3.2 Un ejemplo de Lineamientos de IA para un curso
Este es un recurso de Lineamientos de IA que comparto con mis estudiantes en clase. Incluyo esto como un recurso separado para la clase (en nuestro Sistema de Gestión del Aprendizaje) como complemento a mi política de IA descrita en el programa de estudios.
La Inteligencia Artificial - específicamente los Modelos de Lenguaje Extensos- se han vuelto más populares en tiempos recientes. Estos pueden ser útiles u obstaculizar tu experiencia en clase dependiendo del posible uso.
Esperado
El uso de LLMs no es requerido pero podría ser útil dependiendo de tareas o situaciones particulares.
- Citación: cita cada vez que uses un LLM.
- Traducción: puedes usarlo para traducir declaraciones o preguntas a otros idiomas (si el inglés no es tu primer idioma) o para reformular para simplificar el lenguaje.
- Búsqueda: a veces buscar referencias o conceptos podría mejorarse usando LLMs. Como siempre, ten cuidado con las alucinaciones. Verifica las referencias y fuentes reales.
- Retroalimentación: puedes usar LLMs para pedir retroalimentación sobre tus demostraciones y composición tipográfica.
No Esperado
- No generes demostraciones usando LLMs.
- No copies y pegues salidas de LLMs.
- No resuelvas problemas usando LLMs.
Prompts útiles
soy un estudiante en un curso de introducción a demostraciones matemáticas en ucsc...reformula la siguiente declaración...revisa mi lenguaje en busca de consistencia y claridad y dame retroalimentación...ayúdame a entender este error de LaTex...
Consideraciones generales
Los LLMs son modelos matemáticos que generan palabras (tokens) basados en las palabras previas (tokens) que se les dan. Estos están entrenados realizando regresión (descenso de gradiente en una función de pérdida particular). Estos usualmente ocurren en espacios de alta dimensión (alrededor de un billón de dimensiones). Como tal, no se espera lograr mínimos absolutos. Usualmente la regresión solo logra una vecindad de un mínimo (con un umbral particular). Por lo tanto, los LLMs tienen un alto nivel de elementos no determinísticos.
Los datos de entrenamiento a menudo consideran Big Data (en el orden de toda la información pública de internet). Como tal, esto requiere una enorme cantidad de computación. Los últimos modelos usualmente requieren algunos meses de procesamiento en centros de datos que equivalen al uso de electricidad de una pequeña ciudad estadounidense durante un año completo. *
3.3 Derechos de autor y propiedad intelectual
Los LLMs han estado en el centro de un intenso debate sobre propiedad intelectual. Tanto desde la perspectiva legal que involucra datos de entrenamiento de empresas, hasta la propiedad de las salidas de estos modelos, los derechos de autor son y probablemente serán un tema contencioso que seguirá a los LLMs por algún tiempo.
En el caso de cursos universitarios, los derechos de autor se convierten en una consideración tanto para estudiantes como para instructores. ¿Es el trabajo del estudiante si le hicieron un prompt a un LLM para escribir un ensayo? ¿Es el trabajo del instructor si le hicieron un prompt al LLM para generar una presentación de diapositivas basada en sus notas de clase?
Como muchos académicos legales responderían: depende. Un punto importante con los derechos de autor tiene que ver con la creatividad y la novedad.
Es difícil tener una respuesta clara que aplique en todos los casos, sin embargo las consideraciones a continuación pueden proporcionar algunas reflexiones prácticas
Para estudiantes Para instructores Toma la salida del LLM como si otra persona la hubiera escrito. Esta es una regla práctica útil que puede ayudarte a decidir si divulgar o no el uso del LLM. Una gran práctica de aprendizaje es siempre reformular y editar en tus propias palabras las salidas de los LLMs. Esto también ayuda con tu propio aprendizaje. Considera incluir la frase asistido por IA cuando uses salidas de LLM para generar o preparar materiales para tus cursos.