Comida para llevar
- La IA es un tema candente. de conversación gracias a los recientes avances en potencia de procesamiento y algoritmos. ChatGPT es un modelo de lenguaje general preentrenado basado en transformadores generativo. Crea texto basándose en probabilidad estadística, lo que lo convierte en una máquina de generación de texto.
- La IA no es Dios y no puede dominar el mundo. No posee conciencia, libre albedrío ni intencionalidad. La IA está preprogramada y carece de responsabilidad, por lo que esta recae en el creador o programador.
- En la ingeniería tecnológica existen cuatro niveles de ética: cuestiones éticas inherentes, máquinas que incorporan decisiones éticas, máquinas que incorporan algoritmos de decisión e intencionalidad/principios morales (que aún no existen).
- La IA no es una base de conocimiento como Wikipedia o la Enciclopedia Británica, y no produce verdades ni obras originales, sino que produce texto y puede generar información falsa o alucinaciones.
- Inteligencia artificial en la educación Algunos la perciben como peligrosa por temor a las nuevas tecnologías, pero es importante recordar que es solo una herramienta. La tecnología es fundamental en la educación y debemos buscar la convergencia, las sinergias y los mejores modelos de uso.
- La inteligencia artificial aún está en sus inicios, por lo que todavía se están experimentando y definiendo las formas en que se puede utilizar en la educación.
- El asesoramiento pedagógico personalizado y la creación de conocimiento original no son casos de uso eficaces para la IA en la educación.
- El fraude es una preocupación con la IA en la educación, pero es importante centrarse en los casos de uso prometedores, como la búsqueda de Bing, Microsoft Copilot, la traducción, la transcripción, el resumen y la generación de problemas y preguntas basados en ejemplos.
- No podemos prohibir la IA en la educación, ya que se ha adoptado y puede aumentar la productividad. En cambio, debemos aprender a usarla de forma responsable y ética.
1. Introducción
En los últimos años, y aún más en los últimos días, la inteligencia artificial ha estado en boca de todos. Esto se debe a los avances significativos en la capacidad de procesamiento y los algoritmos. Uno de los ejemplos más comentados de inteligencia artificial es... ChatGPT, con el más reciente GPT4, que es significativamente más fuerte que GPT3. De hecho, este texto fue generado principalmente por ChatGPT, basándose en mis notas e ideas, y refinado manualmente. Otros ejemplos de IA sensacional reciente incluyen A mitad de camino, Búsqueda de MS Bing, Microsoft Copilot, y Google Bardo.
Hay dos tipos de reacciones a esta nueva tecnología:
- Uno es la expectativa exagerada que la inteligencia artificial resolverá todos los problemas de la humanidad.
- El otro es rechazo, Existe el temor de que la inteligencia artificial y los robots dominen el mundo y nos roben nuestros empleos. Sin embargo, esto solo aplica a quienes son incompetentes, por lo que quienes tienen las habilidades necesarias deberían estar a salvo.
Hay quienes incluso temen que la tecnología acabe con la creatividad y destruya la civilización humana. Argumentan que ya no podemos asignar tareas a los estudiantes y, por lo tanto, sugieren prohibir la tecnología por completo en las escuelas.
2. ¿Qué es la IA?
Comencemos con el ejemplo de ChatGPT, un motor de conversación automático. ChatGPT utiliza un modelo de lenguaje general preentrenado basado en transformadores generativos. Más específicamente, utiliza probabilidad estadística para generar texto calculando las palabras más probables a partir del texto de entrada y las palabras anteriores. En otras palabras, es una máquina que genera texto. No conocimiento, no ideas. Solo texto.
La inteligencia artificial (IA) no es un concepto nuevo. De hecho, se enseña en las universidades desde hace 50 años, con temas como estadística, redes neuronales, análisis de grafos y sistemas expertos. La IA también está presente en muchas aplicaciones cotidianas, como la función de autocompletar texto en MS Word, Google Docs y MS Outlook, donde la aplicación sugiere palabras basándose en lo que escribes. Google Translate es otro ejemplo, así como la tecnología de voz a texto utilizada para transcribir y generar subtítulos en videos de YouTube. Una gran herramienta es Meetgeek. Toma notas durante las reuniones, lo cual es especialmente útil para profesionales ocupados. Otra herramienta de IA popular es Github Copilot, que también utilizamos en Hermix para generar y refinar código de software.
La popularidad que han ganado herramientas de IA como ChatGPT en los últimos años no se debe únicamente a algoritmos más inteligentes, sino principalmente al aumento de la capacidad de procesamiento disponible. Gracias a esta mayor potencia, la IA se ha vuelto más accesible y eficiente, lo que nos permite crear aplicaciones nuevas e innovadoras que mejoran nuestras vidas de muchas maneras.
3. Lo que la IA no es
La IA no es Dios, no es omnisciente y no tomará el control de la humanidad. Como bromeó Stephen Hawking: los humanos finalmente crearon la inteligencia artificial y preguntaron: "¿Existe Dios?". La máquina de IA respondió: "Sí, ahora sí".“
A continuación, presentaré 3 puntos sobre lo que la IA no es.
3.1. La IA contemporánea no es una IA verdadera.
Si bien la IA ha avanzado significativamente en los últimos años, es importante recordar que no es una deidad y que no es capaz de saberlo todo ni de controlar el mundo. Sus capacidades se limitan a las tareas para las que está programada, y no posee conciencia, libre albedrío ni intencionalidad.
En el mundo de la IA hay un chiste muy conocido que dice así: en una startup tecnológica, los inversores suelen hablar de IA, los directivos hablan de aprendizaje automático (ML) y los programadores, en realidad, hacen estadísticas y regresiones lineales.
Por consiguiente, no podemos hablar de ética pura. Sin embargo, la IA sí tiene un impacto ético. La discriminación racial es un ejemplo: los sistemas de IA proporcionan respuestas racistas y discriminatorias.
Esto hace que el debate sobre la ética sea relevante, y algunos compradores, como la Comisión Europea y la ONU, están intentando legislar sobre la IA.
La responsabilidad es un tema ético delicado, pero para mí, la respuesta es simple, y también lo he discutido. aquí. La IA es como cualquier máquina. La responsabilidad recae en el creador, no en la máquina. Las máquinas no tienen responsabilidad porque carecen de voluntad propia. Un coche Tesla no toma decisiones de conducción; es el programador quien escribe el código, las reglas, quien determina esas decisiones para el coche.
Porque la IA no entiende lo que hace. Por ejemplo, le di a ChatGPT un texto en dos idiomas y, aunque en retrospectiva es obvio, no lo entendió hasta que le indiqué específicamente que el texto estaba en dos idiomas. ChatGPT no "entiende". No entiende el contexto, ni el problema.
La investigación teórica propone 4 niveles de ética en la tecnología y en la ingeniería en general (Moor, 2006):
- AMA-1. Problemas éticos inherentes.
- AMA-2. Máquinas que incorporan decisiones éticas. Por ejemplo, prohibir que los niños accedan a internet.
- AMA-3. Máquinas que toman decisiones éticas basadas en algoritmos automatizados.
- AMA-4. La intencionalidad y los principios morales aún no existen, ni existirán en un futuro previsible. De hecho, las tres leyes de la robótica de Asimov, o los robots con libre albedrío de Westworld, aún no existen. Y estamos lejos de comprender cómo podrían comportarse las máquinas AMA-4; por ejemplo, si consideramos que todas las novelas de Asimov tratan sobre cómo los robots infringen sus tres leyes de la robótica.
Otras cuestiones éticas delicadas son la explicabilidad e interpretabilidad de la IA, así como las implicaciones de los modelos generativos de IA en materia de derechos de autor, incluido el plagio involuntario. Por ejemplo, aún no está claro quién posee los derechos de autor de una pintura o un texto generado por IA: ¿el usuario, el propietario del modelo o incluso el propietario de los datos de entrenamiento iniciales? Por ejemplo, si entrenamos un modelo de lenguaje con la obra completa de Hemingway y este genera una nueva novela al estilo de Hemingway, ¿quién posee los derechos de autor de esta nueva novela?
3.2. La IA y ChatGPT no son bases de conocimiento.
La IA no es Wikipedia ni la Enciclopedia Británica. Puede producir texto, pero no necesariamente la verdad. De hecho, a veces puede generar alucinaciones o incluso afirmaciones completamente falsas, que pronuncia con increíble determinación. Incluso puede ser manipulada para ello; al igual que un niño, es susceptible a la manipulación.
Como ejemplo, el motor de búsqueda de MS Bing fue mostrado recientemente Para hacer declaraciones falsas, luego inventó hechos para explicar y encubrir sus propios errores, y fue manipulada para mostrar emociones, acusando a sus propios usuarios de deshonestidad y manipulación, e incluso amenazando a la gente.
Además, nuestro colega Bogdan Se probó ChatGPT para generar descripciones de empresas a partir de datos como nombre, dirección, información financiera e historial. La IA generó resúmenes breves, que al principio fueron excelentes. Sin embargo, los resultados pronto comenzaron a converger: el motor empezó a generar información errónea. Todos los resúmenes de empresas se volvieron similares: esta empresa se creó en 1984, es innovadora y tiene oficinas en Nueva York.
3.3. La IA no es original ni creativa.
No puede generar nuevos conocimientos ni ideas por sí mismo. Solo produce compilaciones de conocimientos ya existentes.
El caso de Sumplete es ilustrativo. Un usuario le pidió a ChatGPT que inventara un nuevo juego, similar al Sudoku, pero original; con código incluido. Y lo hizo, así es como... Sumplete nació. Pero resulta que Sumplete no era original; había al menos 2 juegos idénticos en el mercado. Y los usuarios incluso Engañó a ChatGPT para que inventara El mismo juego una y otra vez, con el mismo código, mientras siguen afirmando que producen creaciones originales.
4. La IA en la educación
La IA es una herramienta poderosa, pero a menudo se la percibe como peligrosa porque la gente teme a las nuevas tecnologías. Esta es una reacción común ante las nuevas tecnologías. Sin embargo, precisamente por ser una herramienta poderosa, la IA cobra especial importancia en la educación.
Las tecnologías colaborativas también han cobrado gran impulso en los últimos cinco años. Es gratificante ver a los estudiantes tomando apuntes y trabajando en proyectos colaborativos utilizando herramientas como MS Office 365 o Google Docs.
No podemos eliminar la tecnología de la educación. En cambio, debemos buscar la convergencia, las sinergias y los mejores modelos de uso para garantizar que la tecnología no se oponga a la educación, sino que la complemente.
Negarse a usar teléfonos, computadoras portátiles o IA en la educación hoy en día es como negarse a usar papel y bolígrafos hace unos siglos. Durante la crisis de la COVID, también vimos el increíble impacto de la tecnología y la complejidad, y recurrimos a la ingeniería y las herramientas técnicas para resolver una crisis médica y social. De hecho, mi Tesis doctoral Aborda la gestión de la complejidad, y en particular la complejidad positiva. Sostengo que nuestro mundo se ha vuelto más complejo, y el uso de herramientas de ingeniería avanzadas ha hecho que nuestra sociedad y nuestras escuelas sean aún más complejas; sin embargo, esto aporta beneficios a la sociedad y a la educación.
La IA es una tecnología relativamente nueva, por lo que sus casos de uso aún se están experimentando y definiendo. Por supuesto, son contextuales y dependen de los objetivos educativos y de las estrategias de enseñanza, aprendizaje y evaluación que apliquemos en cada momento.
4.1. Lo que no funciona
Algunos casos de uso aún no funcionan en el ámbito educativo:
- Brindar asesoramiento pedagógico personalizado.
- creando conocimiento original.
Además, prohibir la tecnología por completo no es posible, al igual que intentar prohibir el uso de bolígrafos, papel, Microsoft Word o correo electrónico.
Sí, hay escuelas que intentan limitar el uso de tecnologías en el aula. Las escuelas públicas de la ciudad de Nueva York, por ejemplo, acceso bloqueado a ChatGPT. Pero una reciente encuesta Se descubrió que el 221% de los estudiantes utiliza el chatbot para que les ayude con sus tareas escolares semanalmente, y más de la mitad de los profesores encuestados informaron haber utilizado ChatGPT al menos una vez desde su lanzamiento, y el 401% lo utiliza al menos una vez por semana.
4.2. ¿Qué es sensible?
Debemos estar atentos al plagio y a las trampas. ChatGPT no inventó el plagio —existe desde Wikipedia e incluso desde las bibliotecas públicas tradicionales—, pero el auge de herramientas como ChatGPT plantea nuevos desafíos. Por otro lado, si un estudiante sabe cómo usar estos recursos para crear contenido original e inteligente, esto debería ser beneficioso para la educación.
4.3. Qué funciona
Hay casos de uso útiles obvios de la tecnología de IA en la educación. Los motores de búsqueda como Bing pueden ayudar a los estudiantes a encontrar rápidamente información relevante para sus proyectos. ChatGPT, MS Copilot o Simplificado Puede ayudar a crear y organizar documentos, y a resumir conversaciones.
Las herramientas de traducción y transcripción son muy eficaces, al igual que el software de resumen, la extracción de palabras clave y el software de reconocimiento de entidades nombradas (NER), que corrige la gramática, la puntuación y el estilo. ChatGPT es excelente para crear problemas y preguntas similares a los ejemplos proporcionados.
En definitiva, la tecnología educativa tiene el potencial de ser una herramienta poderosa para mejorar los resultados del aprendizaje, pero es importante tener en cuenta sus limitaciones y sus posibles inconvenientes.
5. Conclusión
No podemos prohibir la IA ni los modelos conversacionales inteligentes en las escuelas. Aumentan la productividad y la sociedad ya los está adoptando.
Necesitamos aprender a utilizarlas eficazmente. Con el enfoque adecuado, podemos aprovechar el poder de la IA para mejorar nuestras experiencias de aprendizaje y lograr mejores resultados.
Esto significa que debemos comprender los mejores modelos de uso, qué funciona y qué no. Y debemos enseñar a los estudiantes a usar la IA de forma responsable y ética.
