martes, 13 de febrero de 2024

Educar en (y para) el mundo de la Inteligencia Artificial. Herramientas para pensar en presente y futuro

El título de este post es el título de una charla que daré póximamente. Entonces le pedí a tres Inteligencias Artificiales que redacten más extensas mis ideas, sobre un párrafo a modo de instrucción general, sin demasiada estructura de prompt. Sin embargo, utilicé aquí (copié y pegué) todo el texto producido por los chatbots que probé. En esta oportunidad en sus versiones gratuitas: ChatGPT. POE y Gemini (Bard)

La intención de todo esto es contar con un material para compartir y provocar la mirada crítica. Detallo inicialmente el prompt y luego cada una de las versiones. Al final, emitiré mi opinión sobre cuál me parece más acorde a lo que yo quería expresar.

La imagen fue creada con Runway, y el prompt para esta se lo solicité a POE (el texto que creó Poe me pareció mucho más interesante para analizar que las imágenes en si logradas, pero con algo había que graficar)


Vamos a la prueba de texto.


Prompt Inicial para el texto:

Actúa como un experto en Educación y Tecnología, creando un texto para un post en blog sobre la temática de:  Educar en (y para) el mundo de la Inteligencia Artificial. Herramientas para pensar en presente y futuro. El texto debe contener la idea de que debemos partir desde el dilema actual de plantearnos la veracidad de lo que vemos y escuchamos, de lo que perciben nuestros sentidos, la realidad, para dimensionar las implicancias del fenómeno de la IA. Luego animarnos a las herramientas, replantearnos si desde su uso el futuro es tan oscuro? o podemos buscar la luz, desde una mirada que implique ver un futuro más humano. Ya que cuanto más usamos IA, más valoramos lo humano. El problema de delegar procesos en la IA es en definitiva un problema de volver a mirarnos como personas. Esta mirada es una apuesta por el diálogo. La pedagogía de la pregunta y educar la mirada crítica. Así también, a los fines prácticos, no es tan importante el conocimiento actual como la posibilidad de conectar con el conocimiento preciso y actualizado en el futuro. Saber dónde buscar, por ejemplo. Todo será cuestión de practicar! y reflexionar sobre la práctica. Dos momentos de un mismo movimiento en Educación.



Texto producido por ChatGPT 3.5

Educando en el Mundo de la Inteligencia Artificial: Hacia una Mirada Humana y Crítica

En el vertiginoso paisaje de la era digital, la presencia omnipresente de la Inteligencia Artificial (IA) plantea desafíos y oportunidades sin precedentes en el ámbito educativo. Nos encontramos en un momento crucial donde el dilema de la veracidad de la información se entrelaza con la percepción de la realidad misma. ¿Cómo educar en un mundo donde la línea entre lo real y lo artificial se desdibuja cada vez más?

Es fundamental reconocer que la IA no es simplemente una herramienta externa, sino una parte integral de nuestra realidad cotidiana. Desde los algoritmos que filtran nuestro contenido en redes sociales hasta los asistentes virtuales que facilitan nuestras tareas diarias, la IA está moldeando activamente nuestra experiencia en el mundo digital y, por ende, nuestra comprensión de la realidad.

Sin embargo, en lugar de sucumbir al temor del futuro incierto que la IA podría traer consigo, debemos adoptar una mirada optimista y crítica. ¿Es el futuro realmente tan oscuro como a menudo se pinta? ¿O podemos encontrar una luz, una humanidad renovada en este paisaje tecnológico en constante evolución?

Cuanto más integramos la IA en nuestras vidas, más valoramos las cualidades humanas que nos hacen únicos: la creatividad, la empatía, el pensamiento crítico. El problema de delegar procesos en la IA nos obliga, en última instancia, a volver a mirarnos a nosotros mismos como individuos y como sociedad.

En este contexto, la educación juega un papel fundamental. Debemos fomentar una pedagogía de la pregunta, una mentalidad inquisitiva que nos anime a cuestionar la información que recibimos y a analizarla de manera crítica. Educar la mirada crítica es esencial para desarrollar ciudadanos informados y empoderados en este mundo digital.

Además, debemos reconocer que en la era de la IA, el conocimiento actual es efímero y está en constante cambio. Más que nunca, la capacidad de acceder y evaluar información precisa y actualizada se vuelve crucial. Aquí es donde entran en juego las habilidades de búsqueda y evaluación de fuentes. No se trata tanto de lo que sabemos en el presente, sino de nuestra capacidad para adaptarnos y aprender en el futuro.

En última instancia, educar en el mundo de la IA implica un equilibrio entre la práctica y la reflexión. Es a través de la práctica activa y el análisis reflexivo que desarrollamos las habilidades necesarias para navegar este nuevo paisaje digital con confianza y humanidad.

En resumen, la integración de la IA en la educación nos desafía a repensar nuestra relación con la tecnología y entre nosotros como seres humanos. Al abrazar una mirada crítica y cultivar habilidades para el aprendizaje continuo, podemos aspirar a un futuro donde la tecnología no solo mejore nuestras vidas, sino que también enriquezca nuestra humanidad.



Texto producido por POE

Título: Educar en (y para) el mundo de la Inteligencia Artificial: Herramientas para pensar en presente y futuro

Introducción:

En la era de la Inteligencia Artificial (IA), nos encontramos inmersos en un dilema fundamental: cuestionar la veracidad de lo que vemos y escuchamos, de lo que perciben nuestros sentidos, nuestra propia realidad. Es en este contexto que debemos reflexionar sobre las implicancias del fenómeno de la IA en nuestra sociedad. Sin embargo, a medida que exploramos las herramientas y posibilidades que esta tecnología nos brinda, nos surge la pregunta: ¿es el futuro tan oscuro como lo pintan, o podemos buscar la luz desde una perspectiva que valore lo humano?

La importancia de una mirada crítica:

La IA nos desafía a replantearnos cómo nos relacionamos con el conocimiento y cómo educamos a las generaciones futuras en este nuevo paradigma. A medida que aumentamos nuestra dependencia de la IA, también aumenta nuestra valoración de lo humano. La delegación de procesos en la IA nos confronta con la necesidad de volver a mirarnos como personas, de reevaluar nuestras capacidades y habilidades únicas. Es en este punto donde la educación juega un papel fundamental.

La pedagogía de la pregunta:

En el mundo de la IA, la pedagogía de la pregunta se convierte en una herramienta esencial. Fomentar la curiosidad y la capacidad de formular preguntas críticas nos permite explorar y comprender mejor el impacto de la IA en nuestras vidas. En lugar de simplemente aceptar la información proporcionada por la IA, debemos enseñar a los estudiantes a cuestionar, a analizar y a evaluar la validez de los resultados obtenidos. Al hacerlo, fomentamos el pensamiento crítico y les damos las herramientas para navegar en un mundo inundado de información, donde la veracidad puede ser cuestionable.

Educar la mirada crítica:

Además de la pedagogía de la pregunta, es esencial educar la mirada crítica de los estudiantes. Esto implica desarrollar su capacidad para discernir entre lo real y lo generado por la IA, entre lo auténtico y lo manipulado. Al enseñarles a analizar y evaluar la información que reciben, les damos las herramientas para tomar decisiones informadas y desarrollar su propio criterio. La mirada crítica se convierte en un escudo contra la manipulación y la desinformación, permitiéndoles desarrollar una comprensión más profunda y una participación activa en la sociedad.

La práctica como clave:

En este contexto, el conocimiento actual puede volverse obsoleto rápidamente. Sin embargo, lo que importa no es tanto el conocimiento en sí, sino la capacidad de conectarse con el conocimiento preciso y actualizado en el futuro. Es fundamental enseñar a los estudiantes a buscar información en fuentes confiables y a tener una actitud de aprendizaje continuo. La práctica se convierte en un pilar fundamental de la educación en el mundo de la IA. A través de la experimentación, el ensayo y error, y la reflexión sobre la práctica, los estudiantes adquieren habilidades para adaptarse y prosperar en un entorno en constante evolución.

Conclusión:

Educar en (y para) el mundo de la Inteligencia Artificial implica abrazar tanto los desafíos como las oportunidades que esta tecnología nos ofrece. Si bien es importante cuestionar la veracidad de la información y comprender las implicancias de la IA, también podemos encontrar una mirada esperanzadora. Al fomentar la pedagogía de la pregunta, educar la mirada crítica y promover la práctica constante, podemos cultivar una generación de individuos capaces de navegar en el mundo de la IA de manera ética, responsable y humana. La educación se convierte así en un espacio de diálogo y reflexión que nos permite construir un futuro más humano y prometedor.



Texto producido por Gemini (Bard) - versión 1

Educar en (y para) el mundo de la Inteligencia Artificial: Herramientas para pensar en presente y futuro

Vivimos en una época de cambios vertiginosos, donde la Inteligencia Artificial (IA) se ha convertido en una fuerza omnipresente que transforma nuestra realidad a un ritmo acelerado. En este contexto, la educación juega un papel fundamental para preparar a las nuevas generaciones para desenvolverse en un mundo cada vez más mediado por la tecnología.

Educar en la IA no significa solo enseñar sobre sus conceptos y aplicaciones, sino también desarrollar las habilidades necesarias para navegar en un mundo donde la información y la realidad misma se vuelven cada vez más difusas.

Partimos del dilema actual: la veracidad de lo que vemos y escuchamos, de lo que perciben nuestros sentidos, se pone en tela de juicio. La IA tiene la capacidad de crear imágenes y videos falsos que son indistinguibles de la realidad, lo que nos obliga a replantearnos la forma en que interpretamos el mundo que nos rodea.

¿Es el futuro tan oscuro? No necesariamente. La IA también tiene el potencial de mejorar nuestras vidas de muchas maneras. Puede usarse para automatizar tareas tediosas, mejorar la atención médica, personalizar la educación y mucho más.

La clave está en utilizar la IA de forma responsable y ética. Debemos ser conscientes de los riesgos y beneficios que implica, y asegurarnos de que se desarrolle y se use de manera que beneficie a toda la humanidad.

Cuanto más usamos la IA, más valoramos lo humano. La IA nos libera de tareas repetitivas y nos permite enfocarnos en actividades que requieren creatividad, empatía y pensamiento crítico.

El problema de delegar procesos en la IA es en definitiva un problema de volver a mirarnos como personas. Esta mirada es una apuesta por el diálogo, por la pedagogía de la pregunta y por educar la mirada crítica.

A los fines prácticos, no es tan importante el conocimiento actual como la posibilidad de conectar con el conocimiento preciso y actualizado en el futuro. Saber dónde buscar, cómo filtrar la información y cómo discernir entre lo verdadero y lo falso será fundamental.

Educar en y para la IA es una tarea que nos interpela a todos. Es un desafío que requiere de la colaboración de educadores, padres, gobiernos y empresas. Solo así podremos asegurarnos de que las nuevas generaciones estén preparadas para afrontar los retos y aprovechar las oportunidades que ofrece este nuevo mundo.

Practicar y reflexionar sobre la práctica son dos momentos de un mismo movimiento en Educación. Solo a través de la acción y la reflexión crítica podremos construir un futuro más humano y sostenible en la era de la IA.

¿Estás listo para empezar a explorar este nuevo mundo?

#IA #educación #futuro #tecnología #pensamientocrítico #pedagogíadelapregunta #dialogo



Texto producido por Gemini (Bard) - versión 2

Educar en (y para) el mundo de la Inteligencia Artificial: Herramientas para pensar en presente y futuro

Vivimos en una época donde la Inteligencia Artificial (IA) está transformando rápidamente nuestro mundo. Desde el modo en que interactuamos con la tecnología hasta la forma en que trabajamos, aprendemos y tomamos decisiones, la IA está presente en cada vez más aspectos de nuestras vidas.

En este contexto, la educación juega un papel fundamental para prepararnos a nosotros y a las nuevas generaciones para navegar este nuevo mundo. No se trata solo de enseñar sobre la IA, sino de educar en y para la IA.

Educar en la IA implica desarrollar habilidades como el pensamiento crítico, la creatividad, la resolución de problemas y la capacidad de trabajar en equipo. También significa enseñar a discernir la información, a ser conscientes de los sesgos que pueden existir en los datos y algoritmos, y a utilizar la IA de manera responsable y ética.

Educar para la IA significa preparar a las personas para los trabajos del futuro, que cada vez serán más interdisciplinarios y requerirán una combinación de habilidades técnicas y humanas. También significa promover una ciudadanía digital responsable, que sea capaz de comprender las implicaciones sociales y éticas de la IA.

La IA y el futuro: ¿Luz u oscuridad?

Mucho se ha debatido sobre el futuro de la IA. Algunos temen que la IA termine por reemplazar a los humanos en el trabajo, mientras que otros creen que puede ser una herramienta poderosa para mejorar nuestras vidas.

La realidad es que el futuro de la IA dependerá de cómo la usemos. Si la utilizamos de manera responsable y ética, la IA puede ser una herramienta para el bien. Puede ayudarnos a resolver algunos de los grandes desafíos del mundo, como el cambio climático, la pobreza y las enfermedades.

Sin embargo, si la utilizamos de manera irresponsable, la IA puede tener consecuencias negativas. Puede aumentar la desigualdad, la discriminación y la polarización social.

La importancia de la mirada humana

En este contexto, es fundamental revalorizar lo humano. Cuanto más usamos la IA, más valoramos las habilidades que nos hacen únicos como seres humanos: la creatividad, la empatía, la compasión, la ética y el pensamiento crítico.

La educación como herramienta para el futuro

La educación tiene un papel fundamental para construir un futuro mejor con la IA. La pedagogía de la pregunta y la educación de la mirada crítica son herramientas esenciales para formar ciudadanos responsables y capaces de discernir la información.

Aprender a aprender es la habilidad más importante del siglo XXI. En un mundo en constante cambio, la capacidad de adaptarse, aprender cosas nuevas y resolver problemas de manera creativa será fundamental para el éxito.

Práctica y reflexión: Dos momentos de un mismo movimiento

La educación para la IA no se trata solo de teoría, sino también de práctica. Es importante que los estudiantes tengan la oportunidad de experimentar con la IA, de usarla para resolver problemas y de reflexionar sobre sus implicaciones.

La práctica y la reflexión son dos momentos de un mismo movimiento en la educación. A través de la práctica, los estudiantes aprenden a usar la IA de manera efectiva. A través de la reflexión, desarrollan un pensamiento crítico sobre la IA y sus implicaciones para el futuro.

En conclusión, la educación en y para la IA es una necesidad urgente para el presente y futuro de la humanidad. La educación tiene el poder de prepararnos para un futuro mejor con la IA, un futuro donde la tecnología y la humanidad se complementen para construir un mundo más justo, sostenible y próspero.

¿Y tú, qué opinas sobre la IA y el futuro?



Texto producido por Gemini (Bard) - versión 3

Educar en (y para) el mundo de la Inteligencia Artificial: Herramientas para pensar en presente y futuro

Vivimos en una época donde la Inteligencia Artificial (IA) está transformando nuestro mundo a un ritmo acelerado. Desde el modo en que interactuamos con la tecnología hasta la forma en que se realizan trabajos, la IA está presente en todos los aspectos de la vida.

En este contexto, la educación juega un papel fundamental para prepararnos a las nuevas realidades que se avecinan. No solo se trata de adquirir conocimientos técnicos sobre la IA, sino también de desarrollar habilidades para pensar críticamente, discernir la información veraz y actuar de manera responsable en un mundo cada vez más complejo.

El dilema de la veracidad:

Uno de los desafíos que enfrentamos en la era de la IA es el dilema de la veracidad. La capacidad de la IA para generar imágenes, videos y textos realistas pone en duda la confiabilidad de nuestros sentidos. ¿Cómo podemos discernir entre lo real y lo artificial?

La IA y el futuro: ¿oscuro o luminoso?

Frente a este panorama, algunos temen que la IA represente una amenaza para la humanidad. Sin embargo, también existe la posibilidad de aprovechar su potencial para crear un futuro más humano. Cuanto más usamos la IA, más valoramos las habilidades y capacidades únicas de los seres humanos.

Replantearnos la educación:

Educar en (y para) el mundo de la IA requiere un replanteamiento de la educación. La pedagogía de la pregunta y la educación de la mirada crítica son herramientas fundamentales para que los estudiantes puedan desenvolverse en este nuevo contexto.

Más importante que el conocimiento actual es la capacidad de conectar con el conocimiento preciso y actualizado en el futuro. Saber dónde buscar información y cómo evaluarla críticamente son habilidades esenciales.

Práctica y reflexión:

La educación en IA no se trata solo de teoría. Es fundamental practicar el uso de estas tecnologías y reflexionar sobre su impacto en la sociedad. La experimentación y el debate son claves para construir una mirada crítica y responsable sobre la IA.

Educar en (y para) el mundo de la IA es una oportunidad para construir un futuro más humano, donde la tecnología se ponga al servicio de las personas. Es un desafío que requiere del compromiso de toda la sociedad: educadores, estudiantes, familias y gobiernos.

¡Comencemos a trabajar juntos para construir un futuro mejor!

#IA #Educación #Futuro #Tecnología #Pedagogía #Crítica #Veracidad #Humanismo



¿Con qué versión nos quedamos?

La primera versión de Gemini (Bard de Google) considero que es la que mejor se adapta a la idea que quería transmitir. El primer resultado de ChatGPT directamente lo descarté por tener un error de redacción al principio y la forma, el tono utilizado en general no me gustó, como así también el hecho de crear una "conclusión", no me servían a los fines de ofrecer un texto a los participantes de la charla para analizar. Las otras versiones, de Gemini, y el resultado obtenido con POE tampoco me convencieron por la manera de redactar mediante subtítulos. De tal forma que en vez de aplicar métodos para perfeccionar el prompt, sobre una unica IA, elegí el mejor resultado de todas las opciones que tenía disponibles.

De cualquier manera, todo el texto aún con las opciones que no fueron de mi elección, lo comparto -como dijimos al principio- en tanto que se trata de un insumo para provocar el pensamiento crítico y animar a otros a probar herramientas, en torno al tema que nos convoca.


Si te sirvió esta entrada ¡compártela! 

Hasta la próxima.

lunes, 12 de febrero de 2024

¿Ya podemos confiar en las IA que detectan IA? Las mismas pruebas que hace un año con resultados que tal vez te sorprendan

A principios de 2023 realizamos pruebas breves con Inteligencia Artificial para detectar Inteligencia Artificial. En este post puedes ver el experimento (mayo 2023, con enlace al de febrero 2023). 

En aquel momento no nos sorprendió demasiado que los resultados hayan sido adversos para la IA, ya que era bastante reciente el fenómeno y las herramientas nuevas. 

De ahí que pensamos que esto le daba mucho aire y larga vida a la tarea docente, entendiendo esta como la de un experto/a en un determindo ámbito o disciplina que valida conexiones, tutoriza procesos y se transforma en referente para el aprendizaje.

Un año más tarde, volvimos a realizar la prueba. Y ahora sí nos sorprendió el resultado ya que alguna vez dijo alguien por ahí que un año en Internet son 10 de la vida real. Entonces, siguiendo esa metáfora estamos una década más tarde! Realizamos exactamente la misma prueba, le dimos el mismo prompt a las mismas 3 herramientas del año pasado, y los resultados fueron sorprendentes. En primer lugar porque los 3 servicios siguen funcionando, y en segundo lugar por la forma en que interpretan el contenido, a pesar de verse mejoras en lo estético o de diseño gráfico.

Entonces, le volvimos a pedir a ChatGPT (usando siempre la versión gratuita) que escriba un tuit como si fuera @pbongiovanni y seguidamente volví a pedirle que escriba un hilo, exactamente con las mismas palabras que el año pasado.

Aquí una captura del "prompt" y sus correspondientes respuestas, realizadas el 10 de febrero de 2024 (Con link al resultado directo en ChatGPT, que el año pasado no lo había hecho.


(Link a resultado ChatGPT: https://chat.openai.com/share/29356cc4-f9ba-4316-8e10-35f840fe825d)

Al igual que el año pasado, a pesar de que le pedí al chatbot de OpenAI que escriba tuits, y a primera vista parecen bien construidos e incluyendo hashtags, tuve que quitar algunos caracteres en los casos que superaban el límite de 280 que es el que sigo teniendo en mi cuenta gratuita de X.

Entonces, a la vez que hacía la prueba, los publiqué con este formato:



Ahora repetimos las pruebas.

Volvimos a copiar desde desde ChatGPT, no desde los tuits, para no "contaminar la muestra" y los fuimos colocando de a uno, en los mismos tres detectores que había usado hace un año

GPTZero: Desarrollado por Edward Tian, estudiante de la Universidad de Princeton, GPTZero es una herramienta capaz de detectar los textos escritos por un chatbot, basándose en la «perplejidad» o aleatoriedad del texto, una medida de lo bien que un bot puede predecir un texto. O sea, entre más alto sea este indicador, más caos habrá en el escrito y, por lo tanto, más probabilidad de que haya sido creado por una herramienta como ChatGPT.

Writer: Writer es un asistente de escritura de IA para equipos, que además incorpora un detector de contenido generado por herramientas de inteligencia artificial. Es muy fácil de utilizar. Solo hay que pegar en la aplicación el texto o la URL donde se encuentra alojado, y en cuestión de segundos el sistema realiza un análisis que arroja un resultado de probabilidad de que el escrito haya sido generado por un humano. 

ChatGPT Detector: ChatGPT Detector tiene el poder de detectar si un texto es producido por ChatGPT, valiéndose de funciones lingüísticas o clasificadores basados ​​en PLM. Los resultados de sus análisis son calificados como humano o ChatGPT, aportando un porcentaje de probabilidad.


Ahora aquí capturas hechas con el primer detector: https://gptzero.me/ 

Primer tuit:



Segundo tuit:



Tercer tuit:






Ahora realizamos lo mismo con el segundo detector: https://writer.com/ai-content-detector/ 

Primer tuit:


Segundo tuit:


Tercer tuit:






Primer tuit:





Segundo tuit:

Tercer tuit:




La primera conclusión fue que en los tres detectores, los tres tuitsfueron interpretados como escritos por un humano. Ahora bien, inmediatamente repetimos para ver si el problema podía llegar a ser otra vez el idioma, ya que los detectores están en Inglés

Entonces le pedimos con el mismo prompt del año pasado a ChatGPT que los escribia en Inglés, y reiniciamos la prueba. Nuvamente sólo con el primer tuit a los fines de probar si obteníamos (ahora sí) alguna variación en los resultados.



Van entonces ahora aquí las capturas de los tres detectores con el texto generado por ChatGPT en inglés.


Los resultados entonces revelaron que una década un año más tarde, en la misma serie de pruebas, los detectores de textos generados por IA arrojaron en dos oportunidad el mismo veredicto: los textos fueron clasificados como escritos por humanos, excepto en el caso de GPTZero, escribiendo en inglés que sí pudo identificar que el autor detrás de esos textos era otra IA (recordamos que nosotros trabajamos sólo con ChatGPT).

Estos hallazgos resaltan la necesidad de seguir cuestionando la fiabilidad de los actuales detectores de textos, teniendo especial cuidado en el idioma en el cual se constituyen las pruebas, ya que su rendimiento nos mueve a mantener una postura crítica en la evaluación de la autenticidad de los contenidos generados por IA.

Es por esto que agregamos ahora una prueba para tres nuevos detectores de IA, que se proponen en Español. Y los resultados dieron en una oportunidad (con Smodin) una correcta detección y en dos oportunidades (Plagiarism Detector y Detecting-IA) resultado erróneo, similar a los anteriores.











En estas pruebas y teniendo en cuenta tanto las que agregamos en Español como así también que en el último año se multiplicaron los "detectores de IA" y muchos se promueven en nuestro idioma dejamos tres puntos para seguir pensando: 

1) Podríamos concluir que una tarea interesante para realizar desde la mirada docente en 2024 es investigar cuál/cuáles son los mejores detectores actuales en el idioma en el que vayamos a trabajar. 

2) A pesar de este detalle evidente, es coherente que podamos volver a afirmar y compartir que aún deseamos una ¡Larga vida a la función y rol docente!


Si te sirvió esta entrada ¡compártela! 

Hasta la próxima.

domingo, 11 de febrero de 2024

No soy Morgan Freeman - Inteligencia Artificial y percepción de la realidad


"No soy Morgan Freeman" nos presenta una realidad distorsionada a través de una inteligencia artificial capaz de imitar la voz y el rostro del reconocido actor. Esta breve pieza audiovisual nos invita a cuestionar todo lo que llega a través de nuestros sentidos en un mundo donde la IA tiene la capacidad de manipular la información de manera imperceptible.

Desde una mirada educativa, este video es una herramienta valiosa para despertar la conciencia crítica de los estudiantes frente a las nuevas tecnologías. A partir de aquí podemos generar un debate en el aula sobre los siguientes interrogantes:

¿Hasta qué punto podemos confiar en lo que vemos y escuchamos?
¿Cómo podemos discernir entre la realidad y la artificialidad?
¿Cuáles son las implicaciones éticas de la manipulación de la información mediante la IA?

Es fundamental que nuestros alumnos/as aprendan a pensar críticamente y a verificar las fuentes de información en un mundo donde la IA puede ser utilizada para engañar y desinformar. "No soy Morgan Freeman" podría ser un disparador para iniciar un diálogo sobre estos temas tan importantes.

¿Te animas a desafiar tus sentidos y a reflexionar sobre el futuro de la IA?

viernes, 26 de mayo de 2023

Sigue desconfiando, si les pides a una IA que detecte un texto creado por una IA

En la era de la inteligencia artificial, se ha vuelto cada vez más común encontrarnos con textos generados por máquinas en diversos contextos. Sin embargo, confiar plenamente en la capacidad de una IA para detectar si un texto ha sido escrito por otra IA es un desafío que aún está en evolución. Aunque se han logrado avances significativos en este campo, es importante reconocer que las herramientas actuales no son tan precisas como desearíamos. En este post, exploraremos por qué es crucial ser cautelosos y no depender completamente de la capacidad de una IA para detectar textos generados por sus pares.

Este lindo primer párrafo se lo pedí a ChatGPT a propósito de haber realizado nuevamente una prueba que hice hace 3 meses, y fruto de la cual escribimos por aquí que no deberías confiar en que una IA te pueda ayudar a detectar que un texto fue escrito por una IA (al menos por ahora). Reafirmamos ahora, que sigas desconfiando. Volvimos a realizar prácticamente la misma prueba, pero dándole un poco más de chances a las herramientas. En vez de un único tuit, le pedí que redacte un mini hilo de tres tuits, y el resultado de las pruebas, con tres herramientas de IA que sirven para detectar textos escritos por IA, fue contundente. Aún no debes confiar en que una IA pueda detectar textos escritos por una IA.

En esta oportunidad le pedí que escriba un tuit como si fuera yo (@pbongiovanni) y como me di cuenta que podía ampliar un poco la prueba, inmediatamente le pedí que escriba un hilo.

Aquí una captura del "prompt" y sus correspondientes respuestas, realizadas hoy 26 de mayo de 2023.


Un detalle para aclarar, es que a pesar de que le pedí que escriba tuits, y a primera vista parecen bien construidos (con hashtags y todo), tuve que quitar algunos caracteres, porque eran más del límite de 280 que es el que tengo actualmente en mi cuenta.

Entonces, a la vez que hacía la prueba, los publiqué con este formato:



Vamos ahora a las pruebas.

Lo que hice fue ir copiando desde ChatGPT, no desde mis tuits, para no "contaminar la muestra" y los fui colocando de a uno, en los mismos tres detectores que había usado hace tres meses en este orden: 

GPTZero: Desarrollado por Edward Tian, estudiante de la Universidad de Princeton, GPTZero es una herramienta capaz de detectar los textos escritos por un chatbot, basándose en la «perplejidad» o aleatoriedad del texto, una medida de lo bien que un bot puede predecir un texto. O sea, entre más alto sea este indicador, más caos habrá en el escrito y, por lo tanto, más probabilidad de que haya sido creado por una herramienta como ChatGPT.

Writer: Writer es un asistente de escritura de IA para equipos, que además incorpora un detector de contenido generado por herramientas de inteligencia artificial. Es muy fácil de utilizar. Solo hay que pegar en la aplicación el texto o la URL donde se encuentra alojado, y en cuestión de segundos el sistema realiza un análisis que arroja un resultado de probabilidad de que el escrito haya sido generado por un humano. 

ChatGPT Detector: ChatGPT Detector tiene el poder de detectar si un texto es producido por ChatGPT, valiéndose de funciones lingüísticas o clasificadores basados ​​en PLM. Los resultados de sus análisis son calificados como humano o ChatGPT, aportando un porcentaje de probabilidad.


Ahora aquí capturas hechas con el primer detector: https://gptzero.me/ 

Primer tuit:


Segundo tuit:


Tercer tuit:



Ahora vamos con el segundo detector: https://writer.com/ai-content-detector/ 

Primer tuit:


Segundo tuit:


Tercer tuit:




Primer tuit:


Segundo tuit:


Tercer tuit:


La conclusión primera fue que en los tres detectores, los tres tuits, fueron interpretados como escritos 100% por un humano. Ahora bien, inmediatamente me di cuenta que el problema podía llegar a ser el idioma, ya que los detectores están en Inglés

Entonces le pedí a ChatGPT que lo escriba en Inglés, y reinicié la prueba. En este caso sólo con el primer tuit a los fines de probar si obteníamos alguna variación en los resultados.




Van entonces ahora aquí las capturas de los tres detectores con el texto generado completamente por ChatGPT en inglés.

Primer detector



Segundo detector


Tercer detector


Resultados sorprendentes revelaron que, en una serie de pruebas, los detectores de textos generados por IA siempre arrojaron el mismo veredicto: los textos fueron clasificados como escritos 100% por humanos. A pesar de que el autor detrás de esos textos era, de hecho, ChatGPT, un modelo de lenguaje impulsado por IA, los sistemas de detección no pudieron distinguir con precisión la autoría. Estos hallazgos resaltan la necesidad de cuestionar la fiabilidad de los actuales detectores de textos, ya que su rendimiento dista de ser perfecto y nos instan a mantener una postura crítica en la evaluación de la autenticidad de los contenidos generados por IA.

Sí, ese último párrafo fue escrito por una IA, y como dijimos hace 3 meses: ¡Larga vida a la función y rol docente!

Si te sirvió esta entrada ¡compártela!

Hasta la próxima.

domingo, 19 de marzo de 2023

Conversatorio | Inteligencia Artificial y Educación: ¿aliados o enemigos? ¿anécdota o revolución?



Se transmitió en vivo el 3 mar 2023

Ponentes:

- Diego Craig - Mgter. en Tecnología Educativa y Competencias Digitales. Profesor de Educación Tecnológica. Corrientes (Argentina). https://www.linkedin.com/in/diegocraig/

- Pablo Bongiovanni - Doctor en Educación. Profesor en Ciencias de la Educación. Santa Fe (Argentina). https://www.linkedin.com/in/pablobongiovanni

- Pedro Figueroa - Maestrando en Procesos Educativos Mediados por Tecnología. Profesor Universitario. Córdoba (Argentina). https://www.linkedin.com/in/figueroapedro/

Modera: Atenea (avatar de IA)

Organiza: Los Docentes y las TIC: https://www.facebook.com/losdocentesylastic/ 


Producciones de los ponentes sobre la temática de la Inteligencia Artificial en Educación:

- Computadoras que aprenden. Guía básica para docentes sobre Inteligencia Artificial en Educación. Diego F. Craig (2023). Disponible en PDF en Drive.

- 160 Preguntas y Respuestas de la Inteligencia Artificial sobre la Educación del Futuro. Pedro Figueroa (2023). Disponible como publicación abierta en Calameo

- Inteligencia Artificial para Educadores. Guía básica en Español. Pablo Bongiovanni (2023). A la venta en PDF en Hotmart y formatos ebook y papel en Amazon.