Las escuelas públicas de la ciudad de Nueva York tienen acceso restringido a ChatGPT, el sistema de inteligencia artificial que puede generar texto sobre una variedad de temas y en varios estilos, en redes y dispositivos escolares. Como ampliamente reportado esta mañana y confirmado a TechCrunch por un portavoz del Departamento de Educación de la ciudad de Nueva York, la restricción se implementó debido a preocupaciones sobre “[the] impactos negativos en el aprendizaje de los estudiantes” y “la seguridad y precisión” del contenido que produce ChatGPT.
“Si bien la herramienta puede proporcionar respuestas rápidas y fáciles a las preguntas, no desarrolla habilidades de pensamiento crítico y resolución de problemas, que son esenciales para el éxito académico y de por vida”, dijo el portavoz a TechCrunch por correo electrónico, y agregó que el restringido el acceso se produjo en respuesta a las solicitudes de las escuelas.
No es una prohibición per se. El sistema de escuelas públicas de la ciudad de Nueva York está usando el mismo filtro para ChatGPT que usa para bloquear otras aplicaciones y sitios web, por ejemplo, YouTube y Facebook, en la propiedad de la escuela. Las escuelas individuales pueden solicitar que se desbloquee ChatGPT, y el portavoz dijo que el Departamento de Educación de la ciudad de Nueva York “agradecería” la oportunidad de tener una conversación con OpenAI, la empresa emergente detrás de ChatGPT, sobre cómo se podría adaptar la herramienta para la educación.
En cuanto a OpenAI, cuando se le contactó para hacer comentarios, un portavoz de la compañía dijo que OpenAI está desarrollando “mitigaciones” para ayudar a cualquier persona a detectar el texto generado por ChatGPT. Eso es significativo. Si bien TechCrunch informó recientemente que OpenAI estaba experimentando con una técnica de marca de agua para texto generado por IA, es la primera vez que OpenAI confirma que está trabajando en herramientas específicamente para identificar texto proveniente de ChatGPT.
“Hicimos que ChatGPT esté disponible como una vista previa de la investigación para aprender del uso en el mundo real, que creemos que es una parte fundamental del desarrollo y la implementación de sistemas de IA seguros y capaces. Estamos incorporando constantemente comentarios y lecciones aprendidas”, dijo el portavoz de OpenAI. “Siempre hemos pedido transparencia en torno al uso de texto generado por IA. Nuestras políticas exigen que los usuarios sean sinceros con su audiencia cuando utilicen nuestra API y herramientas creativas… Esperamos trabajar con los educadores en soluciones útiles y otras formas de ayudar a los profesores y estudiantes a beneficiarse de la IA”.
ChatGPT tiene una aptitud para responder preguntas sobre temas que van desde la poesía hasta la codificación, pero uno de sus mayores defectos es su capacidad para dar a veces respuestas que suenan convincentes pero que no son verdaderas. Eso llevó El sitio de codificación de preguntas y respuestas Stack Overflow para prohibir temporalmente a los usuarios de compartir contenido generado por la IA, diciendo que ChatGPT facilitó que los usuarios inundaran la plataforma con respuestas dudosas. Más recientemente, la Conferencia Internacional sobre Aprendizaje Automático, una de las conferencias sobre inteligencia artificial y aprendizaje automático más grandes del mundo, Anunciado una prohibición de documentos que incluyan texto generado por ChatGPT y otros sistemas similares de IA por temor a “consecuencias imprevistas”.
En educación, el debate ha girado en gran medida en torno al potencial de hacer trampa. Realice una búsqueda en Google de “ChatGPT para escribir documentos escolares” y encontrará muchos ejemplos de educadores, periodistas y estudiantes que prueban las aguas usando ChatGPT para completar las tareas y las pruebas de ensayo estandarizadas. Columnista del Wall Street Journal, Joanna Stern usado ChatGPT para escribir un ensayo de inglés AP aprobado, mientras que Emma Whitford, miembro del personal de Forbes golpeado es terminar dos ensayos universitarios en 20 minutos. Discurso a The Guardian, el profesor de la Universidad Estatal de Arizona, Dan Gillmor, recordó cómo le dio a ChatGPT una de las tareas que normalmente les da a sus estudiantes y descubrió que el ensayo de la IA habría obtenido “una buena calificación”.
El plagio es otra preocupación. Al igual que otros sistemas de inteligencia artificial que generan texto, ChatGPT, que está entrenado en datos públicos, generalmente recopilados sin consentimiento, a veces puede regurgitar esta información palabra por palabra sin citar ninguna fuente. Eso incluye inexactitudes fácticas, como se mencionó anteriormente, así como sesgos, que incluyen descaradamente racista y sexista: perspectivas. OpenAI continúa introduciendo filtros y técnicas para evitar generaciones de texto problemáticas, pero todos los días surgen nuevas soluciones.
A pesar de esas limitaciones y problemas, algunos educadores ven potencial pedagógico en ChatGPT y otras formas de tecnologías de IA generativa. En un artículo reciente para el sitio web de la Escuela de Graduados en Educación de Stanford, Victor Lee, profesor asociado de educación en Stanford, señaló que ChatGPT puede ayudar a los estudiantes a “pensar de una manera que actualmente no lo hacen”, por ejemplo, ayudándolos a descubrir y aclarar sus ideas. Los profesores también pueden beneficiarse de ChatGPT, postula, al generar muchos ejemplos para los estudiantes de una narrativa donde el contenido básico sigue siendo el mismo pero el estilo, la sintaxis o la gramática difieren.
“ChatGPT puede [allow] estudiantes a leer, reflexionar y revisar muchas veces sin la angustia o la frustración que tales procesos a menudo provocan, [while] los maestros pueden usar la herramienta como una forma de generar muchos ejemplos y no ejemplos de una forma o género”, dijo Lee en un declaración. “Obviamente, los maestros están menos encantados de que la computadora haga mucho trabajo preliminar para los estudiantes. Y los estudiantes aún necesitan aprender a escribir. Pero, ¿de qué manera y qué tipos de escritura? Un… efecto secundario de este nuevo medicamento es que requiere que todos nosotros hagamos esas preguntas y probablemente hagamos algunos cambios sustanciales en los objetivos generales y los métodos de nuestra instrucción”.
En cualquier caso, la política de escuelas públicas de la ciudad de Nueva York, que parece ser la primera de su tipo en el país, seguramente forzará la conversación en los distritos escolares de otros lugares. A medida que crece el uso de la tecnología, ChatGPT tenía más de un millón de usuarios en diciembre. investigadores independientes y compañías han comenzado a probar herramientas para detectar el uso de texto generado por IA en las presentaciones de los estudiantes. Algunos educadores pueden optar por adoptarlos, mientras que otros, como Lee, fomentan el uso de ChatGPT como una herramienta de escritura asistida.
Source link