En lo que podría ser una de las mayores actualizaciones de ChatGPT Desde su lanzamiento el año pasado, OpenAI ha lanzado complementos para su chatbot de IA, que le permiten navegar por Internet. La noticia llega unos días después de que la compañía lanzara su modelo de lenguaje grande de próxima generación, GPT-4. El nuevo modelo es más potente que GPT 3.5, gracias a una serie de mejoras, incluidas capacidades multimodales que le permiten aceptar entradas de imágenes y texto, y generar salidas de texto.
Según OpenAI, los complementos se encuentran entre las funciones de ChatGPT más solicitadas, ya que pueden desbloquear muchas funciones adicionales que no están disponibles con el chatbot de forma nativa. Inicialmente, los complementos estarán disponibles solo para un puñado de desarrolladores y usuarios de ChatGPT+ antes de implementarse más ampliamente. Muchos usuarios de API ya han desarrollado complementos para ChatGPT, incluidos Expedia, FiscalNote, Instacart, KAYAK, Klarna, Milo, OpenTable, Shopify, Slack, Speak, Wolfram y Zapier.
Preocupaciones de seguridad sobre la capacidad de navegación web de ChatGPT
“/> Los complementos nuevos más notables provienen del propio OpenAI e incluyen un navegador web y un intérprete de código. Todavía son un trabajo en progreso, pero la compañía todavía los pone a disposición en versión alfa para las personas en la lista de espera. El complemento de navegación web es el más interesante, ya que utilizará la API de búsqueda de Bing y permitirá a ChatGPT explorar la web en busca de información actual. Se cree que el chatbot está entrenado en contenido que data de septiembre de 2021 y antes, lo que significa que en su mayoría no puede responder preguntas relacionadas con eventos más recientes, como la Copa Mundial de fútbol de 2022 o el terremoto de 2023 en Turquía. Se espera que el nuevo complemento de navegación resuelva ese problema y ayude a ChatGPT a extraer la información más reciente de la web cuando sea necesario.
Si bien esto mejorará enormemente el conocimiento de ChatGPT, especialmente sobre eventos recientes, también corre el riesgo de corromperlo con información errónea y contenido ofensivo. OpenAI lo sabe y dice que ha trabajado diligentemente para reducir “ciertas clases de riesgos para la seguridad”. En primer lugar, para reducir las posibilidades de que ChatGPT extraiga datos ofensivos e incorrectos de la web, dependerá de la base de datos de Microsoft para verificar la confiabilidad de la fuente y la veracidad de la información. En segundo lugar, el software también tendrá una función incorporada.Modo seguro‘ para evitar la recuperación de contenido problemático. Finalmente, el complemento funcionará como un servicio aislado, por lo que los datos de navegación no dañarán el resto de la base de conocimientos de ChatGPT.
Sin embargo, lo que es más desconcertante es que el complemento no sólo recuperará información en tiempo real de la web, sino que también puede “tomar acciones directas en nombre de los usuarios de ChatGPT”. Esto significa que la herramienta de inteligencia artificial se puede utilizar no solo para enumerar los mejores restaurantes de una ciudad, sino incluso para reservar mesas en restaurantes. Eso podría ser un gran motivo de preocupación, especialmente si la herramienta de inteligencia artificial se volviera deshonesta. Esto ya sucedió antes, con ChatGPT haciéndose pasar por un humano ciego para contratar a una persona en TaskRabbit para resolver un Captcha. OpenAI dice que ha implementado “varias salvaguardias” para evitar que la navegación web se convierta en un problema, pero queda por ver si son lo suficientemente buenos para mantener ChatGPT a tiempo.
Fuente: OpenAI
Source link