Robert Triggs / Android AuthorityChatGPT se ha convertido en una herramienta creativa indispensable para muchos de nosotros. Sin embargo, por muy vanguardista que sea, ChatGPT todavía sufre ralentizaciones ocasionales que pueden hacer que tengas que esperar unos segundos o incluso más de un minuto entre respuestas. Cambiar al modelo pago ChatGPT-4 tampoco necesariamente acelerará las cosas. Todo esto plantea dos preguntas importantes: ¿por qué ChatGPT es tan lento y qué podemos hacer para mejorarlo? ¿Por qué ChatGPT es tan lento? Una descripción técnica Calvin Wankhede / Android AuthorityChatGPT es un ejemplo de IA generativa o inteligencia artificial que puede generar contenido nuevo. Es un proceso que requiere cantidades significativas de potencia computacional. Cada vez que envía un mensaje al chatbot, este debe decodificarlo y generar una nueva respuesta. Internamente, el modelo de lenguaje subyacente de ChatGPT procesa el texto como tokens en lugar de palabras. Puede pensar en un token ChatGPT como la unidad más fundamental del mensaje del chatbot. Los modelos de lenguaje como el que impulsa ChatGPT han sido entrenados en cientos de gigabytes de texto, lo que significa que han aprendido los patrones del lenguaje y el diálogo humanos. Dados grandes volúmenes de texto, también puede aprender el contexto y cómo se relacionan las palabras y oraciones entre sí. Con esta capacitación, podemos pedirle al modelo que genere un texto completamente nuevo que nunca antes haya visto. La tecnología subyacente de ChatGPT requiere grandes cantidades de potencia informática (limitada). Entonces, cada vez que le preguntas algo a ChatGPT, el modelo subyacente se apoya en su entrenamiento para predecir la siguiente palabra o token en su respuesta. El modelo puede secuenciar estos cálculos de probabilidad para formar oraciones y párrafos completos de texto. Cada predicción simbólica requiere cierta cantidad de potencia computacional, de la misma manera que nuestros cerebros a veces pueden hacer una pausa para tomar decisiones. La única diferencia es que los modelos de IA que se ejecutan en servidores potentes normalmente pueden predecir cientos de tokens por segundo. En cuanto a lo que hace que ChatGPT sea tan lento, es simplemente una cuestión de demanda excesiva de la cantidad limitada de potencia computacional disponible. El modelo de lenguaje que elijas también tiene un impacto: los modelos más avanzados generalmente son más lentos. Si bien OpenAI no ha publicado cifras exactas, es seguro asumir que GPT-4 Turbo no responderá tan rápido como el modelo GPT-3.5 estándar. ¿Por qué ChatGPT-4 es tan lento? ChatGPT-4 es lento porque utiliza el modelo GPT-4 Turbo más lento, que prioriza la precisión y la calidad de la respuesta sobre la velocidad. El modelo ChatGPT o GPT-3.5 normal ha recibido actualizaciones incrementales durante más de un año, lo que lo hace mucho más rápido pero menos preciso. Cómo mejorar la velocidad de respuesta de ChatGPT Con la explicación de cómo funcionan las respuestas de ChatGPT, quizás te preguntes si hay una manera de acelerar sus respuestas. Afortunadamente, hay algunas cosas que puedes intentar para mejorar la situación. 1. Pruebe con un navegador, una conexión y un dispositivo diferentes. Antes de echarle la culpa directamente a ChatGPT, debemos intentar descartar cualquier posible motivo de la desaceleración por nuestra parte. Un navegador o una conexión a Internet mal configurados podrían fácilmente ser la razón detrás de las respuestas lentas de ChatGPT, por lo que vale la pena comenzar por ahí. Antes de continuar, recomendamos borrar las cookies y los archivos de caché guardados en su navegador. Para hacer esto, dirígete a la página de configuración de tu navegador y busca un botón para restablecer o borrar datos de navegación. En Chrome, por ejemplo, está en Configuración > Restablecer > Restaurar la configuración a sus valores predeterminados originales > Restablecer configuración. Después de restablecer su navegador, deberá iniciar sesión en su cuenta ChatGPT nuevamente. 2. ¿ChatGPT es lento hoy? Consulte la página de estado de OpenAI Calvin Wankhede / Android AuthorityOpenAI mantiene una página de estado oficial que puede indicarle si ChatGPT no funciona o experimenta ralentizaciones en este momento. Es la forma más rápida de saber si el servicio se ve afectado por una interrupción importante o tiene dificultades para mantenerse al día con la mayor demanda de los usuarios. Si la página de estado indica un problema con ChatGPT, lamentablemente no hay nada que pueda hacer para solucionarlo. La mayoría de los problemas se resuelven en unas pocas horas, por lo que es posible que no tengas que esperar mucho. 3. Verifique si hay una conexión VPN activa. Si bien una VPN por sí sola no necesariamente se traduce en respuestas ChatGPT más lentas, las corporativas o públicas pueden afectar al chatbot de manera sutil. Las VPN corporativas, en particular, pueden bloquear o interferir con la conexión a los servidores de ChatGPT. Del mismo modo, si utiliza un servicio VPN popular y se conecta a un servidor ocupado, los servidores de ChatGPT pueden detectar una avalancha de solicitudes desde una única dirección IP. Esto podría activar medidas antispam o limitación de velocidad, lo que acelera la velocidad a la que puede enviar y recibir mensajes. El mejor curso de acción sería intentar usar el chatbot sin una conexión VPN si actualmente tiene una habilitada. Ya sabemos que ChatGPT guarda sus datos a nivel de cuenta, por lo que no hay ningún beneficio de privacidad al usar una VPN aquí. 4. Actualice a ChatGPT PlusCalvin Wankhede / Android AuthoritySi ninguna de las soluciones anteriores funcionó para usted, puede deberse a que tiende a usar ChatGPT cuando está más ocupado. Y si usa el chatbot de forma gratuita, estará más abajo en la lista de prioridades en comparación con un cliente que paga. Si la velocidad de respuesta realmente le importa, una suscripción a ChatGPT Plus podría ser su último recurso, aunque debería considerar leer primero la siguiente sección. Una suscripción a ChatGPT Plus le costará $20 mensuales pero ofrece respuestas más rápidas. También obtienes acceso prioritario al chatbot durante períodos de gran demanda, lo que debería ayudarte con cualquier desaceleración que puedas enfrentar. 5. Utilice un chatbot alternativo con tiempos de respuesta más rápidos Calvin Wankhede / Android AuthoritySi bien ChatGPT alguna vez fue la única herramienta de lenguaje de inteligencia artificial en el mercado, ese ya no es el caso. Tomemos como ejemplo Microsoft Copilot. Aunque se basa en la misma familia de modelos de lenguaje GPT, puede tener una ventaja de velocidad dependiendo de la carga del servidor de ChatGPT. Pero en mi experiencia, Gemini de Google normalmente ofrece respuestas más rápidas que cualquiera de los chatbots basados ​​en GPT. Del mismo modo, un puñado de otras herramientas generativas basadas en IA, como Perplexity, ofrecen respuestas más rápidas que ChatGPT. Probablemente esto se deba a que los chatbots convencionales necesitan recordar mensajes anteriores para contextualizarlos, lo que puede aumentar la complejidad de las predicciones de tokens. Los modelos de lenguaje más pequeños también brindarán respuestas más rápidas, pero a expensas de la calidad de la respuesta. Comentarios