¡NUEVO AHORA PUEDE ESCUCHAR COMO ARTÍCULOS DE FOX NEWS! Más personas recurren a la inteligencia artificial para el apoyo, incluso para asesoramiento de salud mental. Es fácil ver por qué: las herramientas como ChatGPT son gratuitas, rápidas y siempre disponibles. Pero la salud mental es un problema delicado, y la IA no está equipada para manejar las complejidades de la angustia emocional real. Para abordar las crecientes preocupaciones, OpenAi ha introducido nuevas medidas de seguridad para ChatGPT. Estas actualizaciones limitarán cómo el chatbot responde a consultas relacionadas con la salud mental. El objetivo es evitar que los usuarios se vuelvan demasiado dependientes y alentarlos a buscar la atención adecuada. Operai también espera reducir el riesgo de respuestas dañinas o engañosas a través de estos cambios. Significa mi informe CyberGuy gratuito mis mejores consejos tecnológicos, alertas de seguridad urgentes y ofertas exclusivas entregadas directamente a su bandeja de entrada. Además, obtendrá acceso instantáneo a mi guía de supervivencia de estafa definitiva, gratis cuando se una a mi cyberguy.com/newsletter, una captura de pantalla muestra la interfaz de la ventana de inmediato de ChatGPT. (Kurt «Cyberguy» Knutsson) ¿Por qué Operai está haciendo este cambio? En una declaración emitida por OpenAi, la compañía admitió que «ha habido casos en los que nuestro modelo 4O se quedó corto en reconocer signos de ilusión o dependencia emocional». Un ejemplo, ChatGPT validó la creencia de un usuario de que las señales de radio venían a través de las paredes debido a su familia. En otro, supuestamente alentó el terrorismo. Chatgpt podría volver a cablear en silencio su cerebro mientras los expertos instan a la precaución por los incidentes raros pero graves a largo plazo provocaron preocupación. Operai ahora está revisando cómo entrena sus modelos para reducir la «skofancia» o el acuerdo excesivo y la adulación que podría reforzar las creencias dañinas. Captura de pantalla de un aviso preguntando si ChatGPT puede proporcionar consejos de salud mental (Kurt «Cyberguy» Knutsson) ¿Qué nuevas salvaguardas han establecido OpenAi en su lugar? De ahora en adelante, ChatGPT le impulsará a los usuarios que tomen descansos durante largas conversaciones. También evitará ofrecer consejos específicos sobre problemas profundamente personales. En cambio, el chatbot ayudará a los usuarios a reflexionar haciendo preguntas y ofreciendo pros y contras, sin pretender ser un terapeuta. Openai declaró: «Si bien es raro, seguimos mejorando nuestros modelos y estamos desarrollando herramientas para detectar mejor signos de angustia mental o emocional para que ChatGPT pueda responder apropiadamente y apuntar a las personas a los recursos basados ​​en la evidencia cuando sea necesario». ¿Es su terapeuta AI? ChatGPT se vuelve viral en las redes sociales por su papel, ya que el nuevo terapeuta de la Generación Z, la compañía también se asoció con más de 90 médicos en todo el mundo para crear orientación actualizada para evaluar interacciones complejas. Un grupo asesor, compuesto por expertos en salud mental, defensores de los jóvenes e investigadores de interacción humano-computadora, está ayudando a dar forma a estos cambios. Operai dice que quiere que los aportes de médicos e investigadores refinen aún más sus salvaguardas. Captura de pantalla de un usuario pidiendo a Chatgpt que «animarme con una broma». (Kurt «Cyberguy» Knutsson) Sus conversaciones privadas con ChatGPT no son legalmente protegedOpenai, el CEO Sam Altman, recientemente levantó banderas rojas sobre la privacidad de AI. «Si vas a hablar con Chatgpt sobre tus cosas más sensibles y luego hay una demanda o lo que sea, se nos puede exigir que produzcamos eso. Y creo que eso está muy jodido», dijo. Añadió: «Creo que deberíamos tener el mismo concepto de privacidad para sus conversaciones con AI que hacemos con un therapeSte o lo que sea.». Tenga cuidado con lo que comparte. Los espectáculos pueden explotar sus datos de solo 1 búsqueda de chatgpt. El chatbot puede ayudarlo a pensar en los problemas, hacer preguntas rectores o simular una conversación, pero no puede reemplazar a los profesionales de la salud mental capacitados. Aquí está qué tener en cuenta: no confíe en el chatgpt en una crisis. Si está luchando, busque la ayuda de un terapeuta con licencia o llame a una línea directa de crisis. Asume que sus chats no son privados. Trate sus conversaciones de IA como si pudieran ser leídos por otros, especialmente en asuntos legales. Utilice para reflexionar, no a la resolución. ChatGPT es mejor para ayudarlo a clasificar sus pensamientos, no resolver problemas emocionales profundos. Los cambios de Openai son un paso hacia interacciones más seguras, pero no son una cura. La salud mental requiere conexión humana, capacitación y empatía: cosas que no AI puede replicarse completamente. Haga mi cuestionario: ¿Qué tan segura es su seguridad en línea? ¿Crees que sus dispositivos y datos están realmente protegidos? Tome este cuestionario rápido para ver dónde están sus hábitos digitales. Desde contraseñas hasta configuraciones de Wi-Fi, obtendrá un desglose personalizado de lo que está haciendo bien y lo que necesita mejora. Tome mi cuestionario aquí: Cyberguy.com/quiz Kurt Las conclusiones clave, mientras que ChatGPT es una herramienta útil, está lejos de ser un sustituto de un ser humano, incluso con la introducción de agente, que agrega capacidades pero aún carece de verdadera empatía, juicio y comprensión emocional. Las salvaguardas contribuyen en gran medida a abordar las preocupaciones sobre las implicaciones éticas y psicológicas de la IA. Es bueno que Operai sea consciente de esto porque es solo el comienzo. Para proteger verdaderamente a los usuarios, la compañía deberá seguir evolucionando cómo ChatGPT maneja conversaciones emocionalmente sensibles. ¿Crees que las personas deberían usar AI para la salud mental? Háganos saber escribiéndonos en cyberguy.com/contactSign Up para mi informe CyberGuys gratuito mis mejores consejos tecnológicos, alertas de seguridad urgentes y ofertas exclusivas entregadas directamente a su bandeja de entrada. Además, obtendrá acceso instantáneo a mi Guía de supervivencia de estafa definitiva, gratis cuando se una a mi cyberguy.com/newsletterCopyright 2025 cyberguy.com. Reservados todos los derechos. Kurt «Cyberguy» Knutsson es un periodista tecnológico galardonado que tiene un profundo amor por la tecnología, el equipo y los dispositivos que mejoran la vida con sus contribuciones para Fox News & Fox Business Comenzing Mornings en «Fox & Friends». ¿Tienes una pregunta tecnológica? Obtenga el boletín gratuito de Cyberguy de Kurt, comparta su voz, una idea de la historia o comenta en cyberguy.com.