La gente ha expresado su preocupación por el hecho de que los chatbots de IA reemplacen o atrofien la inteligencia humana. Por ejemplo, los chatbots pueden escribir un ensayo completo en segundos, lo que genera preocupación por la posibilidad de que los estudiantes hagan trampa y no aprendan a escribir correctamente. Estos temores incluso llevaron a algunos distritos escolares a bloquear el acceso cuando se lanzó inicialmente ChatGPT. Ahora, no solo muchas de esas escuelas decidieron desbloquear la tecnología, sino que algunas instituciones de educación superior han estado adaptando su oferta académica a los cursos relacionados con la IA. Además: La IA generativa puede ser el asistente académico que necesita un estudiante desatendidoOtra preocupación con los chatbots de IA es la posible propagación de información errónea. ChatGPT dice: «Mis respuestas no deben tomarse como hechos, y siempre aliento a las personas a verificar cualquier información que reciban de mí o de cualquier otra fuente». OpenAI también señala que ChatGPT a veces escribe «respuestas que suenan plausibles pero incorrectas o sin sentido». Por último, existen preocupaciones éticas y de privacidad con respecto a la información con la que se entrenó a ChatGPT. OpenAI ha rastreado Internet para entrenar al chatbot sin pedir permiso a los propietarios de contenido para usar su contenido, lo que genera muchas preocupaciones sobre derechos de autor y propiedad intelectual. Además: OpenAI y Anthropic colaborarán con el gobierno de EE. UU. en materia de seguridad de la IATambién existen preocupaciones sobre la privacidad con respecto a que las empresas de IA generativa utilicen sus datos para afinar aún más sus modelos, lo que se ha convertido en una práctica común. OpenAI le permite desactivar el entrenamiento en la configuración de ChatGPT. Entonces, ¿ChatGPT es seguro? Si su principal preocupación es la privacidad, OpenAI ha implementado varias opciones para brindarles a los usuarios la tranquilidad de que sus datos no se utilizarán para entrenar modelos. La empresa incluso le permite desactivar su historial de chat. Si le preocupan los problemas morales y éticos, estos todavía están siendo objeto de acalorados debates.