Cuando se presentó por primera vez en diciembre de 2022, ChatGPT (Artificial Intelligence Chatbot) causó mucho entusiasmo en el mundo de los negocios por varias razones. Los dueños de negocios estaban entusiasmados porque vieron que era una forma de automatizar muchos informes y reducir la necesidad de empleados. La automatización significaría que el trabajo y los empleos requerirían menos tiempo para completarse y, por lo tanto, los costos serían menores. También hubo entusiasmo por parte de los empleados que vieron la oportunidad de reducir el trabajo que tenían que hacer. El chatbot está diseñado para poder llevar su información a un artículo o informe extenso, y los empleados ciertamente estaban aprovechando este hecho. Sin embargo, se están presentando algunos desafíos a los que las empresas deben prestar atención. Los expertos en seguridad cibernética han señalado que la inteligencia artificial presenta posibles problemas de seguridad, ya que los empleados utilizan ChatGPT (y otros como Bard) para ingresar datos confidenciales. Siga leyendo para ver si su empresa podría verse afectada por los peligros de la IA y comprenda si la IA es una amenaza para las empresas de todos los sectores. ¿Cuáles son las desventajas de la IA para las empresas? Como mencionamos anteriormente, puede ser un momento emocionante para las empresas si implementan y utilizan la IA correctamente. Sin embargo, a pesar de las mejores intenciones para el lugar de trabajo, la IA puede ser una amenaza para las empresas. La invención de Microsoft Copilot es un gran ejemplo de cómo funciona esto. Si se utilizan correctamente, las empresas pueden automatizar sistemas y trabajos que normalmente habrían llevado mucho tiempo. Pero, ¿cómo es esto una desventaja? Parece bueno que las empresas puedan reducir costos. La IA puede revolucionar las industrias, remodelar el trabajo y el estilo de vida de los empleados e impulsar un progreso tecnológico sustancial. Pero también hay implicaciones importantes para la seguridad cibernética, tanto en términos de mejorar las defensas de seguridad cibernética como de crear nuevos desafíos y riesgos. ¿Con qué ciberataques puede ayudar la IA a los actores de amenazas? Un ejemplo es que en el verano de 2023, las empresas que utilizaban Microsoft Teams descubrieron que un grupo de hackers ruso, Midnight Blizzard, estaba utilizando Microsoft Teams para llevar a cabo ataques de phishing. Estos piratas informáticos utilizaron cuentas de Microsoft 365 de pequeñas empresas que habían sido pirateadas anteriormente para lanzar nuevos ataques de ingeniería social. Esto agrega un nuevo ángulo a una estrategia de ataque conocida, y es importante que las empresas que trabajan con Microsoft Teams sean conscientes de estos riesgos. Se cree que los ciberdelincuentes que organizan este tipo de ataques de phishing utilizan la IA para mejorar sus estafas. El software ayuda a mejorar la ortografía y puede resultar bastante persuasivo. Elimina uno de los signos obvios de un correo electrónico de phishing, que es la mala ortografía y gramática. Plagio e información incorrecta Otra amenaza de la IA para las empresas es el plagio y la desinformación. Los modelos de lenguaje de IA aún no son perfectos y no siempre proporcionan la información correcta. Entonces, si bien esto puede afectar a las empresas desde el punto de vista del plagio, ya que el software tiende a regurgitar información que ya está en Internet, evita una oportunidad muy real para los ciberdelincuentes. Los actores de amenazas y los piratas informáticos que trabajan desde su dormitorio pueden engañar deliberadamente al público en general y a los empleados al proporcionar al modelo información que no es correcta. Muchas empresas tienden a utilizar chatbots (impulsados ​​por modelos lingüísticos) para operar sus operaciones de servicio al cliente. Si un ciberdelincuente sabe esto, puede proporcionar deliberadamente información errónea al chatbot, lo que significa que podría regurgitar la ficción que se le ha proporcionado. Ha habido ejemplos de empresas que utilizan chatbots para servicios al cliente y clientes que solicitan al bot información sobre otras empresas. El bot ha cumplido y proporcionado detalles de empresas que son completamente diferentes a la industria o negocio que debe representar. La IA genera preocupaciones sobre la privacidad de las empresas. Los sistemas de IA necesitan muchos datos para funcionar bien. Sin embargo, esto puede ser un problema de privacidad porque recopilar y manejar información confidencial puede generar problemas de privacidad. Para equilibrar la seguridad y la privacidad, es esencial utilizar buenas reglas y métodos de datos que protejan la privacidad en la IA. Existe preocupación por la cantidad de datos privados y confidenciales que contendrán los modelos y el software del lenguaje de IA. Si estos sistemas no están protegidos adecuadamente, pueden ser atacados, lo que provocará acceso no autorizado o violaciones de datos. Esto pone en riesgo la información privada de las personas. Garantizar sistemas de IA seguros es crucial para evitar problemas de privacidad y proteger datos confidenciales. Además, los sistemas de IA aprenden de datos antiguos que pueden tener sesgos. Los sistemas de IA pueden ser injustos o discriminatorios si estos sesgos no se corrigen, lo que genera problemas sociales y éticos. Solucionar estos problemas no deseados es esencial para garantizar que la IA sea responsable y justa. — ¿Qué se puede hacer para contrarrestar las preocupaciones sobre la IA? Muchos de los problemas que enfrentan las empresas es que los empleados son negligentes o desconocen los peligros de la IA. Al igual que el phishing, hay muchos casos en los que se puede evitar un desastre empresarial SI el empleado tiene suficiente formación en seguridad cibernética pero también es consciente de lo que está sucediendo. Neuways brinda capacitación sobre concientización sobre el phishing con el objetivo de ayudar a los empleados a detectar un ataque de phishing o un correo electrónico fraudulento. No pasará mucho tiempo hasta que las empresas ofrezcan cursos sobre seguridad de la IA como parte de sus plataformas de ciberseguridad. La razón de esto es que la manipulación de la IA y las trampas colocadas por los ciberdelincuentes serían más fáciles de evitar si los empleados conocieran los pros y los contras. Hay formas obvias de evitar que los ciberdelincuentes proporcionen datos confidenciales a través de la IA. Si bien no se espera que los modelos de lenguaje de IA tomen sus datos, alguien que observe su chat en secreto podría dañar su seguridad y privacidad. Cuando hables con chatbots o modelos de lenguaje como ChatGPT, ten siempre cuidado con lo que compartes. No comparta datos privados como su nombre, dirección, inicio de sesión o datos de su tarjeta de crédito. Además, debes actualizar constantemente tu software y certificados de ciberseguridad. Asegúrese de que su software tenga siempre la última versión. Las actualizaciones suelen solucionar problemas de seguridad que alguien podría aprovechar para acceder a sus datos. Tenga cuidado con las estafas en línea Para protegerse contra las estafas en línea, es fundamental tener cuidado al compartir información personal. Dos prácticas críticas incluyen verificar la legitimidad de una cuenta ChatGPT o chatbot antes de compartir detalles confidenciales y garantizar la autenticidad de cualquier servicio o plataforma, principalmente cuando se solicitan pagos de fuentes desconocidas. Los ciberdelincuentes suelen emplear tácticas de phishing, utilizando ChatGPT para llevar a las personas a solicitudes fraudulentas de información personal. Conclusión: actualice su software y busque la ayuda de expertos en seguridad cibernética. Las empresas pueden mejorar su protección actualizando periódicamente el software antimalware, implementando firewalls y cifrando datos confidenciales almacenados en los sistemas. Tener cuidado al hacer clic en enlaces de perfiles de ChatGPT, mantenerse informado sobre los desarrollos de seguridad cibernética, proteger el acceso a los datos dentro de las organizaciones y educar a los empleados sobre cómo identificar y denunciar posibles estafas son medidas adicionales para fortalecerse contra las amenazas en evolución asociadas con ChatGPT. — ——————————————————————————————————————————— Póngase en contacto con Neuways para ayudar a que su negocio se convierta en Cyber ​​Safe Si necesita ayuda con la seguridad cibernética, comuníquese con Neuways y lo ayudaremos en lo que podamos. Simplemente póngase en contacto con nuestro equipo hoy. The post ¿Es la IA una amenaza para las empresas sin los marcos de seguridad cibernética correctos? apareció por primera vez en Neuways.

Source link