Comparte en tu plataforma favorita Recuerda mis palabras, la IA es mucho más peligrosa que las armas nucleares… ¿por qué no tenemos supervisión regulatoria? Elon Musk Elon Musk ha criticado abiertamente la inteligencia artificial y ha expresado preocupación por su posible impacto en la sociedad. Afirmó que “si se crea una IA súper inteligente, la IA será mejor que los humanos en la creación de IA. Si la humanidad no tiene cuidado, crearemos algo que será mejor para destruir el mundo que para crearlo”. Aquí hay cinco razones por las que Elon Musk teme a la inteligencia artificial: 1- Seguridad y control La seguridad y el control son preocupaciones que Elon Musk se ha pronunciado sobre la inteligencia artificial. Ha advertido que a medida que los sistemas de IA se vuelven más avanzados y autónomos, puede resultar difícil o incluso imposible de controlar para los humanos. Esta preocupación tiene sus raíces en la idea de que a medida que los sistemas de IA se vuelven más inteligentes y capaces, pueden comportarse de maneras inesperadas o indeseables. Por ejemplo, un sistema de IA diseñado para realizar una tarea específica, como controlar un dron, podría tomar decisiones dañinas o peligrosas si su programación no está diseñada para tener en cuenta todos los escenarios posibles. En el caso extremo, un sistema de IA diseñado para llevar a cabo una tarea específica podría volverse autónomo y operar más allá del control humano. Esto podría tener consecuencias no deseadas, como el desarrollo de armas autónomas que podrían usarse para causar daño o destrucción. Elon Musk ha pedido mayor cautela y transparencia en el desarrollo y despliegue de sistemas de IA, y la creación de mecanismos que garanticen que los sistemas de IA sigan alineados con los valores humanos. También ha pedido más investigación sobre la seguridad de la IA y el desarrollo de métodos para garantizar que los sistemas de IA permanezcan bajo control humano y no representen una amenaza para la humanidad. En general, la preocupación por la seguridad y el control es un reflejo de debates y discusiones más amplios sobre el futuro de la IA y su impacto en la sociedad. Si bien muchos expertos creen que la IA tiene el potencial de aportar importantes beneficios a la sociedad, también se reconoce que existen riesgos reales asociados con el desarrollo y la implementación de sistemas avanzados de IA, y que esos riesgos deben considerarse y gestionarse cuidadosamente. 2- Desplazamiento laboral El desplazamiento laboral es otra pesadilla de la IA para Elon Musk. Ha dicho que la IA podría provocar un importante desplazamiento de puestos de trabajo, a medida que las máquinas y los algoritmos sean capaces de realizar tareas que antes realizaban los humanos. Hoy en día, aplicaciones como ChatGPT están muy de moda y algunos dicen que podrían sustituir muchas tareas. Consulte este excelente curso sobre cómo aprovechar los beneficios de ChatGPT. A medida que los sistemas de IA se vuelvan más avanzados y capaces, podrán automatizar cada vez más tareas que antes realizaban los humanos. Esto podría provocar pérdidas generalizadas de empleos y otros impactos económicos, ya que los trabajadores son desplazados por máquinas y algoritmos. Elon Musk ha pedido que se tomen medidas proactivas para mitigar este impacto y garantizar que los trabajadores tengan las habilidades que necesitan para prosperar en la era de la IA. También ha pedido más investigación sobre los impactos sociales y económicos de la IA, y el desarrollo de políticas y programas que apoyen a los trabajadores en la transición a una economía más automatizada. 3- Sesgo y discriminación Elon Musk ha señalado que los sistemas de IA son tan imparciales como los datos con los que se entrenan. Si los datos utilizados para entrenar sistemas de IA contienen sesgos o imprecisiones, los algoritmos pueden amplificar y perpetuar estos sesgos. Esto podría conducir a una discriminación generalizada y otros resultados perjudiciales. Aquí hay un ejemplo: suponga que desarrolla un sistema de inteligencia artificial diseñado para ayudar a los agricultores a optimizar sus cultivos. El sistema de inteligencia artificial utiliza datos sobre patrones climáticos, condiciones del suelo y otros factores para predecir los mejores momentos para plantar y cosechar cultivos. El sistema está diseñado para ayudar a los agricultores a hacer un uso más eficiente de sus recursos y aumentar sus rendimientos. Sin embargo, una vez que se implementa el sistema de IA, queda claro que existen consecuencias no deseadas. El sistema de IA ha tomado algunas decisiones que están teniendo impactos negativos en el medio ambiente. Por ejemplo, ha recomendado el uso de ciertos pesticidas que son tóxicos para la vida silvestre, o ha alentado a los agricultores a plantar cultivos en áreas propensas a la erosión. 4- Consecuencias no deseadas Elon Musk ha advertido que a medida que los sistemas de IA se vuelven más complejos y autónomos, puede resultar difícil predecir su comportamiento y las consecuencias de sus acciones. Ha pedido mayor cautela y transparencia en el desarrollo y despliegue de sistemas de IA. Suponga que desarrolla un sistema de inteligencia artificial que la policía utilizará para ayudar a identificar posibles sospechosos en casos penales. El sistema de inteligencia artificial utiliza tecnología de reconocimiento facial y otras fuentes de datos para identificar a personas que pueden estar involucradas en actividades delictivas. El sistema está diseñado para ser una herramienta eficaz para la policía y ayudarla a resolver delitos más rápidamente. Sin embargo, una vez que se implementa el sistema de IA, queda claro que existen problemas con su precisión. El sistema de inteligencia artificial está cometiendo errores y, en algunos casos, identifica erróneamente a personas como sospechosas. Esto está causando graves daños a las personas acusadas injustamente y está socavando la confianza del público en la policía y en la tecnología misma. Este es un ejemplo de falta de responsabilidad, que es otra preocupación clave que Elon Musk ha expresado sobre la inteligencia artificial. A medida que los sistemas de IA se vuelven más avanzados y autónomos, resulta cada vez más difícil determinar quién es el responsable cuando algo sale mal. 5- Riesgo existencial Elon Musk también ha advertido que los sistemas avanzados de IA podrían suponer un riesgo existencial para la humanidad, si se volvieran hostiles o si se utilizaran para causar daño. Ha pedido una mayor investigación sobre la seguridad de la IA y el desarrollo de mecanismos para garantizar que los sistemas de IA sigan alineados con los valores humanos. Sin embargo, algunos críticos sostienen que Elon Musk exagera los peligros de la inteligencia artificial y que sus advertencias son exageradas. Sostienen que es poco probable que los sistemas de IA representen una amenaza existencial para la humanidad y que los beneficios de la IA superarán los riesgos. Otros argumentan que Elon Musk está mal informado sobre la naturaleza de la IA y sus capacidades. Sostienen que es poco probable que los sistemas de IA se vuelvan conscientes de sí mismos o desarrollen sus propias motivaciones, y que la probabilidad de que la IA represente una amenaza para la humanidad es baja. La próxima generación de programadores posiblemente será la que juzgue esto mejor. Aquí está mi publicación sobre 5 juegos para enseñar a nuestros hijos a programar. Relacionado Comparte en tu plataforma favorita
Etiqueta: seguridad
Google realiza revisiones de las aplicaciones enviadas a Play Store para garantizar que cumplan con las políticas de Google y no contengan código malicioso. Desafortunadamente, como hemos visto en el pasado, algunas aplicaciones pasan desapercibidas, lo que significa que cuando se descubren, puede que sea demasiado tarde. La buena noticia es que desde entonces Google ha anunciado una nueva iniciativa de Play Store que facilitará a los usuarios descubrir aplicaciones seguras. Esto se hará a través de una nueva insignia de “Revisión de seguridad independiente” para ciertas aplicaciones que cumplan con los estándares de seguridad y privacidad establecidos por la industria. Las aplicaciones que tienen esta insignia significa que han sido revisadas por MASA (Evaluación de seguridad de aplicaciones móviles) creada por App Defense Alliance (ADA) el año pasado. Según Google: “Esto indica a los usuarios que un tercero independiente ha validado que los desarrolladores diseñaron sus aplicaciones para cumplir con las mejores prácticas mínimas de privacidad y seguridad móvil de la industria y que los desarrolladores están haciendo un esfuerzo adicional para identificar y mitigar las vulnerabilidades. Esto, a su vez, dificulta que los atacantes lleguen a los dispositivos de los usuarios y mejora la calidad de las aplicaciones en todo el ecosistema”. Google señala que el hecho de que una aplicación tenga esta insignia no significa que esté libre de vulnerabilidades. Esto sería casi imposible porque los desarrolladores no pueden anticipar todos los escenarios, pero al menos los usuarios ahora podrán identificar fácilmente las aplicaciones cuyo desarrollador haya priorizado las prácticas de seguridad y privacidad. Fuente: Google
Este artículo patrocinado fue presentado por la Escuela de Ingeniería Tandon de la Universidad de Nueva York. En nuestra era digital, donde la información fluye sin problemas a través de la vasta red de Internet, no se puede subestimar la importancia de los datos cifrados. A medida que compartimos, comunicamos y almacenamos una cantidad cada vez mayor de información confidencial en línea, la necesidad de protegerla de miradas indiscretas y actores maliciosos se vuelve primordial. El cifrado actúa como guardián digital, colocando nuestros datos en una caja de seguridad de algoritmos que solo aquellos con la clave adecuada pueden desbloquear. Ya sean mensajes personales, datos de salud, transacciones financieras o comunicaciones comerciales confidenciales, el cifrado desempeña un papel fundamental en el mantenimiento de la privacidad y Garantizar la integridad de nuestras interacciones digitales. Normalmente, el cifrado de datos protege los datos en tránsito: se bloquean en un “contenedor” cifrado para su tránsito a través de redes potencialmente no seguras y luego la otra parte los desbloquea en el otro extremo para su análisis. Pero la subcontratación a un tercero es intrínsecamente insegura. Brandon Reagen, profesor asistente de Ciencias e Ingeniería Informática e Ingeniería Eléctrica e Informática en la Escuela de Ingeniería Tandon de la Universidad de Nueva York. Pero ¿qué pasaría si el cifrado no existiera sólo en tránsito y ¿Se sienta desprotegido en cualquiera de los extremos de la transmisión? ¿Qué pasaría si fuera posible hacer todo el trabajo de su computadora, desde aplicaciones básicas hasta algoritmos complicados, completamente encriptado, de principio a fin? Esa es la tarea que está asumiendo Brandon Reagen, profesor asistente de Ciencias de la Computación e Ingeniería y Electricidad e Informática. Ingeniería en la Escuela de Ingeniería Tandon de la Universidad de Nueva York. Reagen, que también es miembro del Centro de Ciberseguridad de la Universidad de Nueva York, centra su investigación en el diseño de aceleradores de hardware especializados para aplicaciones que incluyen la computación que preserva la privacidad. Y ahora, está demostrando que el futuro de la informática puede estar orientado hacia la privacidad y, al mismo tiempo, lograr enormes avances en el procesamiento de información y el diseño de hardware. Cifrado integral En un mundo donde las amenazas cibernéticas están en constante evolución y las filtraciones de datos son una preocupación constante, los datos cifrados actúa como un escudo contra el acceso no autorizado, el robo de identidad y otros delitos cibernéticos. Proporciona a personas, empresas y organizaciones una base segura sobre la cual pueden generar confianza en el ámbito digital. El objetivo de los investigadores de ciberseguridad es proteger sus datos de todo tipo de malos actores: ciberdelincuentes, empresas ávidas de datos, y gobiernos autoritarios. Y Reagen cree que la informática cifrada podría ser la respuesta. «Este tipo de cifrado puede brindarle tres cosas principales: seguridad mejorada, confidencialidad total y, a veces, control sobre cómo se utilizan sus datos», dice Reagen. “Es un nivel de privacidad totalmente nuevo”. “Mi objetivo es desarrollar formas de ejecutar aplicaciones costosas, por ejemplo, redes neuronales masivas, de manera rentable y eficiente, en cualquier lugar, desde servidores masivos hasta teléfonos inteligentes” —Brandon Reagen, NYU TandonFully homomorphic El cifrado (FHE), un tipo de cálculo que preserva la privacidad, ofrece una solución a este desafío. FHE permite el cálculo de datos cifrados, o texto cifrado, para mantener los datos protegidos en todo momento. Los beneficios de FHE son significativos, desde permitir el uso de redes no confiables hasta mejorar la privacidad de los datos. FHE es una técnica criptográfica avanzada, ampliamente considerada el «santo grial del cifrado», que permite a los usuarios procesar datos cifrados mientras los datos o los modelos permanecen cifrados, preservando la privacidad de los datos durante todo el proceso de cálculo de los datos, no solo durante el tránsito. Se han desarrollado soluciones FHE, pero ejecutar FHE en software en hardware de procesamiento estándar sigue siendo insostenible para aplicaciones prácticas de seguridad de datos debido a la enorme sobrecarga de procesamiento. Reagen y sus colegas han estado trabajando recientemente en un proyecto financiado por DARPA llamado programa de Protección de Datos en Entornos Virtuales (DPRIVE), que busca acelerar el cálculo FHE a niveles más utilizables. Específicamente, el programa busca desarrollar enfoques novedosos para el movimiento de datos. y gestión, procesamiento paralelo, unidades funcionales personalizadas, tecnología de compilación y métodos de verificación formales que garantizan que el diseño de la implementación de FHE sea eficaz y preciso, al tiempo que reducen drásticamente la penalización de rendimiento incurrida por los cálculos de FHE. El acelerador objetivo debería reducir la sobrecarga del tiempo de ejecución computacional en muchos órdenes de magnitud en comparación con los cálculos FHE actuales basados en software en CPU convencionales, y acelerar los cálculos FHE dentro de un orden de magnitud del rendimiento actual en datos no cifrados. El hardware promete privacidad, mientras que FHE tiene Aunque se ha demostrado que es posible, los investigadores todavía están desarrollando rápidamente el hardware necesario para que sea práctico. Reagen y su equipo lo están diseñando desde cero, incluyendo nuevos chips, rutas de datos, jerarquías de memoria y pilas de software para que todo funcione en conjunto. El equipo fue el primero en demostrar que los niveles extremos de aceleración necesarios para que la HE fuera factible eran posible. Y a principios del próximo año, comenzarán a fabricar sus prototipos para continuar con sus pruebas de campo. Reagen, quien obtuvo un doctorado en ciencias de la computación de Harvard en 2018 y una licenciatura en ingeniería de sistemas informáticos y matemáticas aplicadas de la Universidad de Massachusetts, Amherst, en 2012, se centró en la creación de aceleradores de hardware especializados para aplicaciones como el aprendizaje profundo. Estos aceleradores mejoran el hardware especializado que puede ser mucho más eficiente que las plataformas de propósito general como las CPU. Habilitar aceleradores requiere cambios en toda la pila informática y, para lograr este cambio, ha realizado varias contribuciones para reducir la barrera del uso de aceleradores como construcciones arquitectónicas generales, incluida la evaluación comparativa, la infraestructura de simulación y el diseño de sistema en un chip (SoC). «Mi objetivo es desarrollar formas de ejecutar aplicaciones costosas, por ejemplo, redes neuronales masivas, de manera rentable y eficiente, en cualquier lugar, desde servidores masivos hasta teléfonos inteligentes», dice. Antes de llegar a NYU Tandon, Reagen fue un ex científico investigador en Equipo de investigación de infraestructura de inteligencia artificial de Facebook, donde se involucró profundamente en el estudio de la privacidad. Esta combinación de una profunda experiencia en hardware informático de vanguardia y un compromiso con la seguridad digital lo convirtió en el candidato perfecto para NYU Tandon y el Centro de Ciberseguridad de NYU, que ha estado a la vanguardia de la investigación en ciberseguridad desde sus inicios. Los grandes problemas que tenemos en el mundo ahora mismo giran en torno a los datos. Consideremos la salud global derivada de la COVID: si tuviéramos mejores formas de computar el análisis de datos de salud global y compartir información sin exponer datos privados, podríamos haber podido responder a la crisis de manera más efectiva y más rápida” —Brandon Reagen, NYU TandonFor Reagen, Este es un momento emocionante en la historia de la computación que preserva la privacidad, un campo que tendrá enormes implicaciones para el futuro de los datos y la computación. “Soy optimista, creo que esto podría tener un impacto tan grande como el propio Internet”. dice Reagen. “Y la razón es que, si piensas en muchos de los grandes problemas que tenemos en el mundo en este momento, muchos de ellos giran en torno a los datos. Consideremos la salud global. Recién estamos saliendo de la COVID, y si tuviéramos mejores formas de computar el análisis de datos de salud globales y compartir información sin exponer datos privados, podríamos haber podido responder a la crisis de manera más efectiva y rápida. Si tuviéramos mejores formas de compartir datos sobre el cambio climático de todo el mundo, sin exponer lo que cada país, estado o ciudad estaba emitiendo en realidad, se podrían imaginar mejores formas de gestionar y combatir el cambio climático global. Estos problemas son, en gran parte, problemas de datos, y este tipo de software puede ayudarnos a resolverlos”. Artículos de su sitio Artículos relacionados en la Web
Source link
Samsung sigue siendo el OEM de Android más rápido en implementar actualizaciones (aparte del propio Google). La compañía lanzó versiones estables de One UI 6 basadas en Android 14 para la serie Samsung Galaxy S23. Con el lanzamiento, se están implementando muchas funciones nuevas. Entre las nuevas funciones que vienen con One UI 6, tenemos una nueva función que agrega una capa adicional de seguridad para los usuarios. La función Auto Blocker es una función opcional que protege su dispositivo Galaxy de una variedad de riesgos de seguridad. La función Samsung Auto Blocker llega con One UI 6 Cuando está habilitada, Auto Blocker puede proteger su dispositivo contra la carga lateral. Su objetivo es bloquear la instalación de fuentes no autorizadas. La función Auto Blocker también bloqueará aplicaciones de tiendas no autorizadas. Estas características harán que su experiencia sea más segura, protegiéndolo de instalar accidentalmente rastreadores o aplicaciones maliciosas mientras navega por la aplicación. Acerca de la descarga de aplicaciones en Android: la descarga de aplicaciones en dispositivos Android también es relativamente sencilla. El usuario primero descarga el archivo de la aplicación al dispositivo. Luego, el usuario toca el archivo para instalarlo, momento en el que se le solicita que confíe en la fuente de la aplicación. Una vez que se ha confiado en la fuente, el proceso de instalación de la aplicación continúa. A veces es posible que desees descargar una aplicación. Sin embargo, también existen algunas aplicaciones maliciosas que intentan engañar a los usuarios. Algunas aplicaciones maliciosas están ocultas y, si no prestas mucha atención, las instalarás solo para descubrir más tarde que algo anda mal en tu dispositivo. Hay algunas aplicaciones maliciosas que siguen publicando anuncios en su pantalla y otras que llegan a su teléfono solo para rastrear sus datos. La nueva función de Samsung tiene como objetivo bloquear estas aplicaciones, haciendo que tu navegación sea más segura. Noticias de la semana de Gizchina Lo único que necesita saber es que el Auto Blocker debe estar habilitado específicamente. La función también aplicará controles de seguridad de las aplicaciones, detectando malware potencial y previniendo comandos dañinos. También protegerá contra instalaciones dañinas a través de USB, especialmente importante si utiliza un cable USB público para cargar su teléfono. Auto Blocker también actualiza Message Guard, el servicio que mitiga los ataques Zero Click o mensajes de imágenes directas con código malicioso. El Auto Blocker es parte de One UI 6 y, para habilitarlo, solo necesita buscarlo en Configuración. Cómo habilitar Auto Blocker en One UI 6 Una vez que haya actualizado su teléfono inteligente a One UI 6 y desee experimentar la nueva función Auto Blocker. El proceso para habilitarlo es sencillo. Abra la aplicación Configuración y haga clic en la barra de búsqueda. Escriba Auto Blocker y la opción aparecerá rápidamente en su pantalla. Haga clic en Alternar para habilitar el bloqueador automático. La protección de aplicaciones de mensajería y el bloqueo de instalaciones de software a través de USB son dos configuraciones opcionales. Puedes desactivarlos fácilmente si no quieres que Auto Blocker vaya más allá de su principio básico. Sin embargo, dependiendo de su uso, recomendamos mantener estas funciones de seguridad habilitadas. Hablando sobre la nueva característica, el Dr. Seungwon Shin, vicepresidente ejecutivo y jefe del equipo de seguridad de Mobile eXperience Business, afirma: “En Samsung nos esforzamos constantemente por mantener a nuestros usuarios a salvo de ataques de seguridad. Con la introducción de Auto Blocker, los usuarios pueden seguir disfrutando de los beneficios de nuestro ecosistema abierto, sabiendo que su experiencia móvil está asegurada”. Siempre buscamos capacitar a nuestros usuarios para que elijan por sí mismos lo que mejor se adapte a sus necesidades, en lugar de que nosotros decidamos por ellos. Auto Blocker no es una excepción a eso”. Conclusión El nuevo Auto Blocker muestra el esfuerzo de Samsung por hacer que One UI sea más seguro para sus usuarios. Puede proteger a sus usuarios de que sus teléfonos inteligentes sean invadidos por atacantes maliciosos. Si no planea descargar aplicaciones, le recomendamos encarecidamente que mantenga esta función habilitada.