Mes: julio 2024 Página 13 de 357

OpenAICuando OpenAI celebró su evento de lanzamiento de primavera en mayo, uno de los aspectos más destacados fue su demostración del nuevo modo de voz en ChatGPT, potenciado con las nuevas capacidades de audio y video de GPT-4o. El nuevo y muy esperado modo de voz finalmente está aquí (o algo así). Además: Los mejores chatbots de IA de 2024: ChatGPT, Copilot y alternativas dignasEl martes, OpenAI anunció a través de una publicación en X que el modo de voz se está implementando en versión alfa para un pequeño grupo de usuarios de ChatGPT Plus, ofreciéndoles un asistente de voz más inteligente que puede ser interrumpido y responder a las emociones de los usuarios. Estamos comenzando a implementar el modo de voz avanzado para un pequeño grupo de usuarios de ChatGPT Plus. El modo de voz avanzado ofrece conversaciones más naturales y en tiempo real, le permite interrumpir en cualquier momento y detecta y responde a sus emociones. pic.twitter.com/64O94EhhXK— OpenAI (@OpenAI) 30 de julio de 2024 Los usuarios que participen en la versión alfa recibirán un correo electrónico con instrucciones y un mensaje en la aplicación móvil, como se muestra en el video de arriba. Si aún no has recibido una notificación, no te preocupes. OpenAI compartió que seguirá añadiendo usuarios de forma continua, con el plan de que todos los usuarios de ChatGPT Plus accedan a él en otoño. En la demostración original en el evento de lanzamiento, que se muestra a continuación, la empresa mostró las capacidades multimodales del Modo de Voz, incluida la asistencia con el contenido en las pantallas de los usuarios y el uso de la cámara del teléfono del usuario como contexto para una respuesta. Sin embargo, la versión alfa del Modo de Voz no tendrá estas funciones. OpenAI compartió que «las capacidades de video y uso compartido de pantalla se lanzarán en una fecha posterior». La empresa también dijo que desde que demostró originalmente la tecnología, ha mejorado la calidad y la seguridad de las conversaciones de voz. OpenAI probó las capacidades de voz con más de 100 miembros externos del equipo rojo en 45 idiomas, según el hilo X. La compañía también entrenó al modelo para que hable solo en las cuatro voces preestablecidas, bloquee las salidas que se desvíen de esas voces designadas e implemente barandillas para bloquear las solicitudes. La compañía también dijo que se tendrán en cuenta los comentarios de los usuarios para mejorar aún más el modelo, y compartirá un informe detallado sobre el rendimiento de GPT-4os, incluidas las limitaciones y las evaluaciones de seguridad, en agosto. Además: las herramientas de inteligencia artificial de nueva generación de Google ayudan a hiperorientar sus campañas publicitarias Puede convertirse en un suscriptor de ChatGPT Plus por $ 20 por mes. Otros beneficios de la membresía incluyen funciones avanzadas de análisis de datos, generación de imágenes, acceso prioritario a GPT-4o y más. Una semana después de que OpenAI revelara esta función, Google reveló una función similar llamada Gemini Live. Sin embargo, Gemini Live aún no está disponible para los usuarios. Eso puede cambiar pronto en el evento Made by Google que se realizará en unas pocas semanas.

Llegar a la cima de una industria conlleva nuevas presiones; después de todo, un gran poder conlleva una gran responsabilidad. En el caso del director de seguridad de la información (CISO), este aparentemente sería el rol definitivo al que muchos aspirarían: puede permitir el control presupuestario, la creación de políticas y estrategias, la gestión de personas y, potencialmente, un puesto en el consejo. Sin embargo, cuando llegas allí, ¿a quién le pides ayuda? ¿Quién te guía hasta el puesto más alto y te aconseja cuando llegas allí? ¿A quién le pides consejo sobre qué hacer, especialmente en caso de incidente? Estas preguntas me vinieron a la mente mientras escuchaba al ex CISO de Uber Joe Sullivan hablar en la conferencia Black Hat Europe el pasado diciembre, cuando dijo que los profesionales aspirantes a menudo lo contactan para pedirle orientación cuando solicitan empleos. Después de todo, un profesional de la seguridad con la experiencia de una de las mayores infracciones de todos los tiempos, incluido el trato con la Comisión Federal de Comercio y el despido del CEO, debería ser una buena caja de resonancia para saber qué funciona y qué no. EspañolPequeña libreta negra de seguidores Sin embargo, no todos los aspirantes a CISO tienen el número de móvil de Sullivan, así que ¿estamos proporcionando suficiente apoyo e incluso oportunidades de tutoría a quienes dan sus pasos hacia el puesto más alto? Jitender Arora, CISO de Deloitte, ha compartido sus pensamientos sobre la progresión profesional en una serie de publicaciones de LinkedIn y, con una carrera en liderazgo de seguridad dentro de los servicios financieros, añade que también se le acercan personas que quieren ser CISO. En declaraciones a Computer Weekly, Arora compara el papel de CISO con el de un atleta que entrena todo el año para adquirir las habilidades, la fuerza y ​​la resistencia mental necesarias para pasar por una competición. «En un trabajo de CISO, esa prueba puede suceder mañana o en dos años, pero tienes que estar preparado para liderar a la gente y liderar la función, pero ser capaz de manejar el estrés que conlleva», dice. En última instancia, ser un líder de seguridad no se trata solo de aprender habilidades de seguridad, sino también habilidades para la vida y el hecho de que «no hay dos días iguales y trae consigo mucho estrés». Arora dice que esto se reduce a la preparación, cómo vas a estar (física y mentalmente) y cómo te vas a cuidar a ti mismo para poder cuidar a todos los que te rodean. Esto nos lleva al punto de a quién preguntar cuando las cosas no van bien y necesitas buscar consejo. Arora dice que se ha inspirado en las personas en las que ha trabajado, y puedes encontrar líderes que te inspiran en la forma en que hablan y explican algo. «La inspiración está a nuestro alrededor, y debemos tomar nota de la inspiración», dice. Señala que oirás algo dicho o tendrás una experiencia, ya sea buena o mala, y puedes diseccionarlo después para entender lo que se hizo y se dijo para entender qué se aprendió de eso y en base a lo cual puedes actuar. Construir relaciones Bronwyn Boyle, CISO en PPRO, admite que ha sido «muy afortunada» trabajando en varios roles de riesgo y seguridad de servicios financieros, y lo atribuye a poder construir relaciones con personas con las que ha trabajado de cerca. «Siempre estás aprendiendo de quienes vinieron antes que tú. «Es muy tranquilizador tener esa opción disponible», dice, admitiendo que también está dispuesta a transmitir conocimientos. En su carrera hasta ahora, Boyle dice que una de las cosas más positivas sobre la industria de la seguridad cibernética es que la comunidad de CISO es muy solidaria, y señala a varios mentores que la han ayudado. Siempre estás aprendiendo de quienes vinieron antes que tú. Es muy tranquilizador tener esa opción disponible Bronwyn Boyle, PPRO «Creo que es muchísimo para los nuevos CISO entender, y tener personas dispuestas a brindarte apoyo, ya sea como respaldo para brindar orientación y ser una caja de resonancia, es absolutamente invaluable», dice. «Estoy muy interesada en devolver el favor, así que he ayudado a los nuevos CISO en lo que funcionó para mí y lo que no funcionó». Boyle admite que cada persona tiene sus propias experiencias individuales, pero hay temas temáticos en los que escuchar voces, opiniones y perspectivas es realmente útil. Como dice Arora, habrá situaciones para las que no te puedas preparar, y Boyle habla sobre cómo lidiar con un ciberataque en un rol anterior de CISO: dice que, independientemente de lo que hayas intentado planificar con anticipación, puedes terminar en situaciones en las que estés preparado y otras en las que los eventos pueden suceder simultáneamente, lo que podría ser bastante abrumador. CISO experimentados Con esto en mente, es importante considerar a quién recurres cuando las cosas van mal, suponiendo que cuando llegues al puesto de CISO, no te den una libreta negra de contactos, tanto desde una perspectiva de liderazgo como a quién recurrir cuando necesites ayuda. Aquellos líderes que se han abierto camino en las filas y han tenido la oportunidad de trabajar con CISO más experimentados, serán los más endurecidos y podrán sobrevivir a un incidente. Lisa Ventura, fundadora de Cyber ​​Security Unity, dice que tener un CISO experimentado como mentor puede pagar dividendos, ya que son una mina de oro de experiencia y conocimiento: «Muchos CISO a menudo también tienen un entrenador ejecutivo y tener uno puede ayudarlos a desarrollar habilidades de liderazgo y comunicación. Estos son cruciales para navegar en la sala de juntas y poder interactuar con la alta gerencia”. Ventura agrega que un CISO exitoso cultivará una red de asesores de confianza y aprovechará la experiencia de mentores, pares y expertos de la industria: “Esto los ayudará a navegar por las complejidades de su función y tomar decisiones informadas que mantengan seguras a sus organizaciones”. Boyle dice que los mentores pueden ayudar con las preguntas comunes que tendrá en sus primeros roles. En última instancia, si hay una brecha donde las personas necesitan asesoramiento, y existe la sensación de que ser visto pidiendo ayuda es un signo de debilidad, debemos reducir eso asegurando que haya tutoría y apoyo. Boyle citó los grupos sociales de CISO, donde se pueden mantener conversaciones y las personas nuevas en su vertical de la industria pueden hacer nuevas conexiones y obtener asesoramiento. “Para los incidentes cibernéticos que afectan a varias organizaciones, la comunidad de seguridad suele ser una fuente invaluable de asesoramiento y apoyo”, dice. “Lo vi durante Log4Shell y nuevamente con el reciente ataque a ThreatViewer”. Otro lugar donde se puede obtener orientación y tutoría es a través de espacios seguros. Thomas Odams es director ejecutivo de RANT Communities, que ofrece eventos de Chatham House Rule. Dice que trabajar en ciberseguridad, especialmente en un puesto de liderazgo, es un puesto solitario en muchas empresas. “Cuando se tiene la tarea de mantener las joyas de la corona a salvo y ser consciente de las vulnerabilidades y los riesgos, encontrar un espacio seguro para compartir las mejores prácticas y, lo que es más importante, el espíritu de equipo con personas que desempeñan funciones similares en otras organizaciones, es esencial para sobrevivir y prosperar en esta industria”, dice. Agrega que la actitud de saber que no estás solo con este problema, acompañada de una oleada de alivio, es una reacción común después de compartir estas experiencias. Odams dice que siempre se ha defendido el “intercambio honesto, abierto e informal entre nuestros miembros”, y sus eventos suelen contar con el apoyo de nuestra comunidad de CISO, que recomienda a los miembros de su equipo que participen en eventos específicos con temas relevantes para sus proyectos actuales, lo que les permite beneficiarse de la sabiduría colectiva de sus pares experimentados. No muestres signos de debilidad Arora dice que nunca se ha encontrado con “una sola persona que haya dicho que no” cuando le pides consejo, ya que “están muy felices de compartir su sabiduría, ya que tienen un ángulo tan amplio y una visión diversa, y saben lo que es bueno”. Arora reconoce que el problema de pedir ayuda se considera un signo de debilidad, y existe un miedo persistente de que si pides ayuda, “quedarás expuesto porque se activa el síndrome del impostor”. Dice que pedir consejo y ayuda debería ser un esfuerzo honorable, y que la gente tiene miedo de pedir ayuda como de pedir retroalimentación, pero eso es parte de ser un CISO. No se trata de no saber, se trata de aprender. Añade que es por eso que se sintió impulsado a compartir consejos en LinkedIn, ya que la gente no habla de cosas fundamentales. “Todo el mundo lucha; no me digas que un CEO de una empresa de Fortune 500 no tiene sus signos de debilidad y dice: ‘Solo espero no haber cometido un error y haber tomado una decisión que le costará a esta empresa una cantidad significativa de dinero’”. La creación de redes es una parte fundamental de cualquier carrera y es importante ofrecer apoyo y que las comunidades sean abiertas y acogedoras. Con este factor humano abierto y preparado para ofrecer asesoramiento, podríamos intentar superar algunos de los problemas más comunes en la estrategia de ciberseguridad: ¿qué hacer cuando sucede lo peor?

La administración Biden emitió el martes un informe de inteligencia artificial en el que dijo que no “restringiría inmediatamente la amplia disponibilidad de pesos de modelos abiertos”. [numerical parameters that help determine a model’s response to inputs] El informe, que fue publicado oficialmente por la Administración Nacional de Telecomunicaciones e Información (NTIA) del Departamento de Comercio de Estados Unidos, se centró ampliamente en los pros y los contras de un modelo de base de doble uso, que definió como un modelo de IA que “se entrena con datos amplios; generalmente utiliza autosupervisión; contiene al menos decenas de miles de millones de parámetros; es aplicable en una amplia gama de contextos; y que muestra, o podría modificarse fácilmente para mostrar, altos niveles de desempeño en tareas que plantean un riesgo grave para la seguridad, la seguridad económica nacional, la salud pública nacional o la seguridad, o cualquier combinación de esos asuntos”. La amplia disponibilidad de modelos de IA “podría plantear una variedad de riesgos y beneficios marginales. Pero los modelos están evolucionando demasiado rápido, y la extrapolación basada en las capacidades y limitaciones actuales es demasiado difícil para concluir si los modelos de base abiertos plantean más riesgos marginales que beneficios”, decía el informe. “Por ejemplo”, decía, “¿cuánto reducen los pesos de los modelos abiertos la barrera de entrada para la síntesis, difusión y uso de material CBRN (químico, biológico, radiológico o nuclear)? ¿Los pesos de los modelos abiertos impulsan la investigación de seguridad más de lo que introducen nuevos riesgos de mal uso o control? ¿Refuerzan los ciberataques ofensivos más que impulsan la investigación de ciberdefensa? ¿Permiten más discriminación en los sistemas posteriores que promueven la investigación de sesgos? ¿Y cómo sopesamos estas consideraciones frente a la introducción y difusión de contenido CSAM (material de abuso sexual infantil) / NCII (imágenes íntimas no consensuadas)?” Reacciones mixtas Los ejecutivos de la industria tuvieron reacciones mixtas a la noticia, aplaudiendo la falta de restricciones inmediatas pero expresando preocupaciones de que el informe no descartara tales restricciones en el corto plazo. Yashin Manraj, el director ejecutivo de Pvotal, con sede en Oregón, dijo que había amplios temores en la industria antes de que se publicara el informe final de que Estados Unidos intentara restringir el desarrollo de IA de alguna manera. También se habló dentro de la comunidad inversora de que las operaciones de desarrollo de IA podrían tener que reubicarse fuera de Estados Unidos si se anunciaban regulaciones. Pvotal opera en nueve países. “Los inversores de capital riesgo ya no nos presionan” para trasladar el desarrollo de la IA a entornos más favorables a la IA, como Dubái, dijo Manraj, pero hubiera preferido haber visto una promesa a más largo plazo de que no habría más regulación. “Fue el paso correcto no implementar ningún tipo de acción ejecutable a corto plazo, pero no hay una promesa clara y definitiva. No sabemos qué pasará en tres meses”, dijo Manraj. “Al menos no tenemos que hacer ningún cambio drástico ahora, pero hay un poco de preocupación sobre cómo irán las cosas. Hubiera sido bueno haber tenido esa claridad”. Otro ejecutivo de IA, Hamza Tahir, director de tecnología de ZenML, dijo: “El informe hizo un buen trabajo al reconocer los peligros que la IA podría causar, al tiempo que se equivocaba por el lado de la no regulación y la apertura. Fue una respuesta prudente y racional, un enfoque sensato. No tienen la experiencia en este momento”. Problemas para los desarrolladores El informe se centró en el nivel de control que tienen los codificadores al desarrollar modelos de IA generativos. “Los desarrolladores que publican los pesos de los modelos renuncian al control y la visibilidad de las acciones de sus usuarios finales. No pueden rescindir el acceso a los pesos ni moderar el uso de los modelos. Aunque los pesos podrían eliminarse de las plataformas de distribución, como Hugging Face, una vez que los usuarios los hayan descargado, pueden compartirlos por otros medios”, decía. El informe señalaba que los modelos básicos de doble uso pueden ser beneficiosos, ya que “diversifican y amplían la gama de actores, incluidos los actores con menos recursos, que participan en la I+D de IA. Descentralizan el control del mercado de IA de unos pocos grandes desarrolladores de IA. Y permiten a los usuarios aprovechar los modelos sin compartir datos con terceros, lo que aumenta la confidencialidad y la protección de los datos”. ¿Por qué no hay nuevas regulaciones? Una de las razones que cita el informe para no imponer, al menos inicialmente, nuevas cargas regulatorias al desarrollo de IA es que la investigación hasta la fecha simplemente no ha sido muy concluyente, ya que se llevó a cabo en modelos ya publicados. “La evidencia de esta investigación proporciona una línea de base con la que medir los riesgos y beneficios marginales, pero no puede medir de manera preventiva los riesgos y beneficios introducidos por la amplia difusión de un modelo futuro”, afirma el informe. “Puede proporcionar relativamente poco respaldo para los riesgos y beneficios marginales de futuras publicaciones de modelos de base de doble uso con ponderaciones de modelo ampliamente disponibles. Sin cambios en las capacidades de investigación y monitoreo, esta dinámica puede persistir. Cualquier evidencia de riesgos que justifique posibles intervenciones de políticas para restringir la disponibilidad de ponderaciones de modelos podría surgir solo después de que esos modelos de IA, cerrados o abiertos, hayan sido publicados”. Agregó que muchos modelos de IA con ponderaciones de modelo ampliamente disponibles tienen menos de 10 mil millones de parámetros, por lo que estaban fuera del alcance del informe según se define en la Orden Ejecutiva de 2023. “Los avances en la arquitectura de modelos o las técnicas de entrenamiento pueden llevar a que modelos que antes requerían más de 10 mil millones de parámetros se igualen en capacidades y desempeño con modelos más nuevos con menos de 10 mil millones de parámetros”, señaló el informe. “Además, a medida que la ciencia avanza, es posible que esta dinámica se acelere, y que el número de parámetros necesarios para las capacidades avanzadas disminuya de manera constante”. El informe también advirtió que dichos modelos “podrían exacerbar plausiblemente los riesgos que los modelos de IA plantean a la seguridad pública al permitir que una gama más amplia de actores, incluidos usuarios irresponsables y maliciosos, aprovechen las capacidades existentes de estos modelos y las aumenten para crear sistemas más peligrosos. Por ejemplo, incluso si el modelo original tiene salvaguardas incorporadas para prohibir ciertos avisos que pueden dañar la seguridad pública, como filtros de contenido, listas de bloqueo y escudos de avisos, el acceso directo al peso del modelo puede permitir a las personas eliminar estas características de seguridad”. Amenazas a la seguridad pública También despertó a los lectores con un subtítulo que decía: “Amenazas químicas, biológicas, radiológicas o nucleares a la seguridad pública”. Esa sección señaló que las herramientas de diseño biológico (BDT) “que superan el umbral de parámetros recién están comenzando a aparecer. Las BDT suficientemente capaces de cualquier escala deben discutirse junto con los modelos de base de doble uso debido a su riesgo potencial para la creación de armas biológicas y químicas”. “Algunos expertos han argumentado que la distribución indiscriminada e imposible de rastrear, exclusiva de los pesos de los modelos abiertos, crea el potencial de permitir la actividad química, biológica, radiológica o nuclear (CBRN) entre los malos actores, especialmente a medida que los modelos de base aumentan sus capacidades multimodales y se convierten en mejores asistentes de laboratorio”, afirma el informe. Implicaciones internacionales El informe también advierte contra otros países que toman sus propias medidas, especialmente si esas reglas contradicen las reglas de otras regiones. “Las inconsistencias en los enfoques de la apertura de los modelos también pueden dividir Internet en silos digitales, lo que provoca un escenario de ‘red fragmentada’. Si un estado decide prohibir los pesos de los modelos abiertos pero otros, como Estados Unidos, no lo hacen, las naciones restrictivas deben, de alguna manera, impedir que sus ciudadanos accedan a los modelos publicados en otros lugares”, afirma el informe. “Dado que los desarrolladores suelen publicar los pesos de los modelos abiertos en línea, los países que opten por aplicar medidas más estrictas tendrán que restringir ciertos sitios web, ya que los sitios web de algunos países alojarían modelos abiertos y otros no”. Afirma que existen preocupaciones especiales sobre las naciones hostiles a la política estadounidense. “Los actores podrían experimentar con modelos básicos para avanzar en la I+D para una gran cantidad de aplicaciones militares y de inteligencia, incluidas la detección de señales, el reconocimiento de objetivos, el procesamiento de datos, la toma de decisiones estratégicas, la simulación de combate, el transporte, los bloqueos de señales, los sistemas de coordinación de armas y los enjambres de drones”, señala el informe. “Los modelos abiertos podrían potencialmente impulsar estas iniciativas de investigación, permitiendo a los actores extranjeros innovar sobre la base de los modelos estadounidenses y descubrir conocimientos técnicos cruciales para construir modelos de doble uso”.