Es probable que el gasto mundial en TI crezca un 8% hasta los 5,06 billones de dólares este año, según el pronóstico de gasto en TI de Gartner para 2024. Los sistemas y software de centros de datos son los segmentos que se espera que impulsen más ese crecimiento. Gartner hizo sus predicciones analizando las ventas de productos y servicios de TI en los segmentos de hardware, software, servicios de TI y telecomunicaciones. La firma de analistas investiga a más de 1000 proveedores y mantiene una base de datos trimestral con datos sobre el tamaño del mercado. Los planes de IA generativa impulsan a TI a reforzar los servicios de centros de datos. Se prevé que la cantidad de dinero gastada en servicios de centros de datos aumentará un 10% a 260 mil millones de dólares desde 236 mil millones de dólares en 2024 (Figura A). Muchas empresas con las que Gartner ha hablado dicen que planean implementar productos, servicios y casos de uso de IA generativa en 2025, lo que requiere un mayor gasto en centros de datos. Gartner experimentó un crecimiento interanual del 10% en el gasto en centros de datos. Figura A Gartner predice que el gasto mundial en TI en sistemas de centros de datos será el que más se acelerará en comparación con todos los segmentos que sigue la empresa. Imagen: Gartner “También hay un gasto al nivel de la fiebre del oro por parte de los proveedores de servicios en los mercados que respaldan proyectos GenAI a gran escala, como servidores y semiconductores”, afirmó en el comunicado de prensa John-David Lovelock, distinguido vicepresidente analista de Gartner. Cobertura CXO de lectura obligada El gasto en dispositivos móviles se recupera en ciclos generacionales cortos. Si bien el gasto en centros de datos aumentó, el gasto en dispositivos cayó en 2023 y se recuperó ligeramente de $ 664 mil millones a $ 688 mil millones en 2024, lo que muestra un crecimiento del 3,6 %. La causa del crecimiento podría ser, en cambio, un ciclo de actualización acelerado, en el que más empresas telefónicas y consumidores reemplazan los teléfonos más rápidamente. «Las empresas y los consumidores estaban felices de conservar sus dispositivos por más tiempo, reduciendo la cantidad de dispositivos comprados incluso al año simplemente como reemplazo de los dispositivos que poseen actualmente», dijo Lovelock a TechRepublic por correo electrónico. «2024 marca un año de cambio y las ventas de dispositivos están aumentando con respecto al año anterior». La inclusión de IA generativa en algunas marcas de teléfonos no está detrás de este cambio, pero lo «sostiene», señaló Gartner. «Las funciones de inteligencia artificial (chips NPU y TPU) integradas en los teléfonos inteligentes y las PC son insuficientes para que las empresas y los consumidores actualicen sus dispositivos», dijo Lovelock a TechRepublic. «Sin una aplicación innovadora que se ejecute de forma nativa en el dispositivo y requiera capacidad de IA, es bueno tener capacidad de IA que ayudará a sostener los reemplazos y actualizaciones sin necesidad de ellas». La contratación de dinero gira hacia empresas de servicios de TI Por primera vez que Gartner lo ha visto, se está gastando más dinero en empresas de consultoría que en personal interno de TI, dijo Lovelock. Esto se debe a que “las empresas se están quedando rápidamente atrás de las empresas de servicios de TI en términos de atraer talento con habilidades clave de TI”, se cita a Lovelock en el comunicado de prensa. “Esto crea una mayor necesidad de inversión en consultoría en comparación con el personal interno. VER: En Australia y Nueva Zelanda, el crecimiento del gasto en TI estará impulsado por la ciberseguridad, la nube y los datos, descubrió Gartner. «Con el gasto en servicios de TI en camino de crecer un 9,7% para eclipsar los 1,52 billones de dólares, esta categoría está en camino de convertirse en el mercado más grande seguido por Gartner», dijo Lovelock en el comunicado de prensa. Tendencias de gasto en software y servicios de comunicaciones Los otros segmentos en el pronóstico de gasto en TI según el seguimiento de Gartner, y su crecimiento previsto en 2024 son: Software, 13,9%. Servicios de comunicaciones, 4,3%.
Etiqueta: Garner
Puede parecer que la tendencia de la IA sigue una trayectoria de publicidad y adopción similar a la de tendencias tecnológicas empresariales anteriores, como la nube y el aprendizaje automático, aunque es diferente en aspectos importantes, entre ellos: La IA requiere enormes cantidades de computación para los procesos que le permiten digerir y recrear datos no estructurados. La IA está cambiando la forma en que algunas organizaciones ven la estructura organizacional y las carreras. El contenido de IA que puede confundirse con fotografías u obras de arte originales está sacudiendo el mundo artístico y algunos temen que pueda usarse para influir en las elecciones. Aquí están nuestras predicciones para cinco tendencias en IA, que a menudo se refieren a modelos generativos, a las que debemos estar atentos en 2024. La adopción de IA parece cada vez más una integración con aplicaciones existentes. Muchos casos de uso de IA generativa que llegan al mercado para empresas y negocios se integran con aplicaciones existentes. en lugar de crear casos de uso completamente nuevos. El ejemplo más destacado de esto es la proliferación de copilotos, es decir, asistentes de IA generativa. Microsoft ha instalado copilotos junto a las ofertas de la suite 365, y empresas como SoftServe y muchas otras proporcionan copilotos para trabajos y mantenimiento industriales. Google ofrece una variedad de copilotos para todo, desde la creación de videos hasta la seguridad. Pero todos estos copilotos están diseñados para examinar el contenido existente o crear contenido que se parezca más a lo que un humano escribiría para trabajar. VER: ¿Google Gemini o ChatGPT son mejores para el trabajo? (TechRepublic) Incluso IBM pidió una revisión de la realidad sobre la tecnología de moda y señaló que herramientas como Smart Compose 2018 de Google son técnicamente «generativas», pero no se consideraron un cambio en la forma en que trabajamos. Una diferencia importante entre Smart Compose y la IA generativa contemporánea es que algunos modelos de IA actuales son multimodales, lo que significa que pueden crear e interpretar imágenes, vídeos y gráficos. “Yo diría que veremos mucha innovación al respecto (multimodalidad) en 2024”, dijo Arun Chandrasekaran, distinguido vicepresidente y analista de Gartner, en una conversación con TechRepublic. En NVIDIA GTC 2024, muchas empresas emergentes en la feria ejecutaron chatbots en los grandes modelos de lenguaje de Mistral AI, ya que los modelos abiertos se pueden usar para crear IA entrenada personalizada con acceso a los datos de la empresa. El uso de datos de capacitación patentados permite a la IA responder preguntas sobre productos, procesos industriales o servicios al cliente específicos sin necesidad de introducir información patentada de la empresa en un modelo capacitado que podría publicar esos datos en la Internet pública. Hay muchos otros modelos abiertos para texto y video, incluido Meta’s Llama 2, el conjunto de modelos de Stability AI, que incluye Stable LM y Stable Diffusion, y la familia Falcon del Instituto de Innovación Tecnológica de Abu Dhabi. «Existe un gran interés en llevar datos empresariales a los LLM como una forma de fundamentar los modelos y agregar contexto», dijo Chandrasekaran. La personalización de modelos abiertos se puede realizar de varias maneras, incluida la ingeniería rápida, la generación con recuperación aumentada y el ajuste fino. Agentes de IA Otra forma en que la IA podría integrarse más con las aplicaciones existentes en 2024 es a través de agentes de IA, que Chandrasekaran llamó “una bifurcación” en el progreso de la IA. Los agentes de IA automatizan las tareas de otros robots de IA, lo que significa que el usuario no tiene que solicitar modelos individuales específicamente; en cambio, pueden proporcionar una instrucción en lenguaje natural al agente, lo que esencialmente pone a su equipo a trabajar reuniendo los diferentes comandos necesarios para llevar a cabo la instrucción. El vicepresidente senior de Intel y director general de Network and Edge Group, Sachin Katti, también se refirió a los agentes de IA y sugirió en una sesión informativa previa a la conferencia Intel Vision celebrada del 9 al 11 de abril que la IA que delegue el trabajo entre sí podría realizar las tareas de departamentos enteros. . La generación de recuperación aumentada domina la IA empresarial La generación de recuperación aumentada permite a un LLM comparar sus respuestas con una fuente externa antes de proporcionar una respuesta. Por ejemplo, la IA puede comparar su respuesta con un manual técnico y proporcionar a los usuarios notas a pie de página que tienen enlaces directos al manual. RAG está destinado a aumentar la precisión y disminuir las alucinaciones. RAG proporciona a las organizaciones una forma de mejorar la precisión de los modelos de IA sin que la factura se dispare. RAG produce resultados más precisos en comparación con otras formas comunes de agregar datos empresariales a los LLM, ingeniería rápida y ajustes. Es un tema candente en 2024 y es probable que continúe siéndolo más adelante este año. Más cobertura de IA de lectura obligada Las organizaciones expresan silenciosas preocupaciones sobre la sostenibilidad. La IA se utiliza para crear modelos climáticos y meteorológicos que predicen eventos desastrosos. Al mismo tiempo, la IA generativa consume mucha energía y recursos en comparación con la informática convencional. ¿Qué significa esto para las tendencias de la IA? De manera optimista, la conciencia de los procesos que consumen mucha energía alentará a las empresas a fabricar hardware más eficiente para ejecutarlos o adaptar su uso. De manera menos optimista, las cargas de trabajo de IA generativa pueden seguir consumiendo enormes cantidades de electricidad y agua. De cualquier manera, la IA generativa puede convertirse en un tema que contribuya a los debates nacionales sobre el uso de la energía y la resiliencia de la red. La regulación de la IA ahora se centra principalmente en casos de uso, pero en el futuro, su uso de energía también puede estar sujeto a regulaciones específicas. Los gigantes tecnológicos abordan la sostenibilidad a su manera, como la compra de energía solar y eólica por parte de Google en determinadas regiones. Por ejemplo, NVIDIA promocionó el ahorro de energía en los centros de datos sin dejar de ejecutar IA mediante el uso de menos bastidores de servidores con GPU más potentes. El uso de energía de los centros de datos y chips de IA Los 100.000 servidores de IA que se espera que NVIDIA envíe a los clientes este año podrían producir entre 5,7 y 8,9 TWh de electricidad al año, una fracción de la electricidad que se utiliza en los centros de datos hoy en día. Esto es según un artículo del candidato a doctorado Alex de Vries publicado en octubre de 2023. Pero si NVIDIA por sí sola agrega 1,5 millones de servidores de IA a la red para 2027, como especula el artículo, los servidores usarían entre 85,4 y 134,0 TWh por año, lo que es un impacto mucho más grave. Otro estudio encontró que la creación de 1000 imágenes con Stable Diffusion XL genera aproximadamente tanto dióxido de carbono como conducir 4,1 millas en un automóvil promedio de gasolina. «Descubrimos que las arquitecturas generativas multipropósito son órdenes de magnitud más caras que los sistemas de tareas específicas para una variedad de tareas, incluso cuando se controla el número de parámetros del modelo», escribieron los investigadores Alexandra Sasha Luccioni y Yacine Jernite de Hugging. Face y Emma Strubell de la Universidad Carnegie Mellon. En la revista Nature, la investigadora de inteligencia artificial de Microsoft, Kate Crawford, señaló que el entrenamiento del GPT-4 utilizó alrededor del 6% del agua del distrito local. Cambian los roles de los especialistas en inteligencia artificial La ingeniería rápida fue una de las habilidades más populares en tecnología en 2023, y la gente se apresuró a traer a casa salarios de seis cifras por instruir a ChatGPT y productos similares para producir respuestas útiles. El revuelo se ha desvanecido un poco y, como se mencionó anteriormente, muchas empresas que utilizan mucho la IA generativa personalizan sus propios modelos. La ingeniería rápida puede convertirse en parte de las tareas habituales de los ingenieros de software en el futuro, pero no como una especialización, sino simplemente como una parte de la forma en que los ingenieros de software realizan sus tareas habituales. Uso de IA para ingeniería de software «El uso de IA dentro del dominio de la ingeniería de software es uno de los casos de uso de más rápido crecimiento que vemos hoy», dijo Chandrasekaran. “Creo que la ingeniería rápida será una habilidad importante en toda la organización en el sentido de que cualquier persona que interactúe con sistemas de IA (que seremos muchos de nosotros en el futuro) debe saber cómo guiar y dirigir estos modelos. Pero, por supuesto, la gente en ingeniería de software necesita comprender realmente la ingeniería rápida a escala y algunas de las técnicas avanzadas de la ingeniería rápida”. En cuanto a cómo se asignan las funciones de la IA, dependerá en gran medida de las organizaciones individuales. Queda por ver si la mayoría de las personas que realizan ingeniería rápida tendrán o no ingeniería rápida como título de trabajo. Títulos ejecutivos relacionados con la IA Una encuesta de ejecutivos de datos y tecnología realizada por Sloan Management Review del MIT en enero de 2024 encontró que las organizaciones a veces estaban recortando los puestos de directores de IA. Ha habido cierta “confusión sobre las responsabilidades” de los líderes hiperespecializados como la IA o los responsables de datos, y es probable que 2024 se normalice en torno a los “líderes tecnológicos generales” que crean valor a partir de los datos e informan al director ejecutivo, independientemente de dónde provengan esos datos. de. VER: Qué hace un jefe de IA y por qué las organizaciones deberían tener uno en el futuro. (TechRepublic) Por otro lado, Chandrasekaran dijo que los directores de datos y análisis y los directores de inteligencia artificial «no son frecuentes», pero han aumentado en número. Es difícil predecir si ambos seguirán siendo roles separados de CIO o CTO, pero puede depender de qué competencias centrales estén buscando las organizaciones y de si los CIO se encuentran equilibrando demasiadas otras responsabilidades al mismo tiempo. «Definitivamente estamos viendo que estos roles (oficial de IA y oficial de datos y análisis) aparecen cada vez más en nuestras conversaciones con los clientes», dijo Chandrasekaran. El 28 de marzo de 2024, la Oficina de Administración y Presupuesto de EE. UU. publicó una guía para el uso de IA dentro de las agencias federales, que incluía un mandato para que todas esas agencias designaran un Director de IA. El arte con IA y el vidriado contra el arte con IA se vuelven más comunes A medida que el software artístico y las plataformas de fotografías de archivo abrazan la fiebre del oro de las imágenes sencillas, los artistas y reguladores buscan formas de identificar el contenido de IA para evitar la desinformación y el robo. El arte con IA se está volviendo más común. Adobe Stock ahora ofrece herramientas para crear arte con IA y marca el arte con IA como tal en su catálogo de imágenes de archivo. El 18 de marzo de 2024, Shutterstock y NVIDIA anunciaron una herramienta de generación de imágenes 3D en acceso temprano. OpenAI promovió recientemente a cineastas que utilizan la fotorrealista Sora AI. Las demostraciones fueron criticadas por defensores de los artistas, incluido el director ejecutivo de Fairly Trained AI, Ed Newton-Rex, ex miembro de Stability AI, quien las llamó «Artistwashing: cuando solicitas comentarios positivos sobre tu modelo de IA generativa de un puñado de creadores, mientras entrenas en el trabajo de las personas». sin permiso/pago”. Es probable que a lo largo de 2024 se sigan desarrollando dos posibles respuestas a las obras de arte con IA: las marcas de agua y el vidriado. Arte de IA con marcas de agua El estándar líder para las marcas de agua proviene de la Coalición para la Procedencia y Autenticidad del Contenido, con la que OpenAI (Figura A) y Meta han trabajado para etiquetar imágenes generadas por su IA; sin embargo, las marcas de agua, que aparecen visualmente o en metadatos, son fáciles de eliminar. Algunos dicen que las marcas de agua no serán suficientes para prevenir la desinformación, particularmente en torno a las elecciones estadounidenses de 2024. La Figura A Los metadatos de una imagen generada por DALL-E muestran la procedencia de la imagen. VER: El gobierno federal de EE. UU. y las principales empresas de inteligencia artificial acordaron el año pasado una lista de compromisos voluntarios, incluida la marca de agua. (TechRepublic) Envenenamiento de arte original con IA Los artistas que buscan evitar que los modelos de IA se entrenen con arte original publicado en línea pueden usar Glaze o Nightshade, dos herramientas de envenenamiento de datos creadas por la Universidad de Chicago. El envenenamiento de datos ajusta las ilustraciones lo suficiente como para hacerlas ilegibles para un modelo de IA. Es probable que aparezcan más herramientas como esta en el futuro, ya que tanto la generación de imágenes mediante IA como la protección del trabajo original de los artistas seguirán siendo un foco de atención en 2024. ¿Está sobrevalorada la IA? La IA era tan popular en 2023 que inevitablemente fue sobrevalorada en 2024, pero eso no significa que no se le esté dando algún uso práctico. A finales de 2023, Gartner declaró que la IA generativa había alcanzado “la cima de las expectativas infladas”, un conocido pináculo de exageración antes de que las tecnologías emergentes se volvieran prácticas y normalizadas. Al pico le sigue el “punto más bajo de la desilusión” antes de volver a subir a la “pendiente de la iluminación” y, finalmente, a la productividad. Podría decirse que el lugar de la IA generativa en el pico o en el punto más bajo significa que está sobrevalorada. Sin embargo, muchos otros productos han pasado por el ciclo de exageración antes, y muchos finalmente alcanzaron la “meseta de productividad” después del auge inicial.
Se ha instado a los profesionales australianos de gestión de acceso a identidades a consolidar la identidad como base de la postura de seguridad cibernética de sus organizaciones, ya que una gestión deficiente de exposiciones significativas, incluidas las identidades de máquinas, estaba poniendo en riesgo a muchas organizaciones. El analista vicepresidente de Gartner, Felix Gaehtgens, hablando en la Cumbre de Gestión de Riesgos y Seguridad de Gartner en Sydney, argumentó que los profesionales de IAM deberían defender la inversión en programas de IAM maduros, centrados en un enfoque de tejido de identidad dentro de sus organizaciones. Las organizaciones podrían mejorar la resiliencia mediante una mejor higiene de IAM, dijo Gaehtgens. Advirtió contra permitir que los proveedores de tecnología bloqueen los datos en silos y utilicen la IA sin antes obtener los datos correctos. Una sugerencia fue adoptar un enfoque de gestión de productos para involucrar a diferentes partes interesadas. IAM ahora en el centro de una postura madura de seguridad cibernética Los líderes de IAM se han enfrentado a un cambio fundamental en el panorama de la identidad en los últimos años, afirmó Gaehtgens. Esto se debió principalmente a la realidad de que ahora “se esperaba que crearan un control centralizado en un mundo totalmente descentralizado” para proteger la seguridad cibernética. Los empleados que trabajaban desde cualquier lugar habían erosionado el valor de los controles de seguridad heredados en el perímetro, afirmó Gaehtgens, mientras que los activos, los datos y las aplicaciones ahora estaban protegidos con diferentes tipos de controles de acceso, muchos de ellos implementados por terceros, como proveedores de la nube. PREMIUM: Considere la posibilidad de crear una política de seguridad en la nube. “La junta directiva formula al CISO tres preguntas principales: ‘¿Estamos seguros?’, ‘¿Cumplimos?’ y ‘¿Qué pasa con la IA?’”, dijo Gaehtgens. “IAM está en el centro de todo esto. El papel es cada vez más importante. ¿Por qué? Porque está en el centro de la seguridad en el nuevo mundo”. El aumento de las identidades de las máquinas El crecimiento de las identidades de las máquinas, además de las identidades humanas, se había convertido en un «gran problema», dijo Gaehtgens. Actualmente hay entre 10 y 45 veces más identidades de máquinas en una organización, muchas de ellas muy privilegiadas, lo que las convierte en un enorme riesgo cibernético no gestionado. Las organizaciones deben dar prioridad a la identidad con un programa IAM maduro. Mover la identidad al centro de la seguridad cibernética es clave, afirmó Gaehtgens. «Muchos de ustedes tienen muchas herramientas pero realmente no tienen un programa IAM bueno y que funcione; esta es su oportunidad», dijo Gaehtgens. «Es el plano de control y la base de la ciberseguridad; aquí es donde hay que centrarse». Los programas de IAM deben hacer que la gestión de identidades sea “consistente, contextual y continua” y estar habilitados por líderes de IAM dispuestos a construir relaciones fuera de TI. Consistente Según Gaehtgens, las regulaciones globales están diseñadas para proteger los datos personales dondequiera que estén, incluso en bases de datos, archivos no estructurados, en movimiento o en reposo. Gaehtgens dijo que esto significa que, si bien las organizaciones tienen una gran cantidad de herramientas, necesitan coherencia en las políticas de acceso aplicadas. Las políticas contextuales deben ser dinámicas y conscientes del contexto. «El hecho de que alguien pueda acceder a una carpeta no significa que deba descargar 30 documentos por minuto; eso no es típico de un ser humano y podría indicar que un robot se ha apoderado de su cuenta», dijo Gaehtgens. Continuo El futuro verá la aplicación de una confianza adaptativa continua a lo largo de las sesiones. Gaehtgens dijo que se acercaba el cierre de sesión único, lo que implicaría la capacidad de finalizar múltiples sesiones en todos los sistemas en función de los eventos del usuario, algo que, según dijo, se volvería normal para los usuarios. Liderazgo Para implementar un programa de IAM, los líderes de IAM necesitarán fortalecer las relaciones más allá de TI. Gaehtgens instó a los líderes de IAM a aprender el lenguaje empresarial, incluidos los financieros y el jurídico, para poder medir y comunicar sobre IAM en términos como valor y riesgo empresarial. VER: Una solución IAM superior puede ayudar a fortalecer los esfuerzos de seguridad cibernética. El éxito podría ser más fácil con un enfoque de gestión de productos. Gaehtgens dijo que existe una tendencia hacia enfoques de gestión de productos para los programas IAM, lo que está conduciendo a una aceleración del valor empresarial y la entrega a través de un estilo «altamente multifuncional». Centrarse en el tejido de identidad en lugar de las herramientas de IAM Para el futuro se necesita una forma más coherente y arquitectónicamente sólida de gestionar IAM, afirmó Gaehtgens. «La mayoría de las organizaciones luchan con la entrega de capacidades básicas de IAM para humanos y máquinas, incluso después de años de inversión y trabajo en esto», dijo Gaehtgens. Adoptar un enfoque arquitectónico de tejido de identidad Un enfoque de «tejido de identidad» podría ayudar a los profesionales de IAM a aprovechar sus oportunidades actuales y liberarse de las ataduras del bloqueo de proveedores, dijo Gaehtgens. Presentó un marco de 10 principios que Gartner utiliza para guiar a los clientes hacia un modelo de tejido de identidad (Figura A). Figura A: Los 10 principios del tejido de identidad de Gartner permiten a las organizaciones crear capacidades de gestión de acceso a identidades para un mundo descentralizado. Imagen: Gartner Estos incluyen ampliar el alcance para incluir: Identidades de máquinas, responsables de muchas «adquisiciones de fugas de credenciales». Conectividad basada en eventos, en lugar de análisis de lotes estáticos. Arquitectura componible “y, a largo plazo, compostable” que puede adaptarse a los cambios. Trabajar con topología podría permitir a las organizaciones obtener control centralizado en un entorno descentralizado eliminando funciones de herramientas con una capa de abstracción. Esto ve las funciones de las herramientas subyacentes conectadas a un nivel superior para orquestarlas para diferentes casos de uso. Las capacidades de IA podrían aumentar la productividad del equipo de IAM. Es probable que la IA asuma aspectos de IAM, como la detección de apropiación de cuentas y el análisis del comportamiento de las entidades de los usuarios. También podría recomendar políticas de acceso del tamaño adecuado a partir de datos de derechos o ayudar a integrar aplicaciones con servicios de IAM, incluidas actualizaciones de codificación y configuración. Gaehtgens advirtió que los datos debían ser correctos y que la gestión y la ingeniería de datos podrían convertirse en una capacidad formal para un programa IAM. «La IA puede ofrecer cierto valor siempre que también se trabaje en las dependencias necesarias de gestión de datos e ingeniería de datos», dijo Gaehtgens. Más cobertura de Australia Higiene de la identidad, la primera línea de defensa de la seguridad cibernética IAM es «la primera línea de defensa para reducir la cantidad de alertas que llegan a su (centro de operaciones de seguridad)», dijo Gaehtgens. Esto significa que los profesionales de IAM deben centrarse en la higiene de la identidad para impulsar la prevención y la detección, incluidas las identidades de las máquinas. VER: Explore la diferencia entre las soluciones IAM y PAM Los equipos de IAM pueden comenzar con actividades de menor esfuerzo, como la existencia de cuentas (Figura B). Sin embargo, Gaehtgens dijo que si bien el marco Essential Eight de Australia recomienda abordar las identidades de las máquinas en el nivel de madurez 3, debería ser algo que las organizaciones consideren antes de esa fecha. Figura B: Los profesionales de IAM pueden realizar una variedad de actividades que acercarán a sus organizaciones a una buena higiene de identidad. Imagen: Gartner Recomendó la vigilancia de la configuración de IAM. «He visto sistemas IAM en vivo configurados con acceso privilegiado para probar algo que nunca se eliminó», dijo Gaehtgens. «Si alguien se enterara de eso, podría hacerse cargo del sistema IAM y cambiar los roles a lo que quisiera». Los equipos de IAM también podrían realizar actividades con un nivel de esfuerzo medio, como implementar acceso adaptativo y MFA. «La clave es el equilibrio entre la inversión en higiene y la detección y respuesta a amenazas», afirmó Gaehtgens. «Cuanto mejor seamos en la prevención, menos resultados habrá para la detección».
El gobierno australiano ve el valor de la IA generativa en los gobiernos locales, estatales y federales. Sin embargo, las restricciones de gasto inusualmente largas y las preocupaciones sobre los desastres de la automatización están frenando la adopción de la IA, al menos en términos de soluciones orientadas a los ciudadanos. Según una encuesta de Gartner entre CIO de los gobiernos de APAC (con Australia justo en el medio de la tendencia), la IA/aprendizaje automático y la IA generativa son las dos mayores prioridades que se implementarán para 2026 (Figura A). Y, sin embargo, otras presiones están haciendo que las agencias gubernamentales duden en adoptar la IA en áreas que el gobierno australiano considera de importancia crítica. Figura A: Las tecnologías que los CIO de los gobiernos de APAC esperan implementar para 2026. Imagen: Gartner Por ejemplo, si bien la investigación de Gartner muestra que el 84% de los CIO consideran que la inversión para sobresalir en la experiencia del ciudadano es una prioridad máxima (Figura B), menos del 25% de las organizaciones gubernamentales tendrán servicios generativos de cara al ciudadano habilitados por IA para 2027. Figura B: Las tres principales prioridades de las agencias gubernamentales de APAC. Imagen: Gartner La desconexión del gobierno australiano entre el deseo de implementar la IA y la capacidad de lograr resultados Como dijo Dean Lacheca, vicepresidente y analista de Gartner, en una entrevista con TechRepublic, existe escepticismo público en torno a los grandes modelos públicos de aprendizaje, con preocupaciones sobre la privacidad, la seguridad y la preparación de los datos. impactando la velocidad de adopción de la IA. Este es un tema particularmente delicado en Australia, donde la automatización, incluida la IA, dentro de los servicios gubernamentales ha causado daños materiales. En consecuencia, existe una desconfianza inherente hacia cualquier aplicación que se considere que automatiza las interacciones con los ciudadanos en todo el gobierno. Lo más notable es que, si bien no fue una aplicación de la IA, el escándalo de la “Robodeuda” que afectó tan significativamente a los australianos dio lugar a una Comisión Real tras un cambio de gobierno. La automatización que estuvo en el centro de esa controversia ha hecho que muchas agencias gubernamentales duden en anunciar al público que están explorando el uso de la IA. «Esa asociación con la automatización no se expresa abiertamente, pero el sentimiento subyacente es que las agencias gubernamentales son conscientes de que hay mucho riesgo para su reputación si se equivocan», dijo Lacheca. «Existe cierta frustración a nivel ejecutivo sobre por qué no pueden avanzar más rápido en el espacio de la IA, pero hay validez en el enfoque conservador de los primeros pasos y en pensar completamente en los casos de uso». Los presupuestos ajustados también tienen un impacto en la adopción de IA por parte del gobierno australiano. Este conservadurismo se ve agravado aún más por la prolongada austeridad en el gasto gubernamental en TI, que según Lacheca está impactando los tipos de proyectos que están recibiendo luz verde. Se comprende la necesidad de inversión, dijo, pero los líderes que dan luz verde a los proyectos se centran totalmente en la productividad, la eficacia y un rápido retorno de la inversión. Dado que la IA es un área nueva para muchos CIO y sus equipos en el gobierno, y que la IA requiere transformación y nuevos enfoques de la tecnología, encontrar y luego articular los proyectos adecuados que puedan entregarse rápidamente puede ser un desafío. “Debido a que los objetivos de los proyectos tienden a ser relativamente modestos, en la búsqueda de un rápido retorno de la inversión, también existe una parte educativa que los equipos de TI deben realizar con el ejecutivo”, dijo Lacheca. “A menudo escuchamos elementos de frustración como ‘mi hijo adolescente está en casa usando ChatGPT, ¿por qué nos complicas más las cosas?’ «Por lo tanto, gestionar las expectativas de lo que se puede lograr con la tecnología, dado el enfoque en objetivos inmediatos, y superar las dudas en torno a los servicios de cara al ciudadano es parte del proceso con la adopción gubernamental de la IA en este momento». Más cobertura de Australia La solución de Gartner: centrarse primero en entregar aplicaciones internas Según Gartner, la solución a estos desafíos con la adopción de IA es comenzar entregando aplicaciones que no estén orientadas a los ciudadanos pero que puedan respaldar ganancias de productividad dentro de la organización interna. La fruta “mañana” permite a las agencias y departamentos gubernamentales evitar los riesgos percibidos asociados con la IA en los servicios orientados a los ciudadanos, al tiempo que desarrollan los conocimientos y habilidades críticos que se necesitan para desarrollar estrategias de IA más ambiciosas. Las agencias también deben generar confianza y mitigar los riesgos asociados mediante el establecimiento de marcos transparentes de gobernanza y garantía de la IA para las capacidades de IA desarrolladas y adquiridas internamente, añade la guía de Gartner. «Hay mucho que las organizaciones gubernamentales deben hacer para dar pasos hacia la IA», dijo Lacheca. “Para un caso de uso, por ejemplo, una agencia podría querer resumir un conjunto de datos, pero esos datos contienen información personal y tal vez no tengan las etiquetas de metadatos correctas. Quizás quieran analizar eso. “Otros buscan soluciones en la nube donde los datos nunca abandonan su mundo, y otros buscan el enfoque de ‘vidrieras’ que garantizará un nivel de ofuscación de los datos al salir como estrategia para proteger la privacidad. Hay mucha madurez arquitectónica en la forma en que se implementan las estrategias de IA, por lo que las organizaciones deberían buscar desarrollar estas capacidades antes de aplicarlas a implementaciones públicas”, añadió. Cómo deberían buscar los socios para involucrar al gobierno de Australia en materia de IA Estas tensiones internas también afectarán a los socios de las agencias del gobierno australiano. Hay apetito por la IA, pero lograr un paso decisivo y ayudar a implementar soluciones significa comprender que la austeridad en los presupuestos gubernamentales es inusualmente prolongada y que el conservadurismo sobre las posibles consecuencias es más sensible de lo que podría ser el caso en otros sectores. «Los próximos pasos que el gobierno podría tomar probablemente serán mucho más lentos que los de algunas de sus contrapartes comerciales, porque su apetito por el riesgo tiene que ser diferente», dijo Lacheca. Para los profesionales de TI que trabajan en y en asociación con agencias gubernamentales, las recomendaciones de Gartner sobre cómo dar un paso adelante con la IA se reducen a poder demostrar un rápido retorno de la inversión con un riesgo mínimo para los datos públicos y las interacciones. Los socios que puedan lograrlo estarán en una posición sólida cuando el gobierno comience a acelerar la adopción para cumplir sus ambiciones a largo plazo.
Los datos globales de Cisco destacan una tendencia preocupante: las organizaciones australianas están empezando a quedarse atrás en una “brecha de confianza” entre lo que los clientes esperan que hagan con los datos y la privacidad y lo que realmente está sucediendo. Los nuevos datos muestran que el 90% de las personas quieren que las organizaciones se transformen para gestionar adecuadamente los datos y los riesgos. Con un entorno regulatorio que se ha quedado atrás, para que las organizaciones australianas puedan lograrlo, tendrán que avanzar más rápido que el entorno regulatorio. Las empresas australianas deben tomarse en serio Según un importante estudio global reciente de Cisco, más del 90% de las personas cree que la IA generativa requiere nuevas técnicas para gestionar los datos y los riesgos (Figura A). Mientras tanto, al 69% le preocupa la posibilidad de que los derechos legales y de propiedad intelectual se vean comprometidos, y al 68% le preocupa el riesgo de divulgación al público o a los competidores. Figura A: Preocupaciones de la organización y los usuarios con la IA generativa. Imagen: Cisco Básicamente, si bien los clientes aprecian el valor que la IA puede aportarles en términos de personalización y niveles de servicio, también se sienten incómodos con las implicaciones para su privacidad si sus datos se utilizan como parte de los modelos de IA. PREMIUM: Las organizaciones australianas deberían considerar una política de ética de IA. Alrededor del 8% de los participantes en la encuesta de Cisco eran de Australia, aunque el estudio no desglosa las preocupaciones anteriores por territorio. Los australianos tienen más probabilidades de violar las políticas de seguridad de los datos a pesar de las preocupaciones sobre la privacidad de los datos. Otras investigaciones muestran que los australianos son particularmente sensibles a la forma en que las organizaciones utilizan sus datos. Según una investigación de Quantum Market Research y Porter Novelli, el 74% de los australianos están preocupados por el ciberdelito. Además, al 45% le preocupa que se robe su información financiera y al 28% le preocupan sus documentos de identidad, como pasaportes y licencias de conducir (Figura B). Figura B: Los australianos están más preocupados por los datos financieros que por cualquier otra información personal. Imagen: Porter Novelli y Quantum Market Research Sin embargo, los australianos también tienen el doble de probabilidades que el promedio mundial de violar las políticas de seguridad de datos en el trabajo. Como dijo el vicepresidente y analista de Gartner, Nader Henein, las organizaciones deberían estar profundamente preocupadas por esta violación de la confianza del cliente porque los clientes estarán felices de tomar sus billeteras y caminar. “El hecho es que los consumidores de hoy están más que felices de cruzar el camino hacia la competencia y, en algunos casos, pagar una prima por el mismo servicio, si es allí donde creen que sus datos y los de su familia están mejor cuidados. “, Dijo Henein. La regulación voluntaria en las organizaciones australianas no es buena para la privacidad de los datos. Parte del problema es que, en Australia, hacer lo correcto en torno a la privacidad de los datos y la IA es en gran medida voluntario. VER: En qué deben centrarse los líderes australianos de TI antes de las reformas de privacidad. “Desde una perspectiva regulatoria, la mayoría de las empresas australianas se centran en la divulgación y presentación de informes sobre infracciones, dados todos los incidentes de alto perfil de los últimos dos años. Pero cuando se trata de aspectos básicos de privacidad, existen pocos requisitos para las empresas en Australia. Los principales pilares de la privacidad, como la transparencia, los derechos de privacidad del consumidor y el consentimiento explícito, simplemente faltan”, afirmó Henein. Sólo aquellas organizaciones australianas que han hecho negocios en el extranjero y se han topado con regulaciones externas han necesitado mejorar; Henein señaló como ejemplos el RGPD y las leyes de privacidad de Nueva Zelanda. Otras organizaciones deberán hacer de la generación de confianza con sus clientes una prioridad interna. Más cobertura de Australia Generar confianza en el uso de datos Si bien el uso de datos en IA puede no estar regulado y ser voluntario en Australia, hay cinco cosas que el equipo de TI puede (y debe) defender en toda la organización: Transparencia sobre la recopilación y el uso de datos: Transparencia en torno a la recopilación de datos se puede lograr a través de políticas de privacidad, formularios de consentimiento y opciones de exclusión voluntaria claros y fáciles de entender. Responsabilidad con la gobernanza de datos: todos en la organización deben reconocer la importancia de la calidad e integridad de los datos en la recopilación, el procesamiento y el análisis de datos, y deben existir políticas para reforzar el comportamiento. Alta calidad y precisión de los datos: la recopilación y el uso de datos deben ser precisos, ya que la información errónea puede hacer que los modelos de IA no sean confiables y, posteriormente, eso puede socavar la confianza en la seguridad y la gestión de los datos. Detección y respuesta proactivas a incidentes: un plan de respuesta a incidentes inadecuado puede provocar daños a la reputación y los datos de la organización. Control del cliente sobre sus propios datos: todos los servicios y funciones que implican la recopilación de datos deben permitir al cliente acceder, administrar y eliminar sus datos en sus propios términos y cuando lo desee. Autorregulación ahora para prepararse para el futuro Actualmente, la ley de privacidad de datos, incluidos los datos recopilados y utilizados en modelos de IA, está regulada por antiguas regulaciones creadas antes de que se utilizaran los modelos de IA. Por lo tanto, la única regulación que aplican las empresas australianas es la autodeterminada. Sin embargo, como dijo Henein de Gartner, existe mucho consenso sobre el camino correcto a seguir para la gestión de datos cuando se utilizan de estas formas nuevas y transformadoras. VER: Las organizaciones australianas se centrarán en la ética de la recopilación y el uso de datos en 2024. “En febrero de 2023, se publicó el Informe de revisión de la Ley de Privacidad con muchas buenas recomendaciones destinadas a modernizar la protección de datos en Australia”, dijo Henein. “Siete meses después, en septiembre de 2023, el Gobierno Federal respondió. De las 116 propuestas del informe original, el gobierno respondió favorablemente a 106”. Por ahora, algunos ejecutivos y juntas directivas pueden resistirse a la idea de una regulación autoimpuesta, pero el beneficio de esto es que una organización que pueda demostrar que está tomando estas medidas se beneficiará de una mayor reputación entre los clientes y será vista como que toma en cuenta sus preocupaciones. en torno al uso de datos en serio. Mientras tanto, algunos dentro de la organización podrían estar preocupados de que imponer la autorregulación pueda impedir la innovación. Como dijo Henein en respuesta a eso: «¿habría retrasado la introducción de cinturones de seguridad, zonas de deformación y bolsas de aire por temor a que estos aspectos frenaran los avances en la industria automotriz?» Ahora es el momento de que los profesionales de TI se hagan cargo y comiencen a cerrar esa brecha de confianza.