Menos de un año después de que ChatGPT de OpenAI fuera lanzado al público, Cisco Systems ya está en el proceso de incorporar inteligencia artificial generativa (genAI) en toda su cartera de productos y sistemas backend internos. El plan es utilizarlo prácticamente en todos los rincones de el negocio, desde la automatización de funciones de red y el monitoreo de la seguridad hasta la creación de nuevos productos de software. Pero el CIO de Cisco, Fletcher Previn, también está lidiando con una escasez de talento de TI para crear y modificar plataformas de modelos de lenguaje grandes (LLM) para aplicaciones de IA de dominios específicos. Como resultado, los trabajadores de TI aprenden sobre la marcha, mientras descubren nuevos lugares y formas en que la tecnología en constante evolución puede crear valor. Previn asumió el cargo de CIO de Cisco en abril de 2022. Antes de eso, trabajó en IBM durante 15 años. los últimos cuatro como su CIO. Por lo tanto, Previn conoce el panorama competitivo y es consciente de que cada modelo de genAI que crea su empresa es un fruto fácil para el espionaje industrial. Al mismo tiempo, le preocupa asegurar la tecnología patentada de IA cuya creación cuesta millones de dólares, y comprende que la genAI a veces puede tomar decisión propia. Mantener a un ser humano informado siempre es importante. Cisco Fletcher Previn Previn habló con Computerworld sobre los esfuerzos internos de IA de Cisco. Los siguientes son extractos de esa entrevista. ¿Cómo utiliza Cisco la IA generativa y cuáles son sus desafíos con ella? «Es un momento emocionante. Es un momento especialmente interesante para estar en TI, donde ahora, 10 u 11 meses después de que ChatGPT entró en escena, continúa sorprendiendo y aterrorizando en algunos casos. «Lo pensamos en… tres categorías de cómo estamos. ¿Vamos a utilizar la IA para nosotros, para nuestros productos y para nuestros clientes? «En términos de cómo la estamos usando para nosotros, hay mucho en eso. Llevo aproximadamente un año en el trabajo y paso «Pasamos mucho tiempo pensando en TI como un cambio cultural y en cómo incorporamos la tecnología como un multiplicador de fuerza a nuestra fuerza laboral; la IA ayuda en ese sentido. «Si piensas en las redes, el negocio principal de Cisco, tienes esta manguera de datos y información y es la capacidad de identificar cosas de manera oportuna, darles sentido y tomar medidas basadas en ellas donde la IA sobresale.» Entonces, si piensas en el monitoreo de redes, … puedes usar algoritmos de IA para analizar grandes cantidades de datos en tiempo real para detectar anomalías, detectar problemas de rendimiento o predecir problemas. La idea general del mantenimiento predictivo y el uso de IA para detectar cuándo va a haber una falla de red o un problema de rendimiento y luego realizar un mantenimiento preventivo para evitarlo es enorme; luego, la capacidad de automatizar tareas rutinarias de administración de red, como administración de configuración, aprovisionamiento de dispositivos, aplicación de políticas, reducción de tareas manuales en general…» ¿Qué te mantiene despierto por la noche en términos de IA? «Creo que queremos asegurarnos de tener un ser humano al tanto en todo momento. …Creo que parte de la razón por la que el aprendizaje automático fue lento y difícil es porque había que tomar un conjunto de datos, seleccionarlos y luego entrenar el aprendizaje automático con esos datos, y la respuesta a la pregunta que hacías tenía que ser existen en esos datos. Ese no es el caso si puedes razonar sobre los datos. Entonces podrás empezar a acercarte a la comprensión humana de lectura y escritura para responder preguntas para las que no había una respuesta previa. «Pero necesitamos seres humanos involucrados para garantizar que esas respuestas sean correctas y compatibles con nuestros valores y modelos de negocio; de ahí la necesidad de nuestras políticas comerciales responsables y éticas.» ¿Cuántos productos ha creado hasta ahora que tienen genAI integrado? «Es irónico. Actualmente estoy preparando un documento para la junta directiva de Cisco y ya tiene 10 páginas. La respuesta es que integraremos la IA en toda la cartera de productos de Cisco y ya estamos en el camino correcto». portafolio. Sería una respuesta más breve preguntar qué productos no utilizan IA. Está en todos los productos y muy rápidamente la gente está corriendo hacia lo que la IA puede aportar, ya sea en el espacio de colaboración, en el de seguridad, en el de redes y en el de enrutamiento y conmutación. Puede ver intuitivamente cómo esto es útil para la cartera de seguridad: simplificar las cosas, aumentar la velocidad, automatizar tareas, comprender lo que sucede en estados digitales complejos en tiempo real». Esas son tareas desafiantes y la IA es una solución perfecta para aplicarlas. como ThousandEyes y nuestro Umbrella y Duo SASE [secure access service edge] SD-WAN. ¿Cómo va el tráfico? ¿Qué decisiones se están tomando sobre cómo se encamina ese tráfico? ¿Qué anomalías están apareciendo? ¿Dónde surgen los problemas? ¿Dónde parece estar algo malicioso? Si hago cambios aquí, ¿se propagarán a todos los demás lugares para que no tenga que iniciar sesión en muchas otras herramientas para obtener el resultado que deseo? Ese es el esfuerzo que se está llevando a cabo actualmente. «Está funcionando muy rápidamente en cada parte del portafolio de Cisco». ¿Qué pasa con la seguridad? ¿Le ha resultado útil la IA para proteger las redes? «La seguridad es una gran oportunidad para que podamos aprovechar la IA de una manera interesante a través de la detección de amenazas y el análisis de patrones de red, identificando y resaltando comportamientos anormales y detectando amenazas a la seguridad en tiempo real». Uso de IA para optimizar el flujo de tráfico y ajustar dinámicamente las rutas de tráfico es de gran valor para una organización de TI como la mía: reduce la latencia y mejora el rendimiento. La gestión de redes impulsada por la IA puede integrar estos sistemas de TI y sistemas de orquestación de redes para crear estas experiencias unificadas y fluidas que se aumentan con la inteligencia de la IA». Luego, incorporamos algunos de nuestros productos también para eso, ya sea la plataforma ThousandEyes, Cisco Secure Network Analytics, Catalyst Smart Center Alerts, Nexus Dashboards… Reúnes toda esta telemetría, la analizas, le das sentido, tomas medidas al respecto en tiempo real y automatizas algunas de esas acciones en el futuro. Ese es el Santo Grial de la IA. gestión de redes.»¿Cómo ha producido la IA eficiencias para los empleados? «…Si piensas en cuánta ineficiencia hay en cualquier organización grande, solo con las cosas que necesitamos hacer para realizar nuestro trabajo, ¿qué podemos aportar allí? [is] automatizar ciertas tareas, mostrar rápidamente información de alto valor, resumir cosas». Hay mucha IA abriéndose camino en la plataforma Webex. Como ejemplo, estamos usando IA para resumir una reunión, resaltar momentos importantes en una reunión y analizar el lenguaje corporal, y no solo las palabras y el lenguaje escrito. Esto sucedió en la reunión; esta persona se levantó y se fue; si se perdió una reunión, puede hacer que la IA le envíe un breve resumen de lo que sucedió en la reunión y las decisiones que se tomaron. hecho.»Ya tienes LLM. Ahora tienes esta idea de RMM. [Remote Monitoring and Management] y Cisco va en la dirección de poder comprender el lenguaje corporal y las señales no verbales, resumirlo y darle sentido. «Poder tener una reunión por video en un mundo híbrido es necesario, pero no suficiente. Todavía está en en algunos aspectos menos que la experiencia en persona. Estamos justo al borde de toda esta emocionante innovación que va a resolver esto de una manera más significativa, donde las personas no estén en desventaja por no estar juntas en la oficina. ..Eso es lo que estamos empezando a ver ahora con los avances en IA.»Están las cosas obvias con la cancelación de ruido y los fondos virtuales, pero ahora estás entrando en reuniones de resumen, cuáles son las decisiones y elementos de acción, cuáles son las -lenguaje corporal verbal?»¿Cómo se utiliza la IA para el desarrollo de software? “Luego, para el desarrollo de software, antes existía la sensación de que los primeros casos de uso de la IA serían las tareas más menores. Pero resulta que uno de los primeros usos amplios Algunos casos son el desarrollo de software, lo cual es realmente interesante, porque la sabiduría convencional siempre fue que no se puede acortar el tiempo que lleva desarrollar software; no existe un algoritmo de compresión para el desarrollo de software. “Es por eso que en el pasado se prestó tanta atención a las pruebas y la automatización de lanzamientos. Ahora resulta que puedes usar cosas como Copilot para Github y tener IA sobre tu hombro y ayudarte a escribir código de manera más eficiente. Esto es realmente interesante en el espacio del desarrollo de software. “Creo que para finales de este año, entre el 40% y el 60% de todo el código que se registra en Github será aumentado de alguna manera por la IA. ¿Y qué impacto tiene eso en sus procesos de desarrollo de software y cómo documenta de manera adecuada, responsable y ética dónde la IA le ha ayudado en la construcción de las cosas? Una preocupación ha sido si está produciendo código a través de IA, ciertos errores, Se pueden introducir sesgos o incluso malware. ¿Ves algún peligro en el hecho de que gran parte del desarrollo futuro de código se incremente con IA? «No sé si esas dos cosas son ciertas. Puedes tener una gran cantidad de código que se registra en Github y que es aumentado por IA sin que sea una optimización descontrolada y descontrolada. Entonces, cosas como que dos seres humanos revisen el código antes de que llegue publicado [or] tener el requisito de comentar y etiquetar cualquier código generado por IA; hay cosas que puedes hacer para ser responsable con el código generado por IA y el desarrollo de software y esas son las cosas que estamos haciendo». ¿Qué pasa con el hecho de que la IA generativa ha sido ¿Atrapado robando propiedad intelectual para entrenar grandes modelos de lenguaje? Uno de los edictos de la orden ejecutiva del presidente Biden es para un sistema para marcar con marcas de agua el contenido creado por IA. ¿Se ha topado con esto? ¿Cómo lo maneja? «Probablemente sea más bien una solución inmediata. problema para estos grandes modelos de lenguaje que están indexando todo Internet. Crea muchas preguntas interesantes sobre ¿qué artista recibe una compensación por el uso de su propiedad intelectual? ¿La fuente original? ¿La persona que usó IA para crear algo nuevo a partir de la fuente original? No creo que las respuestas a esas preguntas estén claras todavía, así que en cierto modo es territorio inexplorado. ¿En qué momento algo se convierte en una creación original y en qué momento se reutiliza el arte de otra persona? «Creo que es algo en lo que vamos a tener que trabajar como sociedad. Cuando la gente toma una mezcla de una canción, incluso Eso no siempre está claro en los tribunales. Si muestras algo de la canción de otra persona y haces una nueva canción a partir de eso, ¿cuánto de esa nueva canción necesita ser el tema para que se considere robo versus algo completamente nuevo? Probablemente termine siendo una situación similar aquí con la IA. «Los modelos de lenguaje grandes son muy buenos para dominar el lenguaje y resumir cosas, escribir bien; Es una forma de IA para poder mirar la palabra que has escrito y poder predecir cuál será la siguiente palabra. Eso es menos útil cuando quieres que el conocimiento de la industria o de la empresa se aplique a algo». Por ejemplo, si quiero tener un ingeniero de redes asistido por IA que sepa todo sobre los productos de Cisco, incluidos los artículos del servicio de asistencia técnica y los documentos de soporte técnico, el producto esquemas y cosas internas como esas, entonces querrás crear tu propio modelo patentado y más pequeño para responder esas preguntas específicas y de solución puntual, razón por la cual mucha gente querrá construir sus propios grupos de IA. con el fin de crear esos modelos». Eso es algo que estamos haciendo aquí en el departamento de TI, construyendo nuestro propio clúster GPU-AI utilizando la estructura Ethernet de Cisco para conectarlo todo, que en nuestra opinión es el camino a seguir. Para construir un clúster de IA, necesita dos cosas: necesita GPU y necesita conectividad de alta velocidad y baja latencia entre esas cosas. Nuestro proyecto Ethernet utiliza esas dos cosas. «¿Qué tan avanzado está con sus LLM de dominio específico? «No puede entrenar un LLM, pero puede hacer que interrogue grupos de datos y los resuma. Por lo tanto, puede usarlo para cosas como… optimización en su intranet o artículos de soporte técnico, donde puede hacer que un modelo OpenAI interrogue los artículos que ha escrito y proponga las preguntas probables que una persona le haría, para lo cual esto sería ser el mejor artículo y luego optimizar su búsqueda en función de esos resultados». Entonces, por ejemplo, le pide que mire un artículo del servicio de asistencia técnica y diga: ‘Estas son las preguntas que creo que este artículo probablemente responda’, y luego modifique su «También hay cosas muy técnicas como cuál es el presupuesto de alimentación a través de Ethernet de este Cisco Catalyst. cambiar frente a este otro, y conectarlo a nuestro propio producto interno, mesa de ayuda y datos de servicio al cliente para poder ayudar a interrogarlo en lenguaje natural. Esas cosas ya están en marcha, al igual que la construcción de nuestro propio grupo. Eventualmente crearemos varios clústeres usando nuestra propia estructura Ethernet, pero usando diferentes GPU y diferentes planos de servidor para que podamos publicarlos como planos de referencia para que otros puedan hacer lo mismo».

Source link