Ya sea que esté creando o personalizando una política de IA o reevaluando cómo su empresa aborda la confianza, mantener la confianza de los clientes puede ser cada vez más difícil con la imprevisibilidad de la IA generativa en el panorama. Hablamos con Michael Bondar, director y líder de confianza empresarial de Deloitte, y Shardul Vikram, director de tecnología y jefe de datos e IA en SAP Industries and CX, sobre cómo las empresas pueden mantener la confianza en la era de la IA. Las organizaciones se benefician de la confianza En primer lugar, Bondar dijo que cada organización necesita definir la confianza en lo que respecta a sus necesidades y clientes específicos. Deloitte ofrece herramientas para hacer esto, como el sistema de «dominio de confianza» que se encuentra en algunos de los marcos descargables de Deloitte. Las organizaciones quieren que sus clientes confíen en ellas, pero las personas involucradas en discusiones sobre confianza a menudo dudan cuando se les pregunta exactamente qué significa confianza, dijo. Las empresas en las que se confía muestran resultados financieros más sólidos, mejor desempeño bursátil y mayor lealtad del cliente, descubrió Deloitte. «Y hemos visto que casi el 80% de los empleados se sienten motivados a trabajar para un empleador de confianza», dijo Bondar. Vikram definió la confianza como la creencia de que la organización actuará en el mejor interés de los clientes. Al pensar en la confianza, los clientes se preguntarán: «¿Cuál es el tiempo de actividad de esos servicios?», dijo Vikram. «¿Son seguros esos servicios? ¿Puedo confiar en ese socio en particular para mantener mis datos seguros, asegurando que cumplan con las regulaciones locales y globales?» Deloitte descubrió que la confianza «comienza con una combinación de competencia e intención, que es que la organización es capaz y confiable para cumplir sus promesas», dijo Bondar. «Pero también la lógica, la motivación, el por qué detrás de esas acciones está alineado con los valores (y) expectativas de las diversas partes interesadas, y la humanidad y la transparencia están incorporadas en esas acciones». ¿Por qué las organizaciones podrían tener dificultades para mejorar la confianza? Bondar lo atribuyó a «disturbios geopolíticos», «presiones socioeconómicas» y «aprensión» en torno a las nuevas tecnologías. La IA generativa puede erosionar la confianza si los clientes no están informados sobre su uso La IA generativa es lo primero que se piensa cuando se trata de nuevas tecnologías. Si va a utilizar IA generativa, tiene que ser robusta y confiable para no disminuir la confianza, señaló Bondar. «La privacidad es clave», dijo. «Se debe respetar la privacidad del consumidor y los datos del cliente deben usarse dentro y solo dentro de los fines previstos». Eso incluye cada paso del uso de IA, desde la recopilación inicial de datos al entrenar modelos de lenguaje grandes hasta permitir que los consumidores opten por que la IA no use sus datos de ninguna manera. De hecho, entrenar a la IA generativa y ver dónde se equivoca podría ser un buen momento para eliminar datos obsoletos o irrelevantes, dijo Vikram. VER: Microsoft retrasó el lanzamiento de su función de recuperación de IA, buscando más comentarios de la comunidad Sugirió los siguientes métodos para mantener la confianza con los clientes mientras se adopta la IA: Brindar capacitación a los empleados sobre cómo usar la IA de manera segura. Centrarse en ejercicios de juegos de guerra y alfabetización mediática. Tener en cuenta las nociones de confiabilidad de los datos de su propia organización. Buscar el consentimiento de los datos y/o el cumplimiento de la propiedad intelectual al desarrollar o trabajar con un modelo de IA generativa. Marcar con agua el contenido de IA y capacitar a los empleados para que reconozcan los metadatos de IA cuando sea posible. Proporciona una visión completa de tus modelos y capacidades de IA, siendo transparente sobre las formas en que usas la IA. Crea un centro de confianza. Un centro de confianza es una “capa de conexión digital-visual entre una organización y sus clientes donde estás enseñando, (y) estás compartiendo las últimas amenazas, las últimas prácticas (y) los últimos casos de uso que están surgiendo y que hemos visto que funcionan de maravilla cuando se hacen de la manera correcta”, dijo Bondar. Es probable que las empresas de CRM ya estén siguiendo regulaciones, como la Ley de Derechos de Privacidad de California, el Reglamento General de Protección de Datos de la Unión Europea y las reglas de divulgación cibernética de la SEC, que también pueden tener un impacto en cómo usan los datos de los clientes y la IA. Más cobertura de IA de lectura obligada Cómo SAP genera confianza en productos de IA generativa “En SAP, tenemos nuestro equipo de DevOps, los equipos de infraestructura, el equipo de seguridad, el equipo de cumplimiento integrados profundamente en todos y cada uno de los equipos de productos”, dijo Vikram. “Esto garantiza que cada vez que tomamos una decisión sobre un producto, cada vez que tomamos una decisión arquitectónica, pensemos en la confianza como algo desde el primer día y no como una ocurrencia de último momento”. SAP operacionaliza la confianza creando estas conexiones entre equipos, así como creando y siguiendo la política ética de la empresa. «Tenemos una política según la cual no podemos enviar nada a menos que sea aprobado por el comité de ética», dijo Vikram. «Está aprobado por los controles de calidad… Está aprobado por las contrapartes de seguridad. Entonces, esto realmente agrega una capa de proceso sobre las cosas operativas, y la unión de ambos nos ayuda a operacionalizar la confianza o imponerla». Cuando SAP implementa sus propios productos de IA generativa, se aplican esas mismas políticas. SAP ha implementado varios productos de IA generativa, incluido CX AI Toolkit para CRM, que puede escribir y reescribir contenido, automatizar algunas tareas y analizar datos empresariales. CX AI Toolkit siempre mostrará sus fuentes cuando le solicite información, dijo Vikram; esta es una de las formas en que SAP está tratando de ganarse la confianza de sus clientes que usan productos de IA. Cómo incorporar IA generativa en la organización de una manera confiable En términos generales, las empresas deben incorporar IA generativa y confiabilidad en sus KPI. “Con la IA en escena, y especialmente con la IA generativa, hay indicadores clave de rendimiento o métricas adicionales que los clientes buscan, como: ¿Cómo generamos confianza, transparencia y auditabilidad en los resultados que obtenemos del sistema de IA generativa?”, dijo Vikram. “Los sistemas, por defecto o por definición, no son deterministas con una alta fidelidad. “Y ahora, para usar esas capacidades particulares en mis aplicaciones empresariales, en mis centros de ingresos, necesito tener el nivel básico de confianza. Al menos, ¿qué estamos haciendo para minimizar las alucinaciones o para brindar la información correcta?”. Los tomadores de decisiones de la alta dirección están ansiosos por probar la IA, dijo Vikram, pero quieren comenzar con unos pocos casos de uso específicos a la vez. La velocidad a la que salen nuevos productos de IA puede chocar con este deseo de un enfoque medido. Las preocupaciones sobre alucinaciones o contenido de mala calidad son comunes. La IA generativa para realizar tareas legales, por ejemplo, muestra casos “generalizados” de errores. Pero las organizaciones quieren probar la IA, dijo Vikram. “He estado desarrollando aplicaciones de IA durante los últimos 15 años y nunca había sucedido esto. Nunca había habido este creciente apetito, y no solo un apetito por saber más, sino por hacer más con ello”.