Etiqueta: dato de governancia

el febrero 7, 2024

Los datos globales de Cisco destacan una tendencia preocupante: las organizaciones australianas están empezando a quedarse atrás en una “brecha de confianza” entre lo que los clientes esperan que hagan con los datos y la privacidad y lo que realmente está sucediendo. Los nuevos datos muestran que el 90% de las personas quieren que las organizaciones se transformen para gestionar adecuadamente los datos y los riesgos. Con un entorno regulatorio que se ha quedado atrás, para que las organizaciones australianas puedan lograrlo, tendrán que avanzar más rápido que el entorno regulatorio. Las empresas australianas deben tomarse en serio Según un importante estudio global reciente de Cisco, más del 90% de las personas cree que la IA generativa requiere nuevas técnicas para gestionar los datos y los riesgos (Figura A). Mientras tanto, al 69% le preocupa la posibilidad de que los derechos legales y de propiedad intelectual se vean comprometidos, y al 68% le preocupa el riesgo de divulgación al público o a los competidores. Figura A: Preocupaciones de la organización y los usuarios con la IA generativa. Imagen: Cisco Básicamente, si bien los clientes aprecian el valor que la IA puede aportarles en términos de personalización y niveles de servicio, también se sienten incómodos con las implicaciones para su privacidad si sus datos se utilizan como parte de los modelos de IA. PREMIUM: Las organizaciones australianas deberían considerar una política de ética de IA. Alrededor del 8% de los participantes en la encuesta de Cisco eran de Australia, aunque el estudio no desglosa las preocupaciones anteriores por territorio. Los australianos tienen más probabilidades de violar las políticas de seguridad de los datos a pesar de las preocupaciones sobre la privacidad de los datos. Otras investigaciones muestran que los australianos son particularmente sensibles a la forma en que las organizaciones utilizan sus datos. Según una investigación de Quantum Market Research y Porter Novelli, el 74% de los australianos están preocupados por el ciberdelito. Además, al 45% le preocupa que se robe su información financiera y al 28% le preocupan sus documentos de identidad, como pasaportes y licencias de conducir (Figura B). Figura B: Los australianos están más preocupados por los datos financieros que por cualquier otra información personal. Imagen: Porter Novelli y Quantum Market Research Sin embargo, los australianos también tienen el doble de probabilidades que el promedio mundial de violar las políticas de seguridad de datos en el trabajo. Como dijo el vicepresidente y analista de Gartner, Nader Henein, las organizaciones deberían estar profundamente preocupadas por esta violación de la confianza del cliente porque los clientes estarán felices de tomar sus billeteras y caminar. “El hecho es que los consumidores de hoy están más que felices de cruzar el camino hacia la competencia y, en algunos casos, pagar una prima por el mismo servicio, si es allí donde creen que sus datos y los de su familia están mejor cuidados. “, Dijo Henein. La regulación voluntaria en las organizaciones australianas no es buena para la privacidad de los datos. Parte del problema es que, en Australia, hacer lo correcto en torno a la privacidad de los datos y la IA es en gran medida voluntario. VER: En qué deben centrarse los líderes australianos de TI antes de las reformas de privacidad. “Desde una perspectiva regulatoria, la mayoría de las empresas australianas se centran en la divulgación y presentación de informes sobre infracciones, dados todos los incidentes de alto perfil de los últimos dos años. Pero cuando se trata de aspectos básicos de privacidad, existen pocos requisitos para las empresas en Australia. Los principales pilares de la privacidad, como la transparencia, los derechos de privacidad del consumidor y el consentimiento explícito, simplemente faltan”, afirmó Henein. Sólo aquellas organizaciones australianas que han hecho negocios en el extranjero y se han topado con regulaciones externas han necesitado mejorar; Henein señaló como ejemplos el RGPD y las leyes de privacidad de Nueva Zelanda. Otras organizaciones deberán hacer de la generación de confianza con sus clientes una prioridad interna. Más cobertura de Australia Generar confianza en el uso de datos Si bien el uso de datos en IA puede no estar regulado y ser voluntario en Australia, hay cinco cosas que el equipo de TI puede (y debe) defender en toda la organización: Transparencia sobre la recopilación y el uso de datos: Transparencia en torno a la recopilación de datos se puede lograr a través de políticas de privacidad, formularios de consentimiento y opciones de exclusión voluntaria claros y fáciles de entender. Responsabilidad con la gobernanza de datos: todos en la organización deben reconocer la importancia de la calidad e integridad de los datos en la recopilación, el procesamiento y el análisis de datos, y deben existir políticas para reforzar el comportamiento. Alta calidad y precisión de los datos: la recopilación y el uso de datos deben ser precisos, ya que la información errónea puede hacer que los modelos de IA no sean confiables y, posteriormente, eso puede socavar la confianza en la seguridad y la gestión de los datos. Detección y respuesta proactivas a incidentes: un plan de respuesta a incidentes inadecuado puede provocar daños a la reputación y los datos de la organización. Control del cliente sobre sus propios datos: todos los servicios y funciones que implican la recopilación de datos deben permitir al cliente acceder, administrar y eliminar sus datos en sus propios términos y cuando lo desee. Autorregulación ahora para prepararse para el futuro Actualmente, la ley de privacidad de datos, incluidos los datos recopilados y utilizados en modelos de IA, está regulada por antiguas regulaciones creadas antes de que se utilizaran los modelos de IA. Por lo tanto, la única regulación que aplican las empresas australianas es la autodeterminada. Sin embargo, como dijo Henein de Gartner, existe mucho consenso sobre el camino correcto a seguir para la gestión de datos cuando se utilizan de estas formas nuevas y transformadoras. VER: Las organizaciones australianas se centrarán en la ética de la recopilación y el uso de datos en 2024. “En febrero de 2023, se publicó el Informe de revisión de la Ley de Privacidad con muchas buenas recomendaciones destinadas a modernizar la protección de datos en Australia”, dijo Henein. “Siete meses después, en septiembre de 2023, el Gobierno Federal respondió. De las 116 propuestas del informe original, el gobierno respondió favorablemente a 106”. Por ahora, algunos ejecutivos y juntas directivas pueden resistirse a la idea de una regulación autoimpuesta, pero el beneficio de esto es que una organización que pueda demostrar que está tomando estas medidas se beneficiará de una mayor reputación entre los clientes y será vista como que toma en cuenta sus preocupaciones. en torno al uso de datos en serio. Mientras tanto, algunos dentro de la organización podrían estar preocupados de que imponer la autorregulación pueda impedir la innovación. Como dijo Henein en respuesta a eso: «¿habría retrasado la introducción de cinturones de seguridad, zonas de deformación y bolsas de aire por temor a que estos aspectos frenaran los avances en la industria automotriz?» Ahora es el momento de que los profesionales de TI se hagan cargo y comiencen a cerrar esa brecha de confianza.

La gobernanza de datos será un enfoque renovado para la TI australiana en 2024

el enero 17, 2024

En toda Australia, hasta la fecha gran parte de la atención se ha centrado en comprender el papel de la inteligencia artificial en cada sector y dar esos primeros pasos hacia su adopción. Fue un año de experimentación y exploración. Pero mientras que 2023 fue el año en el que la IA irrumpió en la conciencia generalizada, 2024 parece que será un año más reflexivo, con la regulación del gobierno australiano a medida que la presión de los consumidores obliga a las empresas y a los equipos de TI a dar un paso atrás y analizar adecuadamente los aspectos éticos. Implicaciones detrás de la adopción de la IA. Y para ello, habrá una mirada renovada a la forma en que los datos alimentan los modelos de IA y cómo los científicos que construyen los modelos recopilan y gestionan esos datos. Para que la IA continúe su trayectoria positiva, 2024 también debe ser el año en el que la gobernanza de datos alcance la velocidad de la innovación. Cómo ve CSIRO, la agencia líder de Australia, a la IA Australia está decidida a ser líder en el desarrollo de la IA. La agencia científica nacional, CSIRO, ha establecido un Centro Nacional de IA, que organizó el primer Mes de la IA del país del 15 de noviembre al 15 de diciembre de 2023. VER: El aumento continuo de la IA en 2024 requerirá que la TI australiana supere desafíos importantes. Una de las predicciones clave de la NAIC para la IA en 2024 es que “la IA responsable y la buena gobernanza ocuparán un lugar central”. Para lograrlo, NAIC recomienda que las organizaciones se centren en cuatro prioridades clave: Tener una mejor comprensión del papel que tienen los datos en la IA. Comprender las vulnerabilidades que la IA abre a los datos. Desarrollar mejores procesos sobre cómo se recopilan los datos. Desarrollar mejores formas de aprovechar los datos en los modelos. Como señaló Jade Haar, jefa de privacidad y ética de datos del Banco Nacional de Australia, en las predicciones de NAIC, es necesario que haya un equilibrio entre el deseo de construir modelos a partir de grandes lagos de datos que simplemente estén llenos de la mayor cantidad de datos posible y la gobernanza. valor y obligaciones éticas de recopilar sólo los datos que sean necesarios. «Si ChatGPT nos ha enseñado algo, es que lo que comúnmente se conoce como información ‘pública’ no es lo mismo que información ‘libre y abierta'», dijo Haar según citó NAIC. “Los compradores de soluciones de IA deben seguir preguntando sobre la procedencia y los derechos de los datos o simplemente aceptar lo desconocido. Estos últimos son menos atractivos para las entidades públicas o reguladas”. Por qué es una urgencia apremiante Este llamado a un enfoque renovado en la gobernanza de datos en el camino hacia la adopción de la IA es oportuno. Una de las consecuencias que tuvo la IA el año pasado es que, ahora, todos los sectores quieren utilizarla, pero pueden correr un gran riesgo al hacerlo sin darse cuenta. VER: La estrategia de seguridad cibernética de seis escudos de Australia podría depender de qué tan bien la nación gestione los vastos conjuntos de datos. Por ejemplo, en su propio artículo de predicciones para 2024, Australian Property Investor señaló: “La IA está impulsando una adquisición de datos aún mayor, procesando el flujo interminable de datos que se produce a medida que diseñamos, construimos, compramos, vendemos y vivimos en nuestros hogares… Los macrodatos también están impulsando la transformación de industrias que se han quedado rezagadas en la adopción de la digitalización, incluidos los ayuntamientos y el gobierno local, la construcción y la logística”. Más cobertura de Australia Mientras tanto, si bien las pequeñas y medianas empresas han tardado en adoptar la IA, de las que participan en el comercio electrónico, más del 40% de las PYMES están utilizando la IA de alguna manera. Como destaca un artículo de Forbes Australia, la IA se está impulsando como una forma para que estas empresas lleguen a la Generación Z y otros consumidores “emergentes”. Para estos sectores, combinar datos de clientes e inteligencia artificial les permite orientar mejor los esfuerzos de marketing y ventas a estos clientes. Lo preocupante es que la gobernanza de datos suele ser una preocupación secundaria. Las organizaciones australianas entienden que los datos son un riesgo. La profundidad y amplitud de las violaciones de datos que han ocurrido en los últimos años lo han dejado claro. También son conscientes de que el gobierno está realizando esfuerzos para aumentar la regulación en la gobernanza de datos como parte de su amplia estrategia de seguridad cibernética. Sin embargo, a pesar de esto, el Instituto de Gobernanza de Australia descubrió recientemente que casi el 60% de las organizaciones tienen juntas directivas que no comprenden los desafíos de la gobernanza de datos de la organización. Además, las tecnologías emergentes y la IA son dos de los tres mayores riesgos en torno a la gobernanza de datos, siendo el otro los ciberataques directos. La promesa de la IA es liderar las juntas directivas y otros altos ejecutivos para presionar a las organizaciones para que adopten la tecnología sin considerar primero los requisitos subyacentes de gobernanza de datos. VER: Australia ha estado adoptando la IA generativa mientras intenta anticiparse a los riesgos. «No podemos subestimar el papel de la gobernanza a medida que avanzamos hacia la creación y el uso seguro, responsable y ético de la IA y la protección de datos vitales», dijo en el informe la presidenta y presidenta del Instituto de Gobernanza de Australia, Pauline Vamos. El papel de la TI en la promoción de la gobernanza de datos La realidad es que para que los modelos y aplicaciones de IA tengan éxito, las organizaciones necesitan aprovechar en gran medida sus datos, ya sea recopilando vastos lagos de big data de manera indiscriminada o siendo más específicos en los datos que recopilan e incluyen. en modelos. De cualquier manera, esto abre los datos a nuevos niveles de riesgo y, actualmente, las juntas directivas y los ejecutivos no están necesariamente preparados para afrontar este desafío. Esto significa que recaerá en los equipos de TI defender la gobernanza de datos dentro de la organización. A medida que el entusiasmo por el desarrollo de la IA se enfríe en 2024, habrá un enfoque renovado en cómo las organizaciones manejan y gestionan los datos de forma étnica. Por razones tanto regulatorias como de reputación, los profesionales de TI tienen la oportunidad de demostrar liderazgo y proteger sus organizaciones al mismo tiempo que ofrecen los beneficios de TI.

Si bien aumenta la adopción empresarial de la IA, las barreras limitan su uso

el enero 12, 2024

Alrededor del 42% de las empresas de escala empresarial informan haber implementado activamente inteligencia artificial en sus negocios y, de ellas, el 59% ha acelerado su implementación o inversiones en la tecnología, según el Índice Global de Adopción de IA 2023 de IBM. de 1.000 empleados. «Herramientas de IA más accesibles, el impulso hacia la automatización de procesos clave y cantidades cada vez mayores de IA integrada en aplicaciones comerciales listas para usar son los principales factores que impulsan la expansión de la IA a nivel empresarial», afirmó Rob Thomas, vicepresidente senior de IBM Software, en un comunicado. «Vemos organizaciones que aprovechan la IA para casos de uso en los que creo que la tecnología puede tener un impacto profundo más rápidamente, como la automatización de TI, la mano de obra digital y la atención al cliente», afirmó. Aunque la investigación reveló que el 40% de las empresas encuestadas siguen “estancadas en la zona de pruebas”, Thomas dijo que confía en que superarán barreras como la brecha de habilidades y la complejidad de los datos este año. Qué está impulsando la adopción de la IA Los principales factores que impulsan la adopción de la IA son: Avances en las herramientas de IA que las hacen más accesibles (45%). La necesidad de reducir costes y automatizar procesos clave (42%). La creciente cantidad de IA integrada en aplicaciones empresariales estándar (37%). La mayoría de las empresas encuestadas (59%) que implementan o exploran activamente la IA han acelerado su implementación o inversiones en los últimos 24 meses. Las principales inversiones en IA para las organizaciones que exploran o implementan IA se realizan en investigación y desarrollo (44%) y recapacitación/desarrollo de la fuerza laboral (39%). Para los profesionales de TI, las dos mejoras más importantes de la IA en los últimos años son herramientas que son más fáciles de implementar (43%) y la mayor prevalencia de datos, IA y habilidades de automatización (42%). Los servicios financieros son una de las industrias más maduras en la adopción de IA, seguida de las telecomunicaciones, dijo un portavoz de IBM a TechRepublic. Más estadísticas del Índice global de adopción de IA de IBM 2023 La investigación también encontró que: Más de un tercio de los profesionales de TI empresariales (38%) informan que su empresa está implementando activamente IA generativa y otro 42% la está explorando. Organizaciones en India (59%), China (50%), Singapur (53%) y los Emiratos Árabes Unidos (58%) están liderando el uso activo de la IA, en comparación con mercados rezagados como España (28%), Australia ( 29%) y Francia (26%). Las empresas dentro de la industria de servicios financieros tienen más probabilidades de utilizar IA, y aproximadamente la mitad de los profesionales de TI en esa industria informan que su empresa ha implementado IA activamente. Dentro de la industria de las telecomunicaciones, el 37% de los profesionales de TI afirman que su empresa está implementando IA. El principal caso de uso de la IA es la automatización. Los casos de uso de la IA que están impulsando la adopción por parte de las empresas encuestadas que actualmente exploran o implementan la IA abarcan muchas áreas clave de las operaciones comerciales. En particular, la automatización es el principal caso de uso en varias áreas, entre ellas: Procesos de TI (33%). Procesamiento, comprensión y flujo de documentos (24%). Respuestas y acciones de autoservicio de clientes o empleados (23%). Procesos de negocio (22%). Procesos de red (22%). Otras áreas donde se utiliza la IA incluyen: Seguridad y detección de amenazas (26%). Monitoreo o gobernanza de la IA (25%). Analítica o inteligencia empresarial (24%). Trabajo digital (22%). Marketing y ventas (22%). Detección de fraude (22%). Búsqueda y descubrimiento de conocimiento (21%). Recursos humanos y adquisición de talento (19%). Planificación y análisis financiero (18%). Inteligencia de la cadena de suministro (18%). Las principales barreras para el uso de la IA El cuarenta por ciento de las empresas encuestadas están explorando o experimentando con la IA, pero no han implementado sus modelos. Las principales barreras que impiden el despliegue incluyen habilidades y experiencia limitadas en IA (33%), demasiada complejidad de datos (25%) y preocupaciones éticas (23%), dijo la compañía. La IA generativa plantea barreras de entrada diferentes a las de los modelos tradicionales de IA, señala el informe. Por ejemplo, los profesionales de TI de las organizaciones encuestadas que no exploran ni implementan la IA generativa informaron que las preocupaciones sobre la privacidad de los datos (57%) y la confianza y la transparencia (43%) son los mayores inhibidores de la IA generativa. Otro 35% también dijo que la falta de habilidades para la implementación es un gran inhibidor, según el informe. Cómo abordar las barreras de entrada de la IA Un portavoz de IBM dijo: “Las empresas deben establecer estrategias de IA que definan claramente los problemas que quieren resolver, asegurarse de tener los datos correctos en el lugar correcto para impulsar esos resultados, superar las brechas de habilidades seleccionando las personas y las herramientas de automatización adecuadas, e incorporar la gobernanza de la IA desde el inicio de su proceso de adopción”. Para algunas organizaciones, el mejor enfoque podría ser comenzar con algo pequeño y específico. “En 2024, esperamos que los líderes empresariales comiencen a analizar y probar la IA caso por caso y no a grandes rasgos”, dijo el portavoz, “asumiendo que la tecnología es la herramienta adecuada para resolver cada problema. Las empresas que utilicen IA por primera vez utilizarán asistentes de IA disponibles en el mercado creados para necesidades empresariales específicas”. El impacto de la IA en la fuerza laboral Entre las organizaciones encuestadas, una de cada cinco informó que no tiene empleados con las habilidades adecuadas para usar nuevas herramientas de IA o automatización, y el 16% no puede encontrar nuevos empleados con las habilidades para abordar esa brecha. Las empresas que utilizan la IA para abordar la escasez de mano de obra o habilidades dijeron que están recurriendo a la IA para reducir las tareas manuales o repetitivas con herramientas de automatización (55%) o automatizar las respuestas y acciones de autoservicio del cliente (47%). Solo el 34% dijo que está capacitando o recapacitando a los empleados para que trabajen juntos con nuevas herramientas de automatización e inteligencia artificial. La importancia de una IA gobernada y confiable Según el informe de IBM, los profesionales de TI comprenden la necesidad de una IA gobernada y confiable, pero las barreras antes mencionadas dificultan que las empresas encuestadas la pongan en práctica. Por ejemplo, la investigación encontró que los profesionales de TI están de acuerdo en general en que es más probable que los consumidores elijan servicios de empresas con prácticas de IA transparentes y éticas (el 85% está totalmente o algo de acuerdo). Dijeron que la capacidad de explicar cómo su IA llegó a una decisión es importante para su negocio (83% entre las empresas que exploran o implementan IA). Sin embargo, un hallazgo sorprendente fue que, aunque muchas empresas que ya implementan IA se enfrentan a múltiples barreras en el proceso, mucho menos de la mitad informó que están tomando medidas clave hacia una IA confiable, como por ejemplo: Reducir el sesgo (27%). Seguimiento de la procedencia de los datos (37%). Asegurándose de que puedan explicar las decisiones de sus modelos de IA (41%). Desarrollar políticas éticas de IA (44%). La reducción del sesgo comienza con la gobernanza, afirmó el portavoz de IBM. «Para aprovechar todo el potencial de la IA y reducir los sesgos, los datos y las herramientas de gobernanza de la IA son esenciales para escalar modelos manteniendo al mismo tiempo la equidad, la transparencia y el cumplimiento», dijo el portavoz. «Sin estas salvaguardas, los resultados de la IA pueden ser sesgados, discriminatorios o, a veces, simplemente incorrectos», añadió el portavoz. Sin el uso de herramientas de gobernanza, la IA puede exponer a las empresas a varios problemas de privacidad de datos, incluida la filtración de datos privados y confidenciales o la infracción de derechos de autor. Las organizaciones también corren el riesgo de sufrir complicaciones legales y dilemas éticos, por lo que incorporar la gobernanza desde el principio puede ayudar a evitar problemas posteriores. Metodología de encuesta de IBM IBM dijo que la encuesta se realizó en noviembre de 2023 entre una muestra representativa de 8.584 profesionales de TI en Australia, Canadá, China, Francia, Alemania, India, Italia, Japón, Singapur, Corea del Sur, España, Emiratos Árabes Unidos, Reino Unido, Estados Unidos y LATAM.

Cómo utilizar la gobernanza de datos para sistemas de IA/ML

el noviembre 1, 2023

La gobernanza de datos juega un papel fundamental para garantizar que los datos estén disponibles, sean consistentes, utilizables, confiables y seguros. Hay muchos desafíos que enfrentar para mantener la gobernanza de datos, y la apuesta ha subido para sistemas como la inteligencia artificial y el aprendizaje automático. Los sistemas AI/ML funcionan de manera diferente a los sistemas tradicionales de registros fijos. El objetivo no es devolver un valor o un estado para una sola transacción. Más bien, un sistema de IA/ML examina petabytes de datos en busca de respuestas a consultas que pueden ser vastas y multifacéticas. Además, los datos pueden provenir de muchas fuentes internas y externas diferentes, cada una con su propia forma de recopilar, curar y almacenar datos, que pueden ajustarse o no a los estándares de gobernanza de su organización. Luego, es cuestión de asegurarse de que los sistemas de IA/ML estén capacitados con datos confiables para garantizar la precisión. Estas son solo algunas de las preocupaciones que enfrentan las empresas y sus auditores mientras se centran en la gobernanza de datos para AI/ML y buscan herramientas que puedan ayudarlos. Saltar a: ¿Por qué es necesaria la gobernanza de datos para los sistemas de IA/ML? Según el Índice global de adopción de IA de IBM 2022, la tasa de adopción global de IA es del 35% y es omnipresente en algunas industrias y países de todo el mundo. Esta rápida adopción de sistemas de IA y ML para impulsar la innovación y la toma de decisiones hace que la integridad y la gestión de los datos subyacentes sean primordiales. VER: Obtenga más información sobre la gobernanza de datos. En comparación con los sistemas informáticos tradicionales, los sistemas de IA y ML tienen más matices, lo que subraya la importancia de la gobernanza de datos. Hay dos razones principales por las que es necesario un marco de gobernanza de datos sólido para los sistemas AI/ML: Estructura dinámica: en comparación con los sistemas de datos tradicionales, los sistemas AI/ML son dinámicos: evolucionan constantemente y aprenden de datos estructurados y no estructurados. Volumen y variedad de datos: la eficacia de un sistema de IA/ML es directamente proporcional al volumen y la variedad de los conjuntos de datos con los que entrena y de los que aprende. Debido a estos factores, sin una gobernanza estricta, los sistemas de IA/ML pueden producir resultados inconsistentes, inexactos e incluso sesgados. ¿Cómo funciona la gobernanza de datos con los sistemas de IA/ML? Los sistemas AI/ML están diseñados para manejar grandes cantidades de datos de forma simultánea y asincrónica. Esto significa que se introducen múltiples subprocesos de datos en el procesador al mismo tiempo, lo que permite un procesamiento de datos más rápido y eficiente. Sin embargo, esto también introduce complejidades. El objetivo principal de un sistema de IA/ML es buscar en conjuntos de datos masivos para encontrar respuestas, que van desde predecir tendencias futuras basadas en datos históricos hasta identificar patrones en datos de comercio electrónico. Si los datos de una fuente están corruptos o sesgados, pueden influir en el resultado general, haciendo que los resultados no sean fiables. Por lo tanto, es de vital importancia incorporar una gobernanza de datos rigurosa en el proceso para garantizar que cada hilo de datos sea preciso, relevante y esté libre de sesgos. El papel de TI en la aceleración del procesamiento de datos Los departamentos de TI desempeñan un papel fundamental en el proceso de gobernanza de datos de IA/ML. Al preprocesar y eliminar datos irrelevantes o redundantes, pueden acelerar significativamente los tiempos de procesamiento de datos para los sistemas AI/ML. Esto garantiza que los modelos AI/ML se ejecuten de manera eficiente y funcionen con los datos más relevantes y de alta calidad. VER: Explore estas principales herramientas de preparación de datos. Además, los equipos de TI pueden implementar herramientas y protocolos para automatizar muchas tareas de gobernanza, como la validación de datos, garantizar la coherencia entre fuentes de datos y monitorear posibles violaciones de seguridad. Desafíos en la implementación de la gobernanza de datos para sistemas AI/ML La integración y gestión de datos para sistemas AI/ML plantean varios desafíos de gobernanza de datos que las organizaciones deben afrontar. Cobertura de big data de lectura obligada Integración de datos de varias fuentes Cuando las organizaciones recopilan datos de múltiples fuentes, cada una con sus propios estándares de gobernanza, garantizar la coherencia se convierte en un obstáculo importante. Esta diversidad puede dar lugar a discrepancias, redundancias e imprecisiones en los datos. Los datos deben armonizarse para proporcionar una visión integral que sea esencial para la eficacia. Integrar los datos en un formato unificado es un proceso complejo que implica limpieza, transformación y normalización. Para evitar modelos defectuosos, es fundamental garantizar que los vastos conjuntos de datos utilizados por los sistemas de IA/ML sean precisos y relevantes. Recomendaciones confiables Los datos de entrenamiento de algunos modelos de IA/ML son secretos, lo que dificulta que las organizaciones confíen y comprendan plenamente las recomendaciones proporcionadas por estos sistemas. Sin una idea de cómo se toman las decisiones, existe el riesgo de una mala interpretación o uso indebido. Por ejemplo, los modelos de IA/ML a veces reflejan o amplifican sesgos en los datos. Según un estudio de Obermeyer et al, un algoritmo que utilizó los costos de salud como indicador de las necesidades de salud, asignó a los pacientes negros, que estaban más enfermos que otros pacientes blancos, el mismo nivel de riesgo para la salud. Saber qué datos de entrenamiento se utilizan para el modelo y que se practica una gobernanza de datos rigurosa puede ayudar a identificar y rectificar estos sesgos, garantizando la equidad en los resultados del modelo. Mantener la calidad de los datos Dado que los sistemas de IA/ML dependen en gran medida de datos de alta calidad, es fundamental garantizar que los datos estén limpios, sean precisos y estén actualizados. La mala calidad de los datos puede dar lugar a predicciones y conocimientos erróneos del modelo. Por ejemplo, la mala calidad de los datos puede provocar sesgos en las predicciones. Un modelo de contratación discontinuo de Amazon es otro gran ejemplo en el que un ML formado con currículums de una década en 2014 desarrolló un sesgo contra las candidatas. La implementación de una gobernanza de datos para los sistemas de IA/ML garantiza que los datos utilizados sean siempre de la más alta calidad, lo que puede ayudar a eliminar cualquier sesgo o imprecisión. Seguridad y privacidad de los datos El manejo de grandes volúmenes de datos procesados requiere una vigilancia constante para proteger la información confidencial y cumplir con las regulaciones. Grandes volúmenes de datos conllevan un mayor riesgo de seguridad y cumplimiento que exige el cumplimiento de muchas leyes diferentes de privacidad y protección de datos que trascienden fronteras. VER: Explore estas herramientas de calidad de datos superiores. Las fallas en la seguridad de los datos pueden tener consecuencias nefastas, como acceso no autorizado, manipulación de datos y violaciones. También puede socavar la confianza en el sistema de IA y tener consecuencias legales que dañen la reputación de una empresa y provoquen pérdidas financieras por disminución de las ventas o multas regulatorias. Una política de gobernanza de datos garantiza de manera proactiva que la seguridad de los datos cumpla con las regulaciones de protección de datos, emplea métodos de encriptación y monitorea el acceso a los datos periódicamente a través de auditorías. Cómo utilizar la gobernanza de datos para sistemas AI/ML El futuro de la gobernanza de datos en AI/ML no se trata solo de administrar datos sino también garantizar que se aproveche de manera responsable y eficaz. A medida que evoluciona el panorama de la IA/ML, también lo hace la importancia de una gobernanza de datos sólida. Las organizaciones deben ser proactivas, adaptables y estar equipadas con las herramientas adecuadas para navegar en este terreno. Asegúrese de que los datos sean consistentes y precisos Al integrar datos de sistemas transaccionales internos y externos, los datos deben estar estandarizados, para que puedan comunicarse y combinarse con datos de otras fuentes. Las interfaces de programación de aplicaciones que están prediseñadas en muchos sistemas facilitan esto, de modo que pueden intercambiar datos con otros sistemas. Si no hay API disponibles, las empresas pueden utilizar herramientas ETL, que transfieren datos de un sistema a un formato que otro sistema puede leer. Al agregar datos no estructurados, como objetos fotográficos, de video y de sonido, existen herramientas de vinculación de objetos que pueden vincular y relacionar estos objetos entre sí. Un buen ejemplo de enlazador de objetos es un sistema de información geográfica, que combina fotografías, esquemas y otros tipos de datos para ofrecer un contexto geográfico completo para un entorno particular. Confirmar que los datos son utilizables A menudo pensamos que los datos utilizables son datos a los que los usuarios pueden acceder, pero es más que eso. Si los datos han perdido su valor porque están obsoletos, deben eliminarse. Dicho esto, los usuarios empresariales y de TI deben ponerse de acuerdo sobre cuándo se deben eliminar los datos. Esto vendrá en forma de políticas de retención de datos. PREMIUM: Benefíciate de esta política de retención de datos electrónicos. Hay otras ocasiones en las que se deben eliminar los datos de IA/ML. Esto sucede cuando se cambia un modelo de datos para IA y los datos ya no se ajustan al modelo. En una auditoría de gobernanza de IA/ML, los examinadores esperarán ver políticas y procedimientos escritos para ambos tipos de depuración de datos. También verificarán que las prácticas de eliminación de datos cumplan con los estándares de la industria. Para mantenerse al día con estos estándares y prácticas, las empresas deberían considerar invertir en herramientas y utilidades de eliminación de datos. Asegúrese de que los datos sean confiables. Las circunstancias cambian. Un sistema de IA/ML que alguna vez funcionó de manera bastante eficiente puede comenzar a perder efectividad. Esto se conoce como deriva del modelo. Esto se puede confirmar comparando periódicamente los resultados de AI/ML con el rendimiento pasado y con lo que está sucediendo en el mundo. Si la precisión del sistema AI/ML se aleja de los datos actuales, es esencial solucionarlo. PREMIUM: asegúrese de que su empresa esté equipada con una política de ética de IA. Existen herramientas de IA/ML que los científicos de datos utilizan para medir la desviación del modelo, pero la forma más directa para que los profesionales de negocios verifiquen la desviación es comparar el rendimiento del sistema de IA/ML con el rendimiento histórico. Para abordar los desafíos de implementar la gobernanza de datos en sistemas de IA/ML, las organizaciones pueden invertir en herramientas de gobernanza de datos. Estas son algunas de las principales herramientas: Collibra: una plataforma holística de gobierno de datos adecuada para la gestión y el gobierno integrales de datos. Informatica: Reconocida por la integración de datos, es ideal para integrar datos de múltiples fuentes. Alation: Automatiza el descubrimiento y la catalogación de datos mediante el aprendizaje automático. Erwin: proporciona capacidades de modelado de datos, lo que ayuda a las empresas a comprender su panorama de datos. OneTrust: enfatiza el cumplimiento de datos, ayudando a las empresas a cumplir con las regulaciones. SAP Master Data Governance: ofrece procesamiento y gobierno de datos sólidos para empresas. Para obtener un análisis más detallado de las herramientas de gobernanza de datos y cómo pueden beneficiar a su organización, lea nuestra revisión de las principales herramientas de gobernanza de datos de 2023.