Australia tiene el problema de desacelerar el crecimiento de la productividad. Como grupo encargado de abordar este problema, la Comisión de Productividad del gobierno australiano está considerando la IA como una parte potencial del problema. Recientemente, la Comisión publicó un informe de tres artículos, Aprovechar al máximo la oportunidad de la IA: productividad, regulación y acceso a datos, para analizar más a fondo esta oportunidad. Para maximizar las ganancias de productividad derivadas de la IA, el documento aboga por un enfoque de regulación suave. Además, la Comisión recomienda que los departamentos gubernamentales de todos los niveles (federal, estatal y local) “lideren con el ejemplo” y aporten sus propios datos y recursos para promover el desarrollo de modelos de IA de calidad. Desglose de la investigación El informe de investigación se divide en tres artículos separados. Documento 1: Adopción de la IA, productividad y el papel del gobierno El primer documento señala que debido a que la IA ya se está volviendo omnipresente en algunas áreas en línea y se está incorporando a las herramientas cotidianas, es una tecnología que ya está brindando beneficios de productividad a todas las empresas e individuos. . Son pequeños por ahora pero crecerán con el tiempo. Si bien esos aumentos de productividad son interesantes, el informe también reconoce que la IA plantea riesgos, particularmente en torno a la confianza del consumidor. La Comisión recomienda que los gobiernos puedan ser parte de la solución a este desafío de confianza aportando sus propios datos de alta calidad para respaldar el desarrollo de modelos de calidad. «La estrategia digital y de datos provisional del Gobierno señala que el Servicio Público Australiano gestiona una gran cantidad de datos que no se utilizan en toda su extensión, y el acceso sigue restringido a pesar de los claros beneficios derivados de compartir datos de forma segura entre los sectores público y privado», el notas del informe. Documento 2: Los desafíos de regular la IA El segundo documento analiza los beneficios y riesgos de la IA y cómo el gobierno australiano debería regularla. Cita la respuesta provisional del gobierno australiano a la Consulta sobre IA segura y responsable en Australia como un punto de partida útil y el documento de la Comisión de Productividad como un enfoque sistemático e implementable para la regulación de la IA (Figura A). Figura A: Regulación del uso de la IA. Imagen: Comisión de Productividad Vale la pena señalar que actualmente Australia tiene regulaciones muy suaves sobre la IA, y la industria y el público, en su mayor parte, están mirando las leyes europeas de IA que se introducirán próximamente para obtener orientación sobre el asunto. Sin embargo, en lugar de que la regulación del riesgo socave la productividad, el documento sostiene que el uso seguro y ético de la IA se reduce a una serie de factores como las normas sociales, las presiones del mercado, la arquitectura de codificación y la confianza pública. En otras palabras, el informe sostiene que es poco probable que un enfoque rígido de la regulación de la IA aborde los riesgos, y que los reguladores necesitan un enfoque más holístico. Documento 3: La IA aumenta los riesgos para la política de datos El tercer documento señala que los datos han sido un recurso tanto para el sector público como para el privado durante décadas. La IA ha acelerado las ganancias potenciales y al mismo tiempo ha elevado el riesgo. Los australianos también lo saben. Como muestra la investigación de la Comisión, la privacidad, junto con la calidad y el precio, es una de las tres principales preocupaciones entre los australianos cuando se trata de datos (Figura B). Para disipar estas preocupaciones, la Comisión recomienda una estrategia nacional de datos como preferible a una regulación contundente. Figura B: Los australianos dan una alta puntuación a la privacidad de los datos, pero por detrás de la calidad y el precio. Imagen: Comisión de Productividad “Una vez desarrolladas, todas las regulaciones y directrices futuras sobre el uso y análisis de datos podrían hacer referencia a los principios acordados de la estrategia nacional de datos”, señala el informe. «De esta manera, la estrategia de datos podría proporcionar una base segura y consistente para el desarrollo y uso de la IA y otras tecnologías con uso intensivo de datos». Más cobertura de Australia Colaboración con el gobierno en juego La idea central de la investigación es que el gobierno debería buscar ser un participante activo en la configuración de la IA. Los investigadores argumentan que el gobierno debería resistirse a infundir miedo en algunos rincones con respecto a la IA y aprovechar la oportunidad que tiene de ser una parte activa del desarrollo de mejores prácticas en IA. Para la industria, esto puede significar una proliferación de oportunidades para que los sectores público y privado se unan en colaboración. Algunas oportunidades potenciales incluyen: Iniciativas de autorregulación de la industria. Los profesionales de datos y el sector privado pueden adoptar voluntariamente principios éticos, mejores prácticas y directrices para el desarrollo y uso responsable de la IA y demostrar su compromiso con los valores sociales y la confiabilidad. Esto puede ayudar a reducir la necesidad de intervención gubernamental y garantizar que se le recomiende ese enfoque suave al gobierno australiano. Codiseño de políticas de IA con las partes interesadas. Los profesionales de datos y el sector privado pueden participar activamente en el desarrollo de políticas y regulaciones de IA y brindar su experiencia, conocimientos y retroalimentación a las agencias gubernamentales. Esto puede ayudar a garantizar que las políticas se basen en los últimos avances tecnológicos, reflejen las necesidades e intereses de las diversas partes interesadas y logren un equilibrio entre innovación y regulación. Consejos asesores de ética de la IA El gobierno puede guiarse por consejos asesores de ética de la IA, que luego pueden utilizarse como marco para el desarrollo de cualquier regulación. Estas juntas pueden actuar para informar al gobierno sobre los riesgos y daños, proponer estrategias de mitigación y promover la conciencia pública y el compromiso con la ética de la IA. Adopción de tecnologías de IA por parte del sector público La creación de soluciones de IA que mejoren la prestación, la eficiencia y la transparencia de los servicios públicos puede dar como resultado un gobierno que esté más familiarizado con las capacidades y los desafíos de la IA. Las organizaciones que trabajan mucho con agencias gubernamentales deberían considerar agregar acreditaciones relacionadas con la IA para ayudar con las licitaciones y el apoyo estratégico que la empresa luego puede brindar al gobierno.
Etiqueta: regulación de datos
Los datos globales de Cisco destacan una tendencia preocupante: las organizaciones australianas están empezando a quedarse atrás en una “brecha de confianza” entre lo que los clientes esperan que hagan con los datos y la privacidad y lo que realmente está sucediendo. Los nuevos datos muestran que el 90% de las personas quieren que las organizaciones se transformen para gestionar adecuadamente los datos y los riesgos. Con un entorno regulatorio que se ha quedado atrás, para que las organizaciones australianas puedan lograrlo, tendrán que avanzar más rápido que el entorno regulatorio. Las empresas australianas deben tomarse en serio Según un importante estudio global reciente de Cisco, más del 90% de las personas cree que la IA generativa requiere nuevas técnicas para gestionar los datos y los riesgos (Figura A). Mientras tanto, al 69% le preocupa la posibilidad de que los derechos legales y de propiedad intelectual se vean comprometidos, y al 68% le preocupa el riesgo de divulgación al público o a los competidores. Figura A: Preocupaciones de la organización y los usuarios con la IA generativa. Imagen: Cisco Básicamente, si bien los clientes aprecian el valor que la IA puede aportarles en términos de personalización y niveles de servicio, también se sienten incómodos con las implicaciones para su privacidad si sus datos se utilizan como parte de los modelos de IA. PREMIUM: Las organizaciones australianas deberían considerar una política de ética de IA. Alrededor del 8% de los participantes en la encuesta de Cisco eran de Australia, aunque el estudio no desglosa las preocupaciones anteriores por territorio. Los australianos tienen más probabilidades de violar las políticas de seguridad de los datos a pesar de las preocupaciones sobre la privacidad de los datos. Otras investigaciones muestran que los australianos son particularmente sensibles a la forma en que las organizaciones utilizan sus datos. Según una investigación de Quantum Market Research y Porter Novelli, el 74% de los australianos están preocupados por el ciberdelito. Además, al 45% le preocupa que se robe su información financiera y al 28% le preocupan sus documentos de identidad, como pasaportes y licencias de conducir (Figura B). Figura B: Los australianos están más preocupados por los datos financieros que por cualquier otra información personal. Imagen: Porter Novelli y Quantum Market Research Sin embargo, los australianos también tienen el doble de probabilidades que el promedio mundial de violar las políticas de seguridad de datos en el trabajo. Como dijo el vicepresidente y analista de Gartner, Nader Henein, las organizaciones deberían estar profundamente preocupadas por esta violación de la confianza del cliente porque los clientes estarán felices de tomar sus billeteras y caminar. “El hecho es que los consumidores de hoy están más que felices de cruzar el camino hacia la competencia y, en algunos casos, pagar una prima por el mismo servicio, si es allí donde creen que sus datos y los de su familia están mejor cuidados. “, Dijo Henein. La regulación voluntaria en las organizaciones australianas no es buena para la privacidad de los datos. Parte del problema es que, en Australia, hacer lo correcto en torno a la privacidad de los datos y la IA es en gran medida voluntario. VER: En qué deben centrarse los líderes australianos de TI antes de las reformas de privacidad. “Desde una perspectiva regulatoria, la mayoría de las empresas australianas se centran en la divulgación y presentación de informes sobre infracciones, dados todos los incidentes de alto perfil de los últimos dos años. Pero cuando se trata de aspectos básicos de privacidad, existen pocos requisitos para las empresas en Australia. Los principales pilares de la privacidad, como la transparencia, los derechos de privacidad del consumidor y el consentimiento explícito, simplemente faltan”, afirmó Henein. Sólo aquellas organizaciones australianas que han hecho negocios en el extranjero y se han topado con regulaciones externas han necesitado mejorar; Henein señaló como ejemplos el RGPD y las leyes de privacidad de Nueva Zelanda. Otras organizaciones deberán hacer de la generación de confianza con sus clientes una prioridad interna. Más cobertura de Australia Generar confianza en el uso de datos Si bien el uso de datos en IA puede no estar regulado y ser voluntario en Australia, hay cinco cosas que el equipo de TI puede (y debe) defender en toda la organización: Transparencia sobre la recopilación y el uso de datos: Transparencia en torno a la recopilación de datos se puede lograr a través de políticas de privacidad, formularios de consentimiento y opciones de exclusión voluntaria claros y fáciles de entender. Responsabilidad con la gobernanza de datos: todos en la organización deben reconocer la importancia de la calidad e integridad de los datos en la recopilación, el procesamiento y el análisis de datos, y deben existir políticas para reforzar el comportamiento. Alta calidad y precisión de los datos: la recopilación y el uso de datos deben ser precisos, ya que la información errónea puede hacer que los modelos de IA no sean confiables y, posteriormente, eso puede socavar la confianza en la seguridad y la gestión de los datos. Detección y respuesta proactivas a incidentes: un plan de respuesta a incidentes inadecuado puede provocar daños a la reputación y los datos de la organización. Control del cliente sobre sus propios datos: todos los servicios y funciones que implican la recopilación de datos deben permitir al cliente acceder, administrar y eliminar sus datos en sus propios términos y cuando lo desee. Autorregulación ahora para prepararse para el futuro Actualmente, la ley de privacidad de datos, incluidos los datos recopilados y utilizados en modelos de IA, está regulada por antiguas regulaciones creadas antes de que se utilizaran los modelos de IA. Por lo tanto, la única regulación que aplican las empresas australianas es la autodeterminada. Sin embargo, como dijo Henein de Gartner, existe mucho consenso sobre el camino correcto a seguir para la gestión de datos cuando se utilizan de estas formas nuevas y transformadoras. VER: Las organizaciones australianas se centrarán en la ética de la recopilación y el uso de datos en 2024. “En febrero de 2023, se publicó el Informe de revisión de la Ley de Privacidad con muchas buenas recomendaciones destinadas a modernizar la protección de datos en Australia”, dijo Henein. “Siete meses después, en septiembre de 2023, el Gobierno Federal respondió. De las 116 propuestas del informe original, el gobierno respondió favorablemente a 106”. Por ahora, algunos ejecutivos y juntas directivas pueden resistirse a la idea de una regulación autoimpuesta, pero el beneficio de esto es que una organización que pueda demostrar que está tomando estas medidas se beneficiará de una mayor reputación entre los clientes y será vista como que toma en cuenta sus preocupaciones. en torno al uso de datos en serio. Mientras tanto, algunos dentro de la organización podrían estar preocupados de que imponer la autorregulación pueda impedir la innovación. Como dijo Henein en respuesta a eso: «¿habría retrasado la introducción de cinturones de seguridad, zonas de deformación y bolsas de aire por temor a que estos aspectos frenaran los avances en la industria automotriz?» Ahora es el momento de que los profesionales de TI se hagan cargo y comiencen a cerrar esa brecha de confianza.