Las preocupaciones sobre la privacidad de los datos en relación con la IA generativa han aumentado, según un nuevo informe de Deloitte. Mientras que el año pasado sólo el 22% de los profesionales la situaban entre sus tres principales preocupaciones, este año la cifra ha aumentado hasta el 72%. Las siguientes preocupaciones éticas de GenAI fueron la transparencia y la procedencia de los datos, y el 47% y el 40% de los profesionales las clasificaron entre las tres principales este año. Mientras tanto, sólo el 16% expresó preocupación por el desplazamiento de puestos de trabajo. El personal siente cada vez más curiosidad por saber cómo funciona la tecnología de inteligencia artificial, especialmente en lo que respecta a los datos confidenciales. Un estudio de septiembre realizado por HackerOne encontró que casi la mitad de los profesionales de seguridad creen que la IA es riesgosa, y muchos ven los datos de entrenamiento filtrados como una amenaza. De manera similar, el 78 % de los líderes empresariales clasificaron “seguro y protegido” como uno de sus tres principios tecnológicos éticos principales, lo que representa un aumento del 37 % con respecto a 2023, lo que demuestra aún más cómo la cuestión de la seguridad es una prioridad. Los resultados de la encuesta provienen del informe “Estado de la ética y la confianza en la tecnología” de 2024 de Deloitte, que encuestó a más de 1.800 profesionales técnicos y empresariales de todo el mundo sobre los principios éticos que aplican a las tecnologías, específicamente a GenAI. Es probable que los incidentes de seguridad de IA de alto perfil atraigan más atención. Poco más de la mitad de los encuestados en los informes de este año y del año pasado dijeron que las tecnologías cognitivas como la IA y la GenAI plantean los mayores riesgos éticos en comparación con otras tecnologías emergentes, como la realidad virtual, la computación cuántica, vehículos autónomos y robótica. Este nuevo enfoque puede estar relacionado con una mayor conciencia de la importancia de la seguridad de los datos debido a incidentes muy publicitados, como cuando un error en ChatGPT de OpenAI expuso datos personales de alrededor del 1,2% de los suscriptores de ChatGPT Plus, incluidos nombres, correos electrónicos y datos parciales. detalles de pago. La confianza en el chatbot seguramente también se vio erosionada por la noticia de que los piratas informáticos habían irrumpido en un foro en línea utilizado por los empleados de OpenAI y habían robado información confidencial sobre los sistemas de inteligencia artificial de la empresa. VER: Política de ética de la inteligencia artificial «La disponibilidad y adopción generalizada de GenAI puede haber aumentado la familiaridad y la confianza de los encuestados en la tecnología, generando optimismo sobre su potencial para el bien», dijo Beena Ammanath, Global Deloitte AI Institute y líder de Trustworthy AI, en un presione soltar. «Los continuos sentimientos de cautela sobre sus riesgos aparentes subrayan la necesidad de marcos éticos específicos y evolucionados que permitan un impacto positivo». Más cobertura de IA de lectura obligada La legislación sobre IA está afectando la forma en que operan las organizaciones en todo el mundo Naturalmente, más personal está usando GenAI en el trabajo que el año pasado, y el porcentaje de profesionales que informan que lo usan internamente aumentó un 20% en los informes año tras año de Deloitte. . Un enorme 94% dijo que sus empresas lo han inculcado en los procesos de alguna manera. Sin embargo, la mayoría indicó que todavía se encuentra en la fase piloto o que su uso es limitado, y sólo el 12% dijo que su uso está generalizado. Esto se alinea con una investigación reciente de Gartner que encontró que la mayoría de los proyectos GenAI no pasan de la etapa de prueba de concepto. VER: IBM: Mientras aumenta la adopción empresarial de la inteligencia artificial, las barreras limitan su uso Independientemente de su omnipresencia, los tomadores de decisiones quieren asegurarse de que su uso de la IA no les cause problemas, particularmente en lo que respecta a la legislación. La razón mejor calificada para contar con políticas y directrices tecnológicas éticas fue el cumplimiento, citada por el 34% de los encuestados, mientras que las sanciones regulatorias estuvieron entre las tres principales preocupaciones reportadas si no se siguen dichos estándares. La Ley de IA de la UE entró en vigor el 1 de agosto e impone requisitos estrictos a los sistemas de IA de alto riesgo para garantizar la seguridad, la transparencia y el uso ético. El incumplimiento podría dar lugar a multas que van desde 35 millones de euros (38 millones de dólares) o el 7% de la facturación global hasta 7,5 millones de euros (8,1 millones de dólares) o el 1,5% de la facturación. Más de cien empresas, incluidas Amazon, Google, Microsoft y OpenAI, ya firmaron el Pacto de IA de la UE y se ofrecieron voluntariamente para comenzar a implementar los requisitos de la ley antes de los plazos legales. Esto demuestra su compromiso con el despliegue responsable de la IA al público y les ayuda a evitar futuros desafíos legales. De manera similar, en octubre de 2023, Estados Unidos dio a conocer una Orden Ejecutiva sobre IA que presenta una amplia orientación sobre el mantenimiento de la seguridad, los derechos civiles y la privacidad dentro de las agencias gubernamentales, al tiempo que promueve la innovación y la competencia en IA en todo el país. Si bien no es una ley, muchas empresas operativas en EE. UU. pueden realizar cambios de política en respuesta para garantizar el cumplimiento de la evolución de la supervisión federal y las expectativas públicas sobre la seguridad de la IA. VER: Los países del G7 establecen un código de conducta voluntario sobre IA La Ley de IA de la UE ha tenido influencia en Europa, y el 34% de los encuestados europeos dijeron que sus organizaciones habían realizado cambios en el uso de la IA durante el último año en respuesta. Sin embargo, el impacto es más generalizado, ya que el 26% de los encuestados del sur de Asia y el 16% de los encuestados de América del Norte y del Sur también hicieron cambios debido a la promulgación de la ley. Además, el 20% de los encuestados con sede en EE. UU. dijeron que habían realizado cambios en sus organizaciones en respuesta a la orden ejecutiva. Una cuarta parte de los encuestados del sur de Asia, el 21% de América del Sur y el 12% de Europa dijeron lo mismo. «Se reconoce que las tecnologías cognitivas como la IA tienen el mayor potencial para beneficiar a la sociedad y el mayor riesgo de uso indebido», escribieron los autores del informe. “La adopción acelerada de GenAI puede estar superando la capacidad de las organizaciones para gestionar la tecnología. Las empresas deben priorizar tanto la implementación de estándares éticos para GenAI como una selección significativa de casos de uso a los que se aplican las herramientas GenAI”.
Etiqueta: abrirte
En un giro bastante desconcertante de los acontecimientos, OpenAI presentó una solicitud para desestimar aspectos de la demanda del New York Times. En su presentación, OpenAI sostiene que el periódico se dedicó a «piratear» ChatGPT y otros sistemas de inteligencia artificial. Según OpenAI, el Times empleó métodos engañosos, violando los términos de uso de OpenAI, para manipular estos sistemas de IA para reproducir material protegido por derechos de autor. El quid de la cuestión del argumento de OpenAI a favor del despido gira en torno al presunto uso indebido de su tecnología por parte del Times. OpenAI afirma que esto fue hecho por un individuo anónimo al que se hace referencia como «arma a sueldo». OpenAI afirma en la demanda que las acciones del New York Times no se alinean con la integridad periodística y la verdad revelará que el periódico intentó sabotear los productos de OpenAI. Respuesta del New York Times En respuesta a estas acusaciones, el New York Times ha negado haber actuado mal. El abogado del periódico, Ian Crosby, rechazó las acusaciones de piratería informática de OpenAI. Confirmó que el Times utilizó los productos de OpenAI para descubrir pruebas de infracción de derechos de autor. El Times sostiene que no violó ninguna ley contra la piratería informática al investigar posibles violaciones de derechos de autor. La demanda, presentada en diciembre, alega que OpenAI utilizó ilegalmente millones de artículos del New York Times sin la autorización adecuada. El Times sostiene que estos artículos se utilizaron para entrenar chatbots de IA, infringiendo así sus derechos de autor. Esta disputa legal subraya la creciente tensión entre los medios de comunicación tradicionales y las empresas de tecnología por el uso de material protegido por derechos de autor en la formación en IA. La demanda en cuestión En el centro de la cuestión se encuentra la cuestión de si el entrenamiento de modelos de IA utilizando material protegido por derechos de autor constituye un uso legítimo según la ley de derechos de autor. OpenAI sostiene que sus sistemas de IA hacen un uso justo del material protegido por derechos de autor y sugiere que demandas como estas representan una amenaza para la floreciente industria de la IA, que tiene un potencial económico significativo. A medida que se desarrolla la batalla legal, se espera que ambas partes presenten sus respectivos argumentos con respecto a la cuestión del uso legítimo. OpenAI sigue confiando en que, en última instancia, prevalecerá en los tribunales basándose en los méritos del argumento del uso legítimo. El resultado de este caso podría tener implicaciones de gran alcance para el futuro del desarrollo de la IA y su interacción con material protegido por derechos de autor.
Algunos dicen que era sólo cuestión de tiempo, pero el New York Times ha emprendido acciones legales contra OpenAI por infracción de derechos de autor. Esto sólo se suma a la ola de desconfianza que existe con respecto a lo que se utiliza para entrenar la IA. Actualmente, Midjourney está siendo criticado por blanquear el trabajo de los artistas, sin su conocimiento, consentimiento o compensación. Parece que OpenAI volverá a estar en manos del sistema legal en lo que respecta a la palabra escrita. 🧵 La histórica demanda NYT contra @OpenAI presentada esta mañana, desglosada por mí, un abogado de propiedad intelectual e inteligencia artificial, asesor general y entusiasta y entusiasta de la tecnología desde hace mucho tiempo. Tl;dr: Es el mejor caso hasta ahora que alega que la IA generativa es una infracción de derechos de autor. Hilo. 👇 pic.twitter.com/Zqbv3ekLWt — Cecilia Ziniti (@CeciliaZin) 27 de diciembre de 2023 La demanda La demanda del New York Times exige que los acusados paguen los daños legales y del mundo real. Si bien no hay una cifra definida en este caso, podemos suponer que se trata de cifras realmente enormes. Afirma que OpenAI ha utilizado su contenido para entrenar sus chatbots. The Time afirma que el uso de esta información sin consentimiento lo convierte en un competidor directo y confunde la verdad. El caso afirma que The Times se había acercado a OpenAI y Microsoft anteriormente en abril de 2023, pero lo dejamos en lectura. El Times había expresado su preocupación por el uso no autorizado de sus materiales y las negociaciones propuestas. El objetivo de las negociaciones era llegar a una resolución que fuera buena para ambas partes. Sin embargo, no lograron llegar a un acuerdo. Entonces, esto resultó en el caso judicial actual. En la demanda contra OpenAI del New York Times, se puede ver cuán compleja puede ser la relación entre los datos de entrenamiento y la salida. Por un lado, descubren que se puede inducir a ChatGPT a producir contenido exacto de artículos famosos del Times; por otro, muestran que también alucina con artículos falsos. pic.twitter.com/cY7cyZjd8r – Ethan Mollick (@emollick) 27 de diciembre de 2023 Microsoft actualmente se niega a comentar sobre el estado actual del caso. Lindsey Held, portavoz de OpenAI, dijo que estaban decepcionados porque sentían que las cosas habían sido constructivas. Continuó diciendo que OpenAI está dando prioridad a los derechos de los creadores de contenido y sus propietarios. Dijeron que mantenían la esperanza de encontrar una solución mutuamente beneficiosa al problema. Held también señala cómo han resuelto problemas con otros editores. Esta batalla legal puede tener algunos beneficios. Puede ayudar a establecer una barrera estándar y legal para la tecnología de inteligencia artificial en lo que respecta a la generación. Este es contenido que se crea a través del aprendizaje de extensos conjuntos de datos. Ya existe la preocupación de que la IA tenga demasiada influencia sobre la escritura en el campo del periodismo. Independientemente de cómo se regule su uso, podría usarse más como una herramienta para ayudar a los creadores de contenido en lugar de usarlo exclusivamente para crear contenido.
Source link