El 29 de agosto, la Legislatura de California aprobó el Proyecto de Ley del Senado 1047, la Ley de Innovación Segura para Modelos Fronterizos de Inteligencia Artificial, y lo envió al gobernador Gavin Newsom para su firma. La elección de Newsom, prevista para el 30 de septiembre, es binaria: matarlo o convertirlo en ley. Reconociendo el posible daño que podría resultar de la IA avanzada, la SB 1047 requiere que los desarrolladores de tecnología integren salvaguardas a medida que desarrollan e implementan lo que el proyecto de ley llama “modelos cubiertos”. El fiscal general de California puede hacer cumplir estos requisitos iniciando acciones civiles contra las partes que no toman “cuidados razonables” de que 1) sus modelos no causen daños catastróficos, o 2) sus modelos puedan cerrarse en caso de emergencia. Destacadas empresas de IA se oponen al proyecto de ley, ya sea individualmente o a través de asociaciones comerciales. Sus objeciones incluyen preocupaciones de que la definición de modelos cubiertos es demasiado inflexible para tomar en cuenta el progreso tecnológico, que no es razonable responsabilizarlos por aplicaciones dañinas que otros desarrollan y que el proyecto de ley en general sofocará la innovación y paralizará a las pequeñas empresas emergentes sin los recursos para dedicarse al cumplimiento. Estas objeciones no son frívolas; merecen consideración y muy probablemente alguna enmienda adicional al proyecto de ley. Pero el gobernador debería firmarlo o aprobarlo de todos modos porque un veto indicaría que ninguna regulación de la IA es aceptable ahora y probablemente hasta que ocurra un daño catastrófico o a menos que ocurra. Esa posición no es la adecuada para que los gobiernos adopten dicha tecnología. El autor del proyecto de ley, el senador Scott Wiener (D-San Francisco), colaboró con la industria de la IA en varias versiones del proyecto de ley antes de su aprobación legislativa final. Al menos una importante empresa de inteligencia artificial, Anthropic, solicitó cambios específicos y significativos en el texto, muchos de los cuales se incorporaron en el proyecto de ley final. Desde que la Legislatura lo aprobó, el director ejecutivo de Anthropic ha dicho que sus “beneficios probablemente superen sus costos… [although] algunos aspectos del proyecto de ley [still] parecer preocupante o ambiguo”. La evidencia pública hasta la fecha sugiere que la mayoría de las otras empresas de IA optaron simplemente por oponerse al proyecto de ley por principio, en lugar de realizar esfuerzos específicos para modificarlo. ¿Qué debemos hacer con esa oposición, especialmente porque los líderes de algunas de estas empresas han expresado públicamente sus preocupaciones? ¿Sobre los peligros potenciales de la IA avanzada? En 2023, los directores ejecutivos de OpenAI y DeepMind de Google, por ejemplo, firmaron una carta abierta que comparaba los riesgos de la IA con una pandemia y una guerra nuclear. Una conclusión razonable es que, a diferencia de Anthropic, se oponen a cualquier tipo de regulación obligatoria. Quieren reservarse el derecho de decidir cuándo los riesgos de una actividad o un esfuerzo de investigación o cualquier otro modelo implementado superan sus beneficios. Más importante aún, quieren que quienes desarrollen aplicaciones basadas en sus modelos cubiertos sean totalmente responsables de la mitigación de riesgos. Casos judiciales recientes han sugerido que los padres que ponen armas en manos de sus hijos tienen cierta responsabilidad legal por el resultado. ¿Por qué las empresas de IA deberían recibir un trato diferente? Las empresas de IA quieren que el público les dé mano libre a pesar de un evidente conflicto de intereses: no se debe confiar en que las empresas con fines de lucro tomen decisiones que puedan impedir sus perspectivas de obtener ganancias. Nosotros He estado aquí antes. En noviembre de 2023, la junta directiva de OpenAI despidió a su director ejecutivo porque determinó que, bajo su dirección, la empresa estaba tomando un camino tecnológico peligroso. Al cabo de varios días, varias partes interesadas de OpenAI pudieron revertir esa decisión, reintegrándolo y expulsando a los miembros de la junta que habían abogado por su despido. Irónicamente, OpenAI se había estructurado específicamente para permitir que la junta actuara como lo hizo; a pesar del potencial de generación de ganancias de la empresa, se suponía que la junta debía garantizar que el interés público fuera lo primero. Si se veta la SB 1047, las fuerzas anti-regulación lo harán. Si proclaman una victoria que demuestra la sabiduría de su posición, tendrán pocos incentivos para trabajar en una legislación alternativa. No tener una regulación significativa les beneficia, y recurrirán a un veto para mantener ese status quo. Alternativamente, el gobernador podría promulgar la SB 1047, agregando una invitación abierta a sus oponentes para ayudar a corregir sus defectos específicos. Con lo que consideran una ley imperfecta, los oponentes del proyecto de ley tendrían incentivos considerables para trabajar –y trabajar de buena fe– para arreglarlo. Pero el enfoque básico sería que la industria, no el gobierno, exponga su punto de vista sobre lo que constituye un cuidado razonable y apropiado respecto de las propiedades de seguridad de sus modelos avanzados. El papel del gobierno sería asegurarse de que la industria haga lo que la propia industria dice que debería hacer. Las consecuencias de eliminar la SB 1047 y preservar el status quo son sustanciales: las empresas podrían avanzar en sus tecnologías sin restricciones. Las consecuencias de aceptar un proyecto de ley imperfecto serían un paso significativo hacia un mejor entorno regulatorio para todos los involucrados. Sería el comienzo, más que el final, del juego regulatorio de la IA. Este primer paso marca la pauta para lo que está por venir y establece la legitimidad de la regulación de la IA. El gobernador debería firmar la SB 1047. Herbert Lin es investigador principal del Centro para la Seguridad y la Cooperación Internacional de la Universidad de Stanford y miembro de la Institución Hoover. Es autor de «Amenazas cibernéticas y armas nucleares».
Etiqueta: modelo
Los estadounidenses están dando propinas a sus repartidores con menos frecuencia que el año pasado. DoorDash busca revertir esa tendencia con un empujón automatizado, uno que conlleva un indicio de amenaza. El servicio de entrega de alimentos está probando una nueva advertencia en la aplicación que alienta a los clientes que no dan propina a reconsiderar sus decisiones. Clientes que seleccionan una propina de $0 Al realizar pedidos, ahora verá un mensaje emergente que advierte que los pedidos sin propinas pueden tardar más en entregarse. El sitio de noticias de tecnología The Verge informó por primera vez sobre el cambio. «Los pedidos sin propina pueden tardar más en entregarse. ¿Está seguro de que desea continuar?» dice la ventana emergente. “Los Dashers pueden elegir qué pedidos quieren hacer. Los pedidos que Dashers tardan más en aceptar tienden a generar una entrega más lenta”. DoorDash dijo que comenzó a implementar la “pantalla de recordatorio” para los clientes hace un par de meses, pero generó revuelo después de que comenzó un tweet que mostraba una captura de pantalla de la advertencia. circulando el martes. Ha habido una creciente confusión (y resentimiento) sobre la etiqueta de dar propinas a raíz de la pandemia, pero negarse a dar propina sobre la comida entregada en la puerta sigue siendo un claro paso en falso. La nueva ventana emergente DoorDash no cambia nada sobre realizar pedidos en la aplicación o la experiencia de entrega: es una advertencia para los clientes sobre lo que puede suceder detrás de escena. Los conductores de DoorDash, también conocidos como Dashers, ya pueden ver cuánto dinero pueden esperar ganar con una entrega antes de aceptar un pedido. Si un pago parece bajo, un Dasher puede tardar más en aceptar el pedido. A los Dashers no se les dice con precisión cuánto da propina un cliente, pero los conductores de entrega experimentados pueden saber cuando algo parece inusualmente bajo. Los trabajadores autónomos que ofrecen servicios de conducción ya utilizan su discreción a la hora de decidir qué trabajos realizar, y muchas aplicaciones competidoras compiten por sus servicios. «Como contratistas independientes, los Dashers tienen total libertad para aceptar o rechazar ofertas basándose en lo que consideran valioso y gratificante», dijo Jenn Rosenberg, portavoz de la empresa, en un comunicado. «Si bien la gran mayoría de los clientes dejan una propina, las ofertas que no incluyen una propina pueden considerarse menos deseables; esto afecta a toda nuestra comunidad, lo que genera tiempos de espera más largos para los clientes, pedidos más prolongados en los comerciantes y menos valor». para Dashers”. DoorDash ha visto una reducción en los pedidos de propinas de $0 desde que comenzó la prueba. Un modelo como el de DoorDash que fomenta las propinas antes de recibir el servicio ha desafiado las convenciones tradicionales. El modelo actual pone en desventaja a los clientes que prefieren dar propina en efectivo y a aquellos que dan propina después de que se ha entregado un pedido en función de la calidad del servicio. Al mismo tiempo, ofrece transparencia a los conductores cuyos ingresos están vinculados a los trabajos que aceptan. La ventana emergente DoorDash se produce cuando las actitudes hacia las propinas están cambiando y los estadounidenses están dando propinas con menos frecuencia que hace un año, según una encuesta de Bankrate de junio. El cincuenta por ciento de los encuestados dijo que siempre daba propina a sus repartidores de alimentos en 2023, frente al 57% en 2022 y el 59% en 2021. El siete por ciento de los encuestados dijo que nunca les daba propina a los repartidores y el 18% dijo que lo hacían “solo a veces”. La encuesta encontró que dos tercios de los adultos estadounidenses tienen una visión negativa de las propinas: el 30% piensa que “la cultura de las propinas se ha salido de control” y el 41% cree que las empresas deberían pagar mejor a los empleados en lugar de depender tanto de las propinas.
Source link