Bienvenido a la edad de Ouroboros. Las descripción general de la IA de Google (AIO), que ahora a menudo aparecen en la parte superior de los resultados de búsqueda orgánica, están atrayendo alrededor del 10 por ciento de sus fuentes de documentos escritos por … Otros AIS, según un informe reciente. Originality.ai, una empresa que fabrica software de detección de IA, recientemente estudió 29,000 consultas diferentes de su dinero o su vida (YMYL), aquellas que cubren temas que cambian la vida, como temas de salud, financieros, legales o políticos. Luego, la compañía evaluó los AIO que aparecieron en la parte superior de la página, los enlaces que citaron y los primeros 100 resultados de búsqueda orgánica para cada consulta. Al ejecutar las citas de AIO a través de su modelo de detección de IA Lite 1.0.1, la compañía descubrió que un LLM probablemente generó el 10.4 por ciento de ellas. Esto significa que una IA se basa en la salida de otro, lo que podría contribuir a una cámara de eco de ideas y prejuicios reciclados. «Incluso una pequeña proporción de citas generadas por la IA en áreas de alto riesgo plantea preocupaciones de confianza y confiabilidad», dijo la directora de marketing y ventas de AI, Madeleine Lambert, dijo a The Registro por correo electrónico. «Y aunque los resúmenes de IA no se usan directamente en los datos de capacitación, el contenido escrito por la IA exomprimres es más probable que esas salidas se reciclen en modelos futuros. Esto puede convertirse en un bucle recursivo». Cuando los modelos de IA aprenden de otros modelos de IA, eventualmente puede conducir al colapso del modelo, donde la salida sigue empeorando. Según un artículo de Nature 2024 sobre el tema: el colapso del modelo es un proceso degenerativo que afecta a generaciones de modelos generativos aprendidos, en el que los datos que generan terminan contaminando el conjunto de capacitación de la próxima generación. Al ser entrenados en datos contaminados, luego se perciben mal de la realidad. Cuando le pedimos a Google su respuesta, la compañía nos dijo que tiene problemas con la precisión de la originalidad. El detector de IA de AI. «Este es un estudio defectuoso que depende de datos parciales y tecnología poco confiable», dijo un portavoz. «Los detectores de IA no han demostrado su efectividad para detectar contenido generado por IA; de hecho, muchos han demostrado que son propensos a errores. Como en la búsqueda más ampliamente, los enlaces que se incluyen en las descripciones de IA son dinámicas y cambian en función de la información que es más relevante, útil y útil para una búsqueda dada». Aunque definitivamente no es perfecta, la originalidad.Ai ha recibido altas calificaciones de precisión. Según un estudio de la Universidad de Florida [PDF] A partir de 2024, la herramienta calificó constantemente los resúmenes generados por GPT-4 como AI (puntuación media 0.975), lo que sugiere que funcionó fuertemente en esa configuración. Otro estudio [PDF]Realizado por investigadores de la Universidad Estatal de Arizona, mostró la reducción de la herramienta solo un falso positivo de dos por ciento y una tasa negativa falsa del dos por ciento. Para ser justos, el gigante de la búsqueda tampoco ha prometido prohibir el contenido generado por IA de sus listados o citas. De hecho, en una publicación de blog de 2023, la compañía declaró explícitamente que juzgaría los artículos de IA por su calidad en lugar de por su falta de autoría humana. «La IA tiene la capacidad de alimentar nuevos niveles de expresión y creatividad, y para servir como una herramienta crítica para ayudar a las personas a crear un gran contenido para la web», escribió Google. Cualquiera sea el caso, los AIO de Google probablemente deberían acostumbrarse a citar y aprender de otro contenido generado por la IA, porque la fábrica de chocolate está expulsando a los editores humanos al quitar el tráfico que necesitan para permanecer en el negocio. Un estudio de julio del Pew Research Center mostró que los usuarios que encontraron una descripción general de la IA tenían casi la mitad de probabilidades de hacer clic en un resultado web que los que no lo hicieron. Google disputó los resultados del estudio PEW en el momento en que salió. Sin embargo, otros estudios han indicado tendencias similares. Por ejemplo, la investigación de AHREFS, una compañía de herramientas de búsqueda, en abril mostró una tasa de clics 34.5 por ciento más baja para el resultado superior cuando un AIO estaba presente por encima de él. Lo suficientemente bueno para citar, pero no en el top 100 de la originalidad de citas de AIO restantes. Los investigadores presentaron el 15.2 por ciento restante en la categoría «no clasificable», que incluye citas que eran demasiado cortas para analizar, aparecieron como videos, estaban en formato PDF o eran enlaces rotos. Lambert señaló que algunos de esos enlaces rotos, que representaban el 20 por ciento de las citas no clasificables, pueden haber sido bloqueados solo para la originalidad. El rastreador de AI, mientras que otros también eran inaccesibles para los usuarios humanos. Lo más interesante, de los enlaces que funcionaron en citas de AIO, el 52 por ciento de ellos no estaban entre las 100 páginas principales que Google mostró en sus resultados de búsqueda orgánica para el mismo término. De esos 52 por ciento, Originality.AI marcó un 12.8 por ciento (más alto que el 10.4 por ciento general) como generada AI. Por otro lado, la experiencia de originalidad. La experiencia de AI con clasificaciones es muy diferente de lo que los ahref encontraron en un estudio de julio. Para esa investigación, la vendedora de contenido Louise Linehan y la científica de datos Xibeijia Guan analizaron 1.9 millones de citas de 1 millón de AIO y descubrieron que el 76 por ciento estaba en los 10 resultados principales, otro 9.5 por ciento también estaba en los 100 principales, y solo el 14.4 por ciento de las páginas citadas no ocuparon el puesto. Sam Robson, fundador y CEO de Better Web Co., una firma de optimización de motores de búsqueda (SEO), dijo que también generalmente ve una fuerte correlación entre las páginas web que aparece en el top 10 y los mismos enlaces que aparecen como citas de AIO. Sin embargo, postuló esa originalidad. «Las descripción general de la IA están impulsadas por Gemini, y al ser el LLM propio de Google, está diseñado para analizar materiales de entrenamiento más profundos y variados que la búsqueda de Googlebot / Google», dijo Robson a The Register. «Esto podría significar que, en el espacio YMYL, donde se contiene una excelente información en PDF, blancos blancos y otros formatos que no están optimizados para la búsqueda tradicional, las descripciones de IA están haciendo un mejor trabajo al resaltar estos recursos más variados». Por otro lado, Google postuló, la colocación en los 100 mejores resultados de búsqueda para un término no significa necesariamente que un enlace debería aparecer como una cita para la descripción general de la IA. Un portavoz de la compañía señaló que AIOS usa una «técnica de Fan Out de consultas» [PDF] Eso realiza una serie de búsquedas diferentes y relacionadas para encontrar contenido para la respuesta de los AIO. Entonces, a pesar de que consultó una cosa, la herramienta AI puede haber realizado muchas consultas similares pero ligeramente diferentes para brindarle su respuesta. ®