Únase a nuestros boletines diarios y semanales para obtener las últimas actualizaciones y contenido exclusivo sobre la cobertura de IA líder en la industria. Más información Menos asustado. Más fatigado. Ahí es donde residimos muchos de nosotros con la IA. Sin embargo, estoy asombrado por la IA. A pesar de la plétora y los tópicos de la IA que promete remodelar la industria, el intelecto y la forma en que vivimos, es vital abordar el ruido y la esperanza con un entusiasmo renovado que abrace la complejidad. Uno que fomente la discusión y mantenga una saludable dosis de escepticismo. Operar con una mentalidad escéptica es liberador, pragmático, desafía las convenciones y alimenta lo que parece ser un sentido de cordura que a menudo falta, especialmente si estás inquieto con un sinfín de suposiciones y rumores. Parece que estamos atrapados en un abismo o en una batalla de «darse prisa y esperar» mientras monitoreamos las realidades y los beneficios de la IA. Sabemos que se anuncia un futuro brillante y se estima que el tamaño del mercado de la IA global será de más de 454 mil millones de dólares para fines de 2024, lo que es mayor que el PIB individual de 180 países, incluidos Finlandia, Portugal y Nueva Zelanda. Sin embargo, por el contrario, un estudio reciente predice que para finales de 2025, al menos el 30% de los proyectos de IA generativa serán abandonados después de la etapa de prueba de concepto, y en otro informe “según algunas estimaciones, más del 80% de los proyectos de IA fracasan: el doble de la tasa de proyectos de TI que no involucran IA”. ¿Florecer o auge? Si bien el escepticismo y el pesimismo son a menudo descripciones combinadas, sus enfoques son fundamentalmente diferentes. El escepticismo implica indagación, cuestionamiento de afirmaciones, deseo de evidencia y, por lo general, es constructivo y está cargado de un enfoque crítico. El pesimismo tiende a limitar las posibilidades, incluye dudas (y tal vez alarma), tal vez anticipando un resultado negativo. Puede verse como un estado o comportamiento improductivo, poco atractivo y desmotivador, aunque si crees que el miedo vende, bueno, no desaparecerá. El escepticismo, arraigado en la investigación filosófica, implica cuestionar la validez de las afirmaciones y buscar pruebas antes de aceptarlas como verdad. La palabra griega «skepsis» significa investigación. Para los escépticos de hoy en día, el compromiso con la investigación de la IA sirve como una herramienta ideal de búsqueda de la verdad para evaluar riesgos y beneficios, garantizando que la innovación sea segura, efectiva y, sí, responsable. Tenemos una comprensión histórica sólida de cómo la investigación crítica ha beneficiado a la sociedad, a pesar de algunos comienzos muy inestables: las vacunas enfrentaron un intenso escrutinio y resistencia debido a cuestiones éticas y de seguridad, pero la investigación en curso condujo a vacunas que han salvado millones de vidas. Las tarjetas de crédito generaron preocupaciones sobre la privacidad, el fraude y el fomento del gasto irresponsable. La industria bancaria mejoró la experiencia en términos generales a través de pruebas impulsadas por los usuarios, infraestructura actualizada y competencia sana. Inicialmente, la televisión fue criticada por ser una distracción y una causa potencial de deterioro moral. Los críticos dudaron de su valor informativo y educativo, considerándolo un lujo más que una necesidad. Los cajeros automáticos enfrentaban preocupaciones que incluían que las máquinas cometieran errores o la desconfianza de la gente en la tecnología que controlaba su dinero. Los teléfonos inteligentes eran dudosos dado que carecían de teclado, tenían funciones limitadas, duración de la batería y más, pero se vieron aliviados por mejoras en la interfaz y la red, alianzas gubernamentales y nuevas formas de monetización. Afortunadamente, contamos con protocolos modernos y en evolución que, cuando se usan con diligencia (en lugar de no hacerlo), brindan un enfoque equilibrado que ni acepta ciegamente ni rechaza rotundamente la utilidad de la IA. Además de los marcos que ayudan a la toma de decisiones sobre la demanda versus el riesgo, contamos con un conjunto probado de herramientas para evaluar la precisión, el sesgo y garantizar el uso ético. Para ser menos resistente, más perspicaz y tal vez un escepticismo esperanzador y feliz, una muestra de estas herramientas menos visibles incluye: Método de evaluación Qué hace… Ejemplos Lo que busca como «verdad»… Detección de alucinaciones Identifica imprecisiones fácticas en los resultados de la IA Detecta cuando una IA declara incorrectamente datos históricos fechas o hechos científicos Busca garantizar que el contenido generado por IA sea objetivamente preciso Recuperación: generación aumentada (RAG) Combinación de resultados de modelos entrenados con fuentes adicionales para incluir la información más relevante Un asistente de IA que utiliza artículos de noticias actuales para responder preguntas sobre eventos recientes Información actual y contextualmente relevante de múltiples entradasPrecisión, recuperación, puntuación F1 Mide la precisión y la integridad de los resultados de la IA Evaluación de la capacidad de la IA de un diagnóstico médico para identificar correctamente las enfermedades Equilibrio entre precisión, integridad y rendimiento general del modelo de IA Validación cruzada Prueba el rendimiento del modelo en diferentes subconjuntos de datos Entrenamiento de un modelo de análisis de sentimiento en reseñas y pruebas de películas en revisiones de productos Busca garantizar que el modelo funcione consistentemente bien en diferentes conjuntos de datos que indican confiabilidad Evaluación justa Comprueba si hay sesgos en las decisiones de IA en diferentes grupos Evaluación de tasas de aprobación de préstamos para varios grupos étnicos en una AIE financiera Trato equitativo y ausencia de patrones discriminatorios y no perpetúa sesgos Pruebas A/B Ejecución Experimentos para comparar el rendimiento de una nueva función de IA con un estándar existente. Probar un chatbot de IA con representantes humanos de servicio al cliente. Validación, mejoras o cambios a partir de métricas de rendimiento comparadas. Verificaciones de detección de anomalías. Usar modelos estadísticos o algoritmos de aprendizaje automático para detectar desviaciones de los patrones esperados. Marcar transacciones financieras inusuales en los sistemas de detección de fraude Coherencia y cumplimiento de los estándares, rúbricas y/o protocolos esperados. Comprobaciones de autoconsistencia Garantiza que las respuestas de la IA sean internamente consistentes. Comprobar que las respuestas de una IA a preguntas relacionadas no se contradicen entre sí. Coherencia lógica y confiabilidad; los resultados no son erráticos ni aleatoriosAumento de datosAmplía los conjuntos de datos de entrenamiento con versiones modificadas de los datos existentesMejora de los modelos de reconocimiento de voz con acentos y patrones de voz variadosGeneralización y solidez del modelo mejoradaMétodos de ingeniería rápidosRefina las indicaciones para obtener el mejor rendimiento de los modelos de IA como GPT Estructuración de preguntas de una manera que produzca el respuestas más precisas Comunicación óptima entre humanos y AIU Pruebas de experiencia de usuario Evalúa cómo los usuarios finales interactúan y perciben los sistemas de IA Prueba de la usabilidad de un asistente virtual impulsado por IA Satisfacción del usuario e interacción efectiva entre humanos y IA 4 recomendaciones para mantenerse constructivo y escéptico al explorar soluciones de IA A medida que continuamos Para navegar en esta era de miedo y entusiasmo por la IA, adoptar enfoques basados ​​en el escepticismo será clave para garantizar que las innovaciones sirvan a los mejores intereses de la humanidad. Aquí hay cuatro recomendaciones que debe tener en cuenta y practicar ampliamente. Exija transparencia: insista en explicaciones tecnológicas claras con usuarios o clientes de referencia. Además de los proveedores externos y los contactos industriales/académicos, tenga el mismo nivel de expectativas con los equipos internos más allá de Legal y TI, como adquisiciones, recursos humanos y ventas. Fomentar la participación de las personas primero y de base: muchas iniciativas de arriba hacia abajo fracasan porque los objetivos pueden excluir los impactos para los colegas y tal vez para la comunidad en general. Pregunte primero: como compañeros de equipo no jerárquicos, ¿cuál es nuestro enfoque para comprender el impacto de la IA, en lugar de asignar inmediatamente un grupo de trabajo que enumere y clasifique los cinco casos de uso principales? Siga rigurosamente (¿y adopte?) las normas sobre regulación, seguridad, ética y privacidad: mientras la Unión Europea está implementando su AI ACT y estados como California intentan iniciar proyectos de ley controvertidos sobre regulación de la IA, independientemente de su posición, estas regulaciones afectarán sus decisiones. . Evalúe periódicamente las implicaciones éticas de estos avances de la IA, priorizando los impactos humanos y sociales sobre la escala, las ganancias y la promoción. Valide las afirmaciones de desempeño: solicite evidencia y realice pruebas independientes cuando sea posible. Pregunte acerca de los métodos de evaluación enumerados anteriormente. Esto es especialmente cierto cuando se trabaja con nuevas empresas y proveedores que priorizan la IA. El escepticismo es nutritivo. Necesitamos métodos para ir más allá de la charla y la conmoción cotidianas. Ya sea que tenga dudas o un asombro perspicaz, esta no es una competencia de suma cero. La ganancia de un cínico o pesimista no conduce a una pérdida equivalente en el optimismo de los demás. Estoy asombrado por la IA. Creo que nos ayudará a ganar y nuestras reglas para el éxito se basan en un juicio humilde. En cierto modo, aunque sea provocativo, el escepticismo es una vulnerabilidad sexy. Es una elección exigente que debería estar en cada manual de empleado para garantizar que las nuevas tecnologías sean examinadas de manera responsable sin alarmas poco atractivas. Marc Steven Ramos es director de aprendizaje de Cornerstone. DataDecisionMakers ¡Bienvenido a la comunidad VentureBeat! DataDecisionMakers es el lugar donde los expertos, incluidos los técnicos que trabajan con datos, pueden compartir conocimientos e innovación relacionados con los datos. Si desea leer sobre ideas de vanguardia e información actualizada, mejores prácticas y el futuro de los datos y la tecnología de datos, únase a nosotros en DataDecisionMakers. ¡Incluso podrías considerar contribuir con un artículo propio! Leer más de DataDecisionMakers