Tengo una licencia de radioaficionado desde finales de la década de 1960 y observé de primera mano la transición de los tubos de vacío (¿los recuerdas?) a los transistores. Debido a que se nos permite operar transmisores de alta potencia (1500 vatios de potencia), los tubos permanecen en nuestro mundo por mucho más tiempo que en otros lugares. Hay una buena razón: los tubos son dispositivos de alta potencia ideales para personas que no siempre saben lo que están haciendo, personas que son lo suficientemente inteligentes como para ser peligrosas. La única forma de dañarlos es calentándolos lo suficiente como para derretir los componentes internos. Eso sucede… pero significa que hay un enorme margen de error. 3-1000Z, uno de los últimos tubos de vacío para botellas de vidrio grandes. Capaz de una salida de 1500W. Los transistores son todo lo contrario. Si un transistor excede sus especificaciones durante una millonésima de segundo, será destruido. Si los tubos son como los jugadores de fútbol, ​​los transistores son como los bailarines profesionales: muy fuertes, muy potentes, pero si aterrizan mal, hay un esguince grave. Como resultado, existe una gran diferencia entre los equipos de válvulas de alta potencia y los equipos de transistores. Para enfriar un tubo de vacío, se coloca un ventilador al lado. Para enfriar un transistor que genera 500 vatios de calor en un área del tamaño de una moneda de diez centavos, se necesita un esparcidor de cobre pesado, un disipador de calor enorme y varios ventiladores. Un amplificador de válvulas es una caja con una gran fuente de alimentación, un gran tubo de vacío y un circuito de salida. Un amplificador de transistores tiene todo eso, además de computadoras, sensores y muchos otros dispositivos electrónicos para apagarlo si algo parece ir mal. Se han automatizado muchos ajustes que solía realizar girando perillas. Es fácil ver la automatización como una conveniencia, pero en realidad es una necesidad. Si estos ajustes no estuvieran automatizados, quemarías los transistores antes de salir al aire. Aprende más rápido. Excavar más hondo. Ver más lejos. El software ha estado haciendo una transición similar. Los primeros días de la Web fueron simples: HTML, algo mínimo de JavaScript, CSS y CGI. Obviamente, las aplicaciones se han vuelto más complejas; Los backends con bases de datos, middleware y marcos de front-end complejos se han convertido en parte de nuestro mundo. Los ataques contra aplicaciones de todo tipo se han vuelto más comunes y más graves. La observabilidad es el primer paso en un enfoque «similar a un transistor» para crear software. Es importante asegurarse de poder capturar suficientes datos relevantes para predecir los problemas antes de que se conviertan en problemas; No basta con capturar datos suficientes para un análisis post mortem. Aunque vamos en la dirección correcta, con la IA hay más en juego. Este año veremos la IA incorporada en aplicaciones de todo tipo. La IA introduce muchos problemas nuevos que los desarrolladores y el personal de TI deberán afrontar. Aquí hay un comienzo de una lista: Problemas de seguridad: ya sea que lo hagan de manera maliciosa o simplemente por diversión, la gente querrá hacer que su IA actúe incorrectamente. Puede esperar resultados racistas, misóginos y simplemente falsos. Y descubrirá que se trata de problemas empresariales. Más problemas de seguridad: ya sea por “accidente” o en respuesta a un mensaje malicioso, hemos visto que los sistemas de inteligencia artificial pueden filtrar los datos de los usuarios a otras partes. Aún más problemas de seguridad: Modelos de lenguaje Se utilizan con frecuencia para generar código fuente para programas informáticos. Ese código suele ser inseguro. Incluso es posible que los atacantes obliguen a un modelo a generar código inseguro según sus órdenes. Frescura: los modelos eventualmente se vuelven “obsoletos” y es necesario volver a entrenarlos. No hay evidencia de que los modelos de lenguaje grandes sean una excepción. Los idiomas cambian lentamente, pero los temas sobre los que desea que su modelo esté familiarizado no lo harán. Derechos de autor: si bien estos problemas apenas están comenzando a llegar a los tribunales, es casi seguro que los desarrolladores de aplicaciones de inteligencia artificial tendrán cierta responsabilidad por la violación de derechos de autor. Otros responsabilidad: apenas estamos comenzando a ver legislación sobre privacidad y transparencia; Europa es el claro líder en esto. Independientemente de que Estados Unidos alguna vez tenga leyes efectivas que regulen el uso de la IA, las empresas deben cumplir con el derecho internacional. Eso es sólo un comienzo. Mi punto no es enumerar todo lo que puede salir mal, pero esa complejidad está creciendo de tal manera que hace imposible el monitoreo en persona. Esto es algo que la industria financiera aprendió hace mucho tiempo (y continúa aprendiendo). Los sistemas de comercio algorítmicos necesitan monitorearse constantemente y alertar a los humanos para que intervengan a la primera señal de que algo anda mal; deben tener “disyuntores” automáticos para cerrar la aplicación si los errores persisten; y debe ser posible cerrarlos manualmente si estos otros métodos fallan. Sin estas salvaguardias, el resultado podría parecerse al de Knight Capital, una empresa cuyo software de comercio algorítmico cometió errores por valor de 440 millones de dólares en su primer día. El problema es que la industria de la IA aún no ha aprendido de la experiencia de otros; todavía se está moviendo rápido y rompiendo cosas al mismo tiempo que está haciendo la transición de un software relativamente simple (y sí, considero que una gran interfaz basada en React con un backend empresarial es «relativamente simple» en comparación con las aplicaciones basadas en LLM) al software. eso enreda muchos más nodos de procesamiento, software cuyo funcionamiento no entendemos completamente y software que puede causar daños a escala. Y, al igual que un moderno amplificador de transistores de alta potencia, este software es demasiado complejo y frágil para manejarlo manualmente. Todavía no está claro si sabemos cómo construir la automatización que necesitamos para gestionar las aplicaciones de IA. Aprender cómo construir esos sistemas de automatización debe convertirse en una prioridad para los próximos años.

Source link