Hay muchos modelos nuevos, incluido uno de Apple, pero eso no es ninguna novedad. Las noticias sobre IA se están infiltrando en otras secciones de Tendencias (particularmente Programación y Seguridad), pero eso tampoco es una novedad. El director ejecutivo de NVidia, Jensen Huang, ha dicho que la IA reemplazará a la codificación, pero nuevamente, no es el primero. Pero lo nuevo es Devin: un ingeniero de software de inteligencia artificial de Cognition Labs. Sus creadores afirman que “puede ejecutar tareas de ingeniería complejas que requieren miles de decisiones. Devin puede recordar el contexto relevante en cada paso, aprender con el tiempo y corregir errores”. Devin está en acceso temprano; Lo que hemos escuchado de quienes lo han usado es que está lejos de estar terminado, pero incluso en ese estado es muy impresionante. También hay un proyecto OpenDevin de código abierto en GitHub. Un ataque a la cadena de suministro agregó una puerta trasera a los sistemas Linux a través del paquete xz ampliamente utilizado. Afortunadamente, este ataque se descubrió antes de que el paquete se incorporara a las principales distribuciones de Linux. Sin embargo, el ataque plantea muchas preguntas preocupantes sobre la seguridad, incluida la cuestión de cómo sabemos que el software es confiable. El ataque no fue descubierto por expertos en seguridad que analizaron el código; Es posible que incluso se haya utilizado ingeniería social para evitar que se pruebe adecuadamente. El ataque fue descubierto por un ingeniero que notó algunas anomalías en el rendimiento. Nadie sabe quién es realmente el encargado de mantenimiento que insertó la puerta trasera; Puede que no sea una sola persona. Esta vez tuvimos suerte. Aprende más rápido. Excavar más hondo. Ver más lejos. Inteligencia artificial ¿Qué significa el código abierto para la IA? ¿Qué incluye además del código? ¿Puede haber restricciones sobre cómo se utiliza la IA? Nadie lo sabe. Y es muy probable que el vacío se llene con una definición interesada proveniente de uno de los gigantes de Internet. Jan es una nueva forma de empaquetar modelos de lenguaje de código abierto para que puedan ejecutarse completamente localmente. Está disponible para Windows, macOS y Linux. ¿Puede la IA ayudar a la observabilidad? Sí, tanto reconociendo la actividad normal y anormal como interpretando y resumiendo los datos de registro y haciendo sugerencias para resolver problemas. NVidia ha anunciado que tiene la intención de crear una IA «corporizada»: una IA incorporada en una forma robótica humanoide. ¿Es este «tiro a la luna» sólo un intento de ciencia ficción realizada o un paso importante en el camino hacia la inteligencia general? En la conferencia de desarrolladores de NVidia, su CEO esbozó una visión para el futuro de la programación en la que los sistemas de IA reemplazarían todo el proceso de desarrollo. Los humanos permanecen en el circuito y en control, pero solo usarán lenguajes humanos naturales. El proyecto LLM4Decompile está construyendo grandes modelos de lenguaje para descompilar software (traduciendo del ensamblador a un lenguaje de nivel superior como C). Esta sería una tremenda herramienta para la ingeniería inversa. Los modelos están disponibles en HuggingFace. Ahora Apple tiene un modelo de lenguaje grande. No está abierto al público, pero han publicado un artículo al respecto. En una publicación de Twitter (que no puedo encontrar) afirman un rendimiento similar al de Gemini-1 en cada tamaño de modelo. Answer.ai está lanzando un sistema de código abierto para ajustar modelos de lenguaje grandes con hasta 70 mil millones de parámetros. Puede ejecutarse en una computadora de escritorio con dos GPU para juegos. Hace uno o dos meses, notamos que los atacantes han demostrado que pueden hacer jailbreak a modelos de lenguaje grandes mediante el uso de técnicas esteganográficas para ocultar mensajes hostiles dentro de una imagen. Resulta que no es necesario ser sutil: el arte ascii que deletrea las palabras hostiles será suficiente. SudoLang es un lenguaje de programación para interactuar con modelos de lenguaje grandes. No es el único intento en esta línea; También hemos notado GPTScript. Sin embargo, SudoLang es particularmente interesante porque el lenguaje fue diseñado en parte por GPT-4. Simon Willison aclara la distinción entre inyección rápida y jailbreak. La inyección rápida implica concatenar entradas confiables y no confiables en indicaciones. Es mucho más peligroso que el jailbreak y más difícil (quizás imposible) de defenderse. Una plataforma de IA generativa llamada Lore Machine puede tomar una historia corta y convertirla en un cómic ilustrado. ToxicChat es un nuevo punto de referencia para detectar mensajes tóxicos enviados a modelos de lenguaje. . Se basa en indicaciones reales recopiladas por modelos de lenguaje, en lugar de contenido de redes sociales. La última serie de modelos de Anthropic, Claude 3, ya está disponible. El modelo más avanzado, Opus, sólo está disponible mediante suscripción. Todos ellos cuentan con una ventana de contexto de 200.000 tokens. En los últimos años, los modelos grandes han reducido sus requisitos de datos al pasar de punto flotante de 32 bits a 8 y 4 bits, en un proceso llamado «cuantización». El siguiente paso adelante son los modelos de un solo bit (en realidad, 1,58 bits). GPTScript es un lenguaje de programación simple para automatizar las interacciones con GPT. Está empezando a parecerse mucho a un lenguaje formal informal. Programación GitHub ahora ofrece Code Scanning Autofix, un servicio que utiliza IA para detectar vulnerabilidades y sugerir correcciones al código escrito en Java, JavaScript, Python y Typecript. Afirman que puede detectar y corregir más del 90% de las vulnerabilidades conocidas. Señalan que sigue siendo importante que el programador verifique que la sugerencia realmente corrige la vulnerabilidad. JetBrains ahora ofrece TeamCity Pipelines, una herramienta CI/CD para equipos pequeños y medianos. Actualmente se encuentra en versión beta pública. Las herramientas más simples que resuelven los problemas de proyectos más pequeños son una adición bienvenida a la escena de herramientas. Ravi es un nuevo dialecto de Lua que admite escritura estática opcional. Tiene un compilador justo a tiempo y también puede compilar directamente en código de máquina. BOINC es un proyecto que le permite ejecutar tareas informáticas científicas en su computadora en segundo plano. Es similar a proyectos como SETI@Home, pero más general; no está asociado con un proyecto de investigación específico. BOINC tiene su sede en UC Berkeley y cuenta con el apoyo de la NSF. Devin es «el primer ingeniero de software de IA totalmente autónomo del mundo». Las afirmaciones hechas sobre Devin son impresionantes: puede aprender nuevas tecnologías a partir de una publicación de blog, crear aplicaciones de implementación, corregir errores, entrenar modelos de lenguaje y más. Si está a la altura de estas afirmaciones, será muy impresionante. Una startup ha lanzado bibliotecas de código abierto para un cifrado totalmente homomórfico. El cifrado homomórfico es un conjunto de códigos y protocolos para calcular datos cifrados sin descifrarlos primero. Sabemos que los modelos de lenguaje pueden ayudar a escribir código. ¿Pueden también ayudar a construir infraestructura como código? GitHub está siendo atacado por ciberdelincuentes que están creando millones de repositorios que contienen malware. Los repositorios maliciosos tienen nombres similares a los repositorios legítimos con la esperanza de que los programadores utilicen el repositorio incorrecto (a menudo con el apoyo de la ingeniería social). Github ofrece Copilot Enterprise, una versión de Copilot de mayor precio que conoce el código base de una empresa. La finalización del código se basa en el código de los repositorios de la empresa, por lo que coinciden con las prácticas de la empresa. Incluso puede aprender lenguajes propietarios internos. Wax es un marco de código abierto para crear software de procesamiento de textos en la web. Facilita el seguimiento de cambios, los comentarios, las ecuaciones, el estilo básico del texto, la gestión de citas y otras características que esperaría de un sistema de procesamiento de textos profesional. Operaciones Brendan Gregg ha publicado una lista de herramientas de crisis de Linux: utilidades que probablemente necesitará para diagnosticar y solucionar una interrupción y que su distribución favorita podría no tener. DBOS es un nuevo sistema operativo nativo de la nube que se basa en un alto rendimiento. base de datos distribuida. Su objetivo es reemplazar la combinación Linux/Kubernetes que se ha convertido en la base para orquestar aplicaciones distribuidas complejas. Buoyant ahora cobra a las organizaciones con 50 o más usuarios por el acceso a la última versión estable de la malla de servicios Linkerd. No han cambiado la licencia de Linkerd, que sigue siendo de código abierto (Apache 2.0). Netflix ha lanzado bpftop, una herramienta de línea de comandos para monitorear programas que usan eBPF (filtros de paquetes extendidos de Berkeley). bpftop brinda a los usuarios información sobre sus herramientas eBPF, evitando que eBPF comprometa inadvertidamente el rendimiento mientras intenta mejorarlo. Web Threads de Facebook ahora permite a los usuarios de Threads compartir sus publicaciones en Mastodon. Actualmente, la función está habilitada. Los usuarios de Threads aún no pueden ver las publicaciones realizadas por usuarios de Mastodon. Queda por ver cómo Facebook manejará los datos privados de los usuarios de Mastodon y el disgusto por la publicidad. Ludic es un nuevo marco web liviano diseñado para usarse con htmx. Utiliza un enfoque de componentes similar a React, pero no requiere ningún JavaScript para crear aplicaciones dinámicas. Está basado en Python 3.12. YouTube exige que los creadores revelen cuándo han utilizado IA generativa para crear o modificar videos que de otro modo serían realistas. Esta regla no se aplica al contenido que es «claramente poco realista» (por ejemplo, animaciones), ajustes de color o filtros de belleza y efectos de fondo (por ejemplo, desenfoque). LaVague es un modelo de lenguaje grande diseñado para controlar las interacciones del navegador. Sería ideal para controlar un marco de prueba como Selenium. Y puede resultar útil para automatizar otras “tareas mundanas”. La red social Bluesky, creada por el fundador de Twitter, Jack Dorsey, ahora permite la federación: individuos y grupos ahora pueden ejecutar sus propios servidores, similar a Mastodon. Seguridad Un compromiso en la cadena de suministro agregó una puerta trasera al paquete xz de Linux. El ataque plantea muchas preguntas. Es posible que la ingeniería social haya impedido que Google lo pruebe adecuadamente; se presionó al mantenedor para que agregara un segundo mantenedor que probablemente era el atacante y pudo haber sido patrocinado por el estado; y fue descubierto debido a anomalías de rendimiento. LoopDoS es un nuevo ataque de denegación de servicio en el que las computadoras objetivo envían paquetes UDP de un lado a otro en un bucle infinito. Se informa que los equipos de varios proveedores importantes, incluidos Cisco, Microsoft y Broadcom, son vulnerables. Un nuevo ataque contra LLM permite a los atacantes recuperar los textos de las sesiones de chat incluso si están cifrados. El ataque se basa en observar las longitudes de las fichas y hacer coincidir las longitudes con las palabras. Esta vulnerabilidad se aplica a todos los LLM excepto a Gemini de Google. Pixieboot (también conocido como arranque PXE) es una colección de ataques contra el firmware UEFI, un sistema dentro de un sistema de muy bajo nivel que controla el proceso de arranque en la mayoría de las PC modernas. Si bien este conjunto particular de vulnerabilidades preocupa principalmente a los operadores de centros de datos y de nube, Cory Doctorow escribe sobre el peligro de los subsistemas no actualizables que tratan al usuario como una amenaza. Cloudflare está presentando un producto de firewall de IA que, entre otras cosas, eventualmente incluya una función de validación rápida que detectará y bloqueará los ataques de inyección rápida. La función puede ayudar con el jailbreak (un único mensaje hostil), pero es más difícil ver cómo sería efectiva contra una verdadera inyección rápida (un mensaje hostil concatenado con un mensaje confiable). Un artículo analiza más de 600.000 ataques de inyección rápida para producir una taxonomía. de vulnerabilidades. Los autores recopilaron los ataques organizando una competencia global de piratería rápida. Docker, Confluence, Redis y Apache Yarn están siendo atacados por malware en un nuevo conjunto de ataques. El malware está escrito en Go, aunque está torpemente disfrazado para que parezca scripts de shell. Aún más ataques de inyección rápida: Microsoft Copilot (distinto de Github Copilot) es vulnerable a ataques de inyección de aviso condicional, donde el aviso hostil se activa solo para un evento específico. Usuario. Sí, ahora hay un gusano de inyección rápida. Se incluye un mensaje hostil en un correo electrónico, que luego se envía al asistente de correo electrónico basado en IA a través de RAG. Además de robar datos, el mensaje puede indicarle al asistente de correo electrónico que genere nuevos correos electrónicos que propaguen el gusano. Cosas Otro Copilot, esta vez no de Microsoft, es un sistema de inteligencia artificial basado en Raspberry Pi para ciclistas que les alerta sobre automóviles que se acercan y que conducen de manera errática o se acercan demasiado. Es un buen ejemplo de TinyML de Pete Warden. ¿Quieres tu propia botella Klein? Realizado por Cliff Stoll, autor del clásico de ciberseguridad The Cuckoo’s Egg, quien te autografiará tu botella (y puede incluir otras sorpresas). Computación cuántica Google ha publicado su modelo de amenazas para ataques cuánticos contra la criptografía. El documento es un excelente resumen del estado de la criptografía poscuántica. Biología ¿Se pueden diseñar hongos para producir productos cárnicos artificiales? Los hongos y sus parientes han sido durante mucho tiempo la base de muchos productos alimenticios, incluidos el queso y la cerveza. Y los hongos pueden producir la molécula que le da sabor a la carne.

Source link