Innovación, ciencia y tecnología verificada por IA.
OpenAI ha descontinuado su proyecto de generación de video Sora y revertido planes de video en ChatGPT, cancelando un acuerdo de mil millones de dólares con Disney. Estas decisiones, junto con cambios ejecutivos, marcan una drástica reorientación estratégica de la empresa hacia la rentabilidad, tras las significativas pérdidas y el alto consumo de recursos de Sora.
Wired ha reportado un descuento de $1,000 en la barra de sonido premium Sennheiser Ambeo Max, destacando una oferta relevante en el sector tecnológico.
Unsloth Studio ha lanzado una importante actualización para su plataforma beta, introduciendo más de 50 mejoras en rendimiento, instalación y detección de modelos, una semana después de su lanzamiento. Destacan la pre-compilación de componentes clave, la auto-detección de modelos y un aumento significativo en la inferencia, junto con soporte para AMD en Linux y optimizaciones para Windows y Mac.
SK hynix, el segundo mayor fabricante de chips de memoria, planea una IPO en EE. UU. para recaudar entre 10 y 14 mil millones de dólares. El objetivo es aumentar la producción de RAM, especialmente para inteligencia artificial, y así mitigar la crisis global conocida como 'RAMmageddon'. Este movimiento estratégico podría reconfigurar el mercado y la cadena de suministro tecnológica, fortaleciendo la infraestructura digital global.
OpenAI ha lanzado una nueva función de plugins para su plataforma Codex, permitiendo la integración con servicios como GitHub y Gmail. Esta actualización, reportada por Ars Technica, busca mejorar la productividad en el desarrollo de software y posicionar a Codex frente a sus competidores en el mercado de asistentes de IA.
Un PR experimental en llama.cpp introduce el prefetching de pesos al CPU para optimizar el procesamiento de prompts, beneficiando a modelos densos y pequeños con MoE, especialmente para usuarios con mucha RAM y GPU limitada.
OpenAI ha mejorado ChatGPT para potenciar el descubrimiento de productos, utilizando el Agentic Commerce Protocol (ACP). Ahora, los usuarios pueden navegar visualmente, comparar opciones, subir imágenes como inspiración y obtener información detallada y actualizada, agilizando significativamente el proceso de compra en línea.
Un ingeniero de `llama.cpp`, TheTom, ha resuelto un cuello de botella crítico en la decodificación de LLM, la dequantización en cachés KV, que consumía el 40% del tiempo en contextos largos (32K en M5 Max). Su innovadora propuesta consiste en omitir la desquantización para pesos de atención insignificantes, aprovechando la escasez de la atención 'flash'. Esta estrategia, denominada TurboQuant KV (turbo3), ha logrado una mejora del 22.8% en el tiempo de decodificación a 32K, manteniendo el PPL y mejorando el NIAH de 7/9 a 9/9. También se observó un 5% de mejora en la caché q8_0 estándar. Validada en hardware M5 Max y M2 Pro, esta solución redefine la eficiencia en LLM, demostrando que 'menos es más' en la optimización de IA.
El M5 Max establece un nuevo estándar en IA local, superando al M3 Max en inferencia de modelos de lenguaje grandes (LLM), especialmente en contextos largos y cargas de trabajo agenticas. Las pruebas con Qwen 3.5 y oMLX revelan mejoras de hasta 1.7x en inferencia general, casi 3x en contextos de 65K tokens y hasta 4x en prefill, impulsadas por su mayor ancho de banda (614 GB/s) y escalabilidad. El artículo subraya la importancia de los parámetros activos en la velocidad de inferencia y posiciona al M5 Max como un catalizador para la democratización de la IA personal.
Un experimento controlado demostró que dar acceso a literatura científica a agentes LLM mejora la optimización de hiperparámetros en un 3.2%. Utilizando el framework de Karpathy, un agente con acceso a 2M+ artículos superó a su contraparte sin acceso, logrando un 4.05% de mejora en el mejor resultado y descubriendo técnicas avanzadas. Este hallazgo subraya el valor del conocimiento científico en el desarrollo de IA y la eficiencia de los modelos.
