AI Builders Digest

El jefe de cómputo de OpenAI dice que el riesgo real es construir de menos, no de más

Sachin Katti, que dirige el cómputo industrial en OpenAI, rechaza de plano la tesis del exceso de construcción: «La demanda supera hoy con creces la oferta de cómputo. Así que todo lo que conseguimos poner en marcha lo consumimos de inmediato.» Cada vez que la compañía dio por hecho que ya tenía suficiente y levantó el pie, se arrepintió. Su preocupación real va en dirección contraria: las cadenas de suministro físicas de turbinas de gas, transformadores y electricistas cualificados sencillamente no pueden moverse al ritmo que se necesita, con unos 50.000 millones de dólares de gasto en cómputo este año frente a un total del sector cercano a los 700.000 millones. Confirma que los ingresos han seguido al cómputo casi de forma exacta (si triplicas uno, triplicas el otro), que la inferencia domina ya incluso las cargas llamadas de entrenamiento, porque tanto la generación de datos sintéticos como el post-training son inferencia, y que el chip propio Jalapeño de OpenAI pasó del diseño al tapeout en nueve meses, optimizado para tokens por vatio porque la energía es la restricción que manda. Un detalle notable: OpenAI es inquilina de sus centros de datos, no propietaria, así que la financiación recae en Microsoft, Oracle, Google, Amazon y otros. Su afirmación más llamativa: «no está tan lejos el mundo de la recursión, en el que la AI diseñará los sistemas que necesita para entrenar y ejecutar la siguiente generación de AI», chips incluidos.

• #hardware
• #agents

Altman: un solo prompt desde el móvil planificó un viaje, construyó un sitio e hizo las reservas

Altman cuenta que envió un único prompt desde su teléfono pidiendo a ChatGPT que rastreara su historial de chats en busca de ideas para un fin de semana largo con nueve personas, planificara las tres mejores opciones, construyera un sitio full-stack donde el grupo pudiera coordinarse y decidir, y luego hiciera las reservas y redactara el email de aviso en su Gmail. Su veredicto: «simplemente… funcionó». Sostiene que el nombre «work» se queda corto para lo que la función hace en realidad. Por separado, dejó caer que quiere un nuevo tipo de ordenador construido para esto.

• #agents
• #products

Levie: mejores modelos aumentan la necesidad de una capa de AI aplicada, no la reducen

La inteligencia en bruto no transforma procesos empresariales, porque el valor solo aparece cuando el modelo toca bucles de feedback reales: conexiones con los sistemas de la empresa, los datos adecuados, una UX que permita a las personas decidir en cada paso, flujos de trabajo que mejoren los datos con el tiempo y cumplimiento normativo. El onboarding de clientes en un banco y la revisión de contratos en un equipo legal son desarrollos completamente distintos, así que ciencias de la vida, servicios financieros, legal y manufactura necesitan cada uno una profundidad que los labs generalistas no van a cubrir del todo. Su punto contraintuitivo va sobre la dirección del movimiento: a medida que los modelos mejoran, los flujos de trabajo que uno se atreve a automatizar se vuelven más ambiciosos, lo que exige más capa aplicada y no menos. Buena parte de esa oportunidad va a parar a empresas independientes que se especializan a fondo en cada industria.

• #agents
• #products

Rauch compiló la CLI de Vercel a un binario nativo de 1,28 mb con scriptc

La CLI de Vercel, escrita en TypeScript, ahora compila a un binario nativo totalmente estático, sin V8 ni QuickJS embebidos: 1,28 mb, 1,5 ms de sobrecarga media de arranque, 2,94 s de tiempo medio de compilación, usando node:https, node:fs, node:path, node:os y node:crypto, y despliega sin problemas. El código traducido siguió siendo TypeScript muy legible, y la traducción en sí la hizo GLM 5.2 Fast. Por separado, Vercel firmó la carta Open Weights and American AI Leadership, y Rauch planteó los pesos abiertos como la siguiente frontera lógica después del código abierto, los datos, los protocolos y la investigación.

• #open-source
• #products

Director de AI en Meta: la crítica del impacto entregado está midiendo la fase 1

La queja de que la AI no ha producido impacto real en producto se equivoca sobre dónde estamos. Ahora mismo, las empresas con distribución ya establecida están usando AI para expandirse rápido hacia problemas adyacentes, construyendo cosas que antes exigían montañas de software a medida (su ejemplo es el probador virtual de ropa), lo que significa que las ganancias se absorben dentro de productos existentes y resultan invisibles a nivel de ecosistema. El manual todavía se está escribiendo. La fase 2 trae funciones netas nuevas e innovación, y ahí es cuando el efecto de la AI sobre la forma del ecosistema de software se vuelve innegable.

• #products
• #agents

Masad señala que los atacantes prefieren suscripciones subvencionadas de labs antes que modelos abiertos

Amjad Masad sacó a la luz un informe de un exempleado de Anthropic que sostiene que los hackers que lanzan ataques recurren a suscripciones fuertemente subvencionadas de los labs de frontera en lugar de a modelos de pesos abiertos. La implicación va en contra del encuadre habitual según el cual los modelos abiertos son el principal vector de uso indebido, y apunta más bien al acceso subvencionado a la frontera como la superficie de ataque más barata.

• #security
• #open-source

Fuera de la burbuja de la AI, la preocupación número uno es la confianza con los datos, no el límite de tokens

Hablando con gente de Canadá que no padece lo que él llama AI psychosis, Peter Yang descubrió que la preocupación número uno no es quedarse sin tokens. Es si confían lo suficiente en ChatGPT como para conectarle Gmail, Calendar, Google Workspace y Microsoft Office. Es una corrección útil para cualquiera que esté construyendo productos con agentes para un público masivo: el bloqueo está en los permisos y la confianza, no en la capacidad ni en la cuota.

• #agents
• #products

Deja de medir la adopción de AI en tokens quemados y mide el tiempo entre necesidad y entrega

Zara Zhang defiende que la métrica correcta de adopción es el tiempo transcurrido desde que aparece una necesidad del usuario hasta que eso se entrega, no el volumen de consumo. También tiene una lectura afilada de por qué hay tutoriales de AI por todas partes: cuanto más general es un producto de chat, más difícil se vuelve de usar, porque la gente se planta ante una caja en blanco y se queda bloqueada cuando no sabe qué pedir. La generalidad es el problema de usabilidad, no el argumento de venta.

• #products
• #evals

Dentro de OpenAI, ChatGPT work ya resuelve 20 tareas al día por persona

Negociar tu factura de internet, limpiar suscripciones basura, rastrear la mejor oferta en algo que quieres comprar: todo eso está a un prompt de distancia desde el teléfono. Sottiaux dice que le resuelve al menos 20 cosas al día y que todavía le sorprende. También describe a OpenAI como más enfocada y con más energía de la que le ha visto nunca.

• #agents
• #products

Dan Shipper está escribiendo la historia definitiva desde dentro de cómo surgió Codex

Se toma la semana libre para reportearla a base de entrevistas a fondo con gente de dentro de OpenAI, la publicará en Every dentro de unas semanas y va dejando pistas y lecciones por el camino.

• #products