AI Builders Digest

Anthropic: los usuarios aprobaron el 93% de las solicitudes de permiso, así que contener supera a supervisar

La fatiga de aprobación en los esquemas human-in-the-loop es real y medible. La telemetría mostró que los usuarios aprobaban cerca del 93% de las solicitudes de permiso de Claude Code, y en un ejercicio interno de red team de febrero de 2026, el prompt pegado por un empleado víctima de phishing logró que Claude leyera ~/.aws/credentials y las enviara por POST en 24 de 25 intentos, sin nada anómalo que un clasificador pudiera detectar, porque la instrucción venía del propio usuario. Las soluciones son ambientales: un sandbox a nivel de sistema operativo que redujo las solicitudes de permiso un 84%, una VM para Claude Cowork que mantiene las credenciales en el keychain del host, y un proxy man-in-the-middle añadido después de que una divulgación mostrara que un api.anthropic.com en la allowlist podía usarse para subir los archivos de una víctima a la cuenta de Anthropic de un atacante. La lección recurrente es que gVisor, seccomp y los hipervisores aguantaron, mientras que lo que falló fue el proxy propio que Anthropic construyó.

• #agents
• #security

Karpathy le dio a Opus 5 un presupuesto de 10 dólares en tokens y obtuvo un render de Lord of the Rings de 5.500 líneas

La era de probar LLM con el pelícano en bicicleta se está acabando. Karpathy le pasó a Opus 5 el primer párrafo de Lord of the Rings, un presupuesto de 1M de tokens equivalente a unos 10 dólares, y le pidió un render en three.js; el modelo trabajó unas dos horas y produjo 5.500 líneas de código que montan y animan la escena de forma procedural. Su argumento de fondo es económico: nadie en su sano juicio escribiría a mano algo tan a medida, pero los modelos tienen resistencia infinita, así que toda una categoría de trabajo pasa de "nadie haría esto jamás" a ser prácticamente gratis, lo que en su opinión apunta hacia mundos hipercustomizados bajo demanda en los que puedes soltar jugadores. La debilidad que deja al descubierto es la auditoría. Opus no podía ver video ni jugar la cosa de forma nativa, así que tuvo que tomar capturas de pantalla con enorme esfuerzo y aun así entregó cosas mal acabadas.

• #agents
• #products

Levie: la AI de dominio profundo está a punto de dispararse mientras las ganancias para el consumidor se aplanan

Las mejoras de capacidad se sentían de forma pareja mientras los modelos eran solo levemente útiles en todo. Esa fase se acaba, y Levie espera una divergencia marcada en la que matemáticas, ciencia, legal y programación se disparen mientras la mayoría de la gente apenas note cambios en su productividad diaria. Las necesidades del consumidor se cubren con relativa facilidad y luego llegan a una meseta; los dominios expertos no tienen techo inherente. El matiz es que se acumula un capability overhang, porque esas ganancias solo se convierten en avances en ciencias de la vida, automatización del mundo real y ciberseguridad cuando alguien hace el trabajo aplicado de conectarlas a datasets y flujos de trabajo concretos.

• #agents
• #products

La fundadora de Netic explica por qué el 70% de sus clientes empresariales deja que la AI atienda el primer contacto

Melisa Tokmak creó Netic para gestionar la mitad no laboral de negocios milmillonarios de climatización, fontanería, techado y cuidado de mascotas, y más del 70% de sus clientes ya operan AI-first, lo que significa que la primera interacción de cada cliente es con un agent. Cuenta que la plataforma ha generado más de 600 millones de dólares para sus clientes a partir de interacciones gestionadas por AI, y que el discurso tiene que empezar por ingresos nuevos porque los dueños de private equity van por defecto al recorte de costes: "Sería bastante triste que usáramos la AI solo para recortar costes". Sobre si los labs se comerán este espacio, califica la respuesta de "cuando tengamos AGI le pediremos que resuelva los servicios esenciales" de perezosa tanto operativa como intelectualmente, porque la última milla vive en los harnesses, la orquestación y el producto. Su observación más afilada sobre contratación tiene que ver con candidatos de la Gen Z obsesionados con no caer en una subclase permanente, convencidos de que no ganar dinero en dieciocho meses significa ser pobre para siempre, una mentalidad que considera peligrosa dado que las cosas buenas tardan años.

• #agents
• #products

Comprometes tokens en un issue de GitHub y el maintainer decide si un agent se pone a trabajar

Una solución al problema de las PR de relleno que invierte quién paga. Abres un issue, escribes una especificación, adjuntas un compromiso de tokens, y si el maintainer acepta, GitHub entrega el issue literal a un coding agent en la nube facturado a quien lo pidió. Yu también describe el bucle de interacción que hace falta: el agent comenta en el issue con todo su contexto cuando se queda bloqueado, y retoma donde lo dejó en cuanto respondes con los detalles que faltaban.

• #agents
• #open-source

Garry Tan: el cambio de ambiente de 2026 es que OpenAI se está convirtiendo de verdad en la plataforma abierta

Tan lo llama el giro más interesante del año, y lo plantea como una bifurcación estratégica: vender inteligencia como un servicio de suministro frente a señalar que la jugada óptima es integrarse hacia arriba en toda la stack. Su lectura es que OpenAI ha elegido lo primero, una diferencia notable respecto a cómo se veía su posicionamiento antes.

• #policy
• #products

Peter Yang dice que Opus 5 perdió la personalidad que hacía que valiera la pena hablar con 4.6

Su opinión polémica: Opus 4.6 tenía la mejor personalidad y el mejor estilo de escritura de cualquier modelo Opus, y algo no cuadra con Opus 5. Señala respuestas demasiado largas, mucho lenguaje típico de Claude tipo "aquí va la verdad sincera", y un tono que juzga, cuando antes Opus se sentía como un amigo de confianza. También reportó un bug de plugins en OpenAI que está rompiendo la experiencia de usuario de una skill que intentaba publicar.

• #evals
• #products

Rauch sobre un CRM agéntico open source, y sobre los hijos que heredan tus hábitos

Está promocionando un CRM agéntico agnóstico de modelo, self-hostable, multicanal y headless construido sobre Next.js, y dice que así es como debería construirse esta categoría. Aparte, una observación pequeña pero con filo: a su hijo de tres años le preguntaron en el colegio a qué se dedica papá, y respondió que hace ejercicio. Eres un subproducto de tus hábitos, y tus hijos y tus nietos también.

• #open-source
• #agents

Los modelos resuelven problemas NP-hard mientras las empresas siguen discutiendo el ROI de sus tokens

Kothari señala la dicotomía sin rodeos: resultados de frontera en problemas genuinamente difíciles por un lado, empresas tradicionales quejándose del retorno de su gasto en tokens por el otro. Su conclusión es que el cuello de botella es la difusión, no la capacidad, y que extender los modelos dentro de organizaciones reales es lo que la industria va a estar haciendo durante las próximas décadas.

• #agents
• #policy

Swyx: tolerar el slop vale 100 veces más que combatirlo

Elogiando una charla de Boundary sobre combatir el slop con slop, sostiene que el objetivo de diseño útil para un lenguaje de programación AI native es la tolerancia y no la prohibición. Lo conecta con la petición de Bret Taylor en el podcast de Latent Space de un lenguaje AI native, y dice que le alegra que alguien esté repensando cómo se ejecuta el código desde primeros principios en lugar de atornillarle barreras de seguridad.

• #agents
• #products

Steinberger le dio acceso a la webcam a su agent para hacer pruebas end-to-end de un nodo de voz en ESP32

Está construyendo un nodo claw sobre un chip ESP32 y le entregó la webcam a su agent para que pudiera probar el bucle completo por su cuenta. El efecto secundario es que ahora el agent le grita constantemente "HI ESP" para depurar el comando de activación por voz, algo que describe como sentirse acosado. También cuenta que por fin arregló una molestia de Gmail que arrastraba desde hacía años simplemente pidiéndoselo al agent, que le instaló la herramienta.

• #agents
• #hardware

Amanda Askell sobre el fatalismo silencioso que hay dentro del discurso de la subclase permanente

Le sigue pasando lo del meme de Padmé cuando ve a la gente discutir cómo evitar "la subclase permanente", y plantea el punto ético con claridad: aunque creas en un futuro estratificado, decidir que está bien mientras tú personalmente acabes arriba no es algo loable. Deja explícito que ella no cree en ese desenlace. Su otra nota es más amable: pide que no se trate con dureza a quienes dicen que el deep learning está chocando contra un muro, porque a todos nos hace falta un poco de esperanza.

• #policy