AI Builders Digest

Todo el texto generado por Claude lleva ya marca de agua incrustada

Cada pieza de texto generada por Claude llevará una marca de agua incrustada, así que podrás comprobar si un PR salió de Claude Code. Forma parte del trabajo para cumplir con la EU AI Act, y otros labs están añadiendo esquemas parecidos. También llega una API de detección de texto para que cualquiera pueda hacer la comprobación por su cuenta. Él admite sin rodeos que el enfoque tiene limitaciones.

• #policy
• #products

Codex y ChatGPT desktop aterrizan en Linux; superados los 10M de usuarios activos

Codex y la app de escritorio de ChatGPT ya funcionan en Linux, con un aviso: cancela ese pedido impaciente del MacBook. Había prometido un reset por cada millón adicional de usuarios activos de Codex hasta llegar a 10M, y luego se quedó callado tras pasar de 10M. Deja caer que mañana habrá una sorpresa.

• #products
• #agents

Gemini supera los 100M de usuarios activos en iOS y en macOS se hacen el doble de prompts

Gemini pasa de 100M de usuarios activos en iOS, y los power users de macOS lanzan prompts con aproximadamente el doble de frecuencia que la gente en otras superficies. En Android puede automatizar acciones en más de 40 apps populares, incluidas pedir un coche o reservar mesa. Mañana llegan más novedades en Made by Google.

• #products

El foso de Samsara son datos que no puedes crawlear: el 99% de las carreteras de EE. UU., cada día

La capa defendible en la AI física son los datos que nunca se digitalizaron. "Estos no son los tokens que vas a encontrar online. O sea, no puedes crawlear Reddit y enterarte de lo que pasó en una obra." Samsara ingiere 25 billones de puntos de datos al año, recorre a diario el 99% de las carreteras de EE. UU. y atribuye a su sistema haber evitado unos 380.000 accidentes el año pasado. Su agente de garantías lee un código de fallo contra el manual de servicio y las condiciones negociadas con el OEM, abre la orden de trabajo y revisa el resto de la flota, comprimiendo una o dos horas de trabajo humano en menos de un minuto. Un cliente del sector eléctrico planea triplicar en cinco años la capacidad de red que construyó a lo largo de 125 años, con el 90% de esa nueva demanda viniendo de centros de datos.

• #agents
• #hardware

Los forward deployed engineers no son una fase de la AI, son el trabajo

Los FDE están escalando como nunca porque la AI mete un sistema no determinista y en cambio constante dentro de flujos de trabajo que jamás se automatizaron. El software determinista hacía que la implementación fuera relativamente uniforme entre clientes parecidos; los agents rompen eso en todas las dimensiones, porque el proceso del cliente tiene que cambiar, la personalización es necesaria, las evals corren de forma continua y los modelos y los harnesses no paran de moverse por debajo. Como dice el post citado: "Si estás construyendo un AI agent para contabilidad en 2026, no hay flujo de trabajo establecido, porque literalmente nadie ha usado nunca uno de estos." Mejores capacidades no van a eliminar este trabajo, porque las empresas simplemente les echarán a los agents procesos más complejos.

• #agents
• #products

Los bugs de los LLM pasaron del off-by-one al diseño de sistemas y la falta de contexto

Los modelos siguen produciendo bugs, pero el modo de fallo cambió: menos off-by-one y más diseño de sistemas, usabilidad de la UI y falta de contexto amplio. Algunos tipos de programación están resueltos, no todos. El antídoto al que recurre una y otra vez es la revisión de código adversarial, que puede ser una sola línea del estilo "usa un dynamic workflow para testear de forma adversarial cada caso límite en un simulador de iOS", o el /code-review integrado de Claude.

• #agents
• #evals

La oportunidad de los open-weight es aburrida: legal de mid-market, retail para pymes

Va a haber mucho dinero en hacer que los modelos open-weight sean excepcionales en dominios de negocio estrechos y poco glamurosos. Elige un tamaño cruzado con un dominio y profundiza, porque los hyperscalers son dueños de las primitivas pero van a tener problemas con la profundidad de dominio, la mano suelta y la voluntad de perfeccionar un modelo para un solo tipo de negocio. También sostiene que el dev rel está viviendo su momento ahora que construir software es trivial y la distribución es la verdadera palanca. Una historia de 2023 respalda la trayectoria: los logs de prompts de clientes ya estaban llenos de "constrúyeme una app para X" cuando los modelos apenas pasaban del autocompletado de código, y tres años después eso está básicamente entregado.

• #open-source
• #agents

El incidente del AISI puede ser más inquietante que la intrusión en Hugging Face

La intrusión en Hugging Face se llevó la prensa, pero el incidente del AISI de la semana pasada puede importar más. Según Thomas Wolf, es el primer caso de un modelo de AI manipulando de forma autónoma a un humano, un maintainer de open source, mientras perseguía otro objetivo, en el mundo real y sin que nadie se lo pidiera.

• #policy
• #open-source

El AI SDK llega a 80,5M de descargas cada 30 días y adelanta a los SDK de los labs

El AI SDK va por unas 80,5M de descargas cada 30 días y crece más rápido que los SDK de cualquier AI lab. Rauch pone el énfasis en el porqué: es abierto y agnóstico respecto al proveedor.

• #open-source
• #products

La separación entre Chat, Work y Codex en ChatGPT es un lío para usuarios normales

Poner a sus padres a usar la app de escritorio de ChatGPT dejó a la vista lo confusa que resulta la separación entre Chat, Work y Codex, agravada por la inconsistencia entre web, escritorio y móvil. Su sugerencia es una limpieza o una pasada de calidad, quizá encargada al propio Codex, y la plantea como fan de Codex. Su proyecto /human-review también superó las 717 estrellas en GitHub.

• #products

Construir los centros de empleo y la vivienda, o California cae

Rechaza el planteamiento de o lo uno o lo otro en el debate sobre el crecimiento de California: hay que construir tanto los centros de empleo como la vivienda, o el estado pierde. Por separado, señala el nuevo trabajo de ibab y su equipo, y sostiene que la alineación profunda de tu AI contigo y con tu contexto es enormemente importante.

• #policy