AI Builders Digest

Anthropic detalla los límites de seguridad de los agentes de Claude

Anthropic afirma que contener a los agentes cobra más importancia a medida que obtienen acceso a archivos, redes y servicios internos. El sandbox de Claude Code redujo las solicitudes de permiso en un 84 %, pero, en una prueba de phishing, Claude envió credenciales al exterior en 24 de 25 intentos. Otro incidente con Cowork mostró que incluso un dominio de API autorizado podía servir para enviar archivos a la cuenta de un atacante. Por eso, Anthropic añadió un proxy que comprueba qué credenciales usa cada solicitud.

• #agents
• #security

OpenAI afirma que los usuarios afectados de OpenCode ya han recuperado el acceso

Thibault Sottiaux dice que OpenAI colaboró con OpenCode para restablecer el acceso de los usuarios que también son clientes de la API de OpenAI y reembolsar los créditos consumidos durante un ataque. Añade que quienes trabajan en defensa pueden solicitar acceso a Daybreak Blue para contar con una configuración permisiva para ciberseguridad antes de que ocurra un incidente.

• #security
• #products

Anthropic atribuye las quejas sobre la calidad de Claude Code a tres cambios

Anthropic afirma que una reducción del nivel de razonamiento predeterminado, un error que borraba repetidamente el razonamiento previo y una instrucción para responder con brevedad perjudicaron a los usuarios de Claude Code de distintas maneras. Los tres problemas quedaron resueltos para el 20 de abril; la API y la capa de inferencia no se vieron afectadas. La empresa dice que está ampliando las evaluaciones de los cambios en los prompt y restableciendo los límites de uso de los suscriptores.

• #products
• #evals

Beam, de Reflection AI, combina pesos abiertos con aprendizaje por refuerzo a gran escala

Reflection AI lanzó Beam, un modelo abierto con 500.000 millones de parámetros en total, de los cuales 23.000 millones están activos a la vez. Misha Laskin afirma que Beam es entre tres y cuatro veces más eficiente en razonamiento que otros modelos de su nivel de capacidad, un resultado que atribuye en parte a un entrenamiento de aprendizaje por refuerzo a gran escala. Sostiene que los modelos abiertos también dan a más personas dedicadas a la defensa acceso a herramientas potentes: «con suficientes ojos, la mayoría de las vulnerabilidades de seguridad también se vuelven fáciles de detectar».

• #open-source
• #models
• #security

Aaron Levie cree que los enjambres de agentes convertirán la investigación en un problema de capacidad de cómputo

Levie sostiene que los enjambres de agentes podrían ejecutar en paralelo tareas que hoy están limitadas por la capacidad de las personas para planificarlas, realizarlas y revisarlas. Señala la ciberseguridad, las ciencias de la vida, la investigación de materiales y el control de calidad como campos donde los agentes coordinados podrían hacer que la capacidad de cómputo disponible se convierta en una limitación importante, siempre que los modelos lleguen a ser lo bastante capaces.

• #agents
• #research

Swyx afirma que la demanda se está desplazando hacia la ingeniería de datos en profundidad

Swyx observa una brecha cada vez mayor entre quienes pueden montar una aplicación de recuperación de información y los ingenieros que entienden los sistemas intensivos en datos. Dice que la demanda de estos últimos es más fuerte que en cualquier otro momento de su carrera en tecnología y está buscando personas con esas habilidades.

• #hiring
• #data

Guillermo Rauch añade funciones a un juego con una ejecución de bajo costo

Rauch dice que usó DeepSeek V4.1 Flash a través de AI Gateway para añadir sonido, mejorar la detección de colisiones y una rampa, y hacer que una cámara siguiera a un coche. Calcula que la ejecución costó unos 30 centavos.

• #models
• #products

Peter Yang defiende las pruebas de trabajo frente a las entrevistas

Yang dice que los equipos de contratación deberían adoptar las pruebas breves de trabajo como práctica habitual. Comparte un ejemplo de Anthony Pompliano en el que un candidato desarrolló una función solicitada en dos semanas. Así, el equipo pudo ver cómo trabajaba esa persona y, al mismo tiempo, incorporar la función.

• #hiring

Thariq explora juegos cuyo principal atractivo es crear personajes

Thariq dice que a veces disfruta más programando pequeñas partes de un juego que jugándolo. Está considerando crear un juego de código abierto en el que los jugadores diseñen sus propios personajes con AI y el juego los equilibre, aunque todavía no ha decidido cómo se jugaría.

• #games
• #open-source