AI Builders Digest

Jev, de TypeSafe, busca que las decisiones de la AI sean lo bastante fiables para usarlas en software

Diogo Almeida explica que Jev devuelve probabilidades que los desarrolladores pueden poner a prueba y usar para fijar sus propios umbrales, en lugar de generar una respuesta bien redactada que podría ocultar una mala decisión. Quiere que los desarrolladores combinen decisiones pequeñas y fiables para crear flujos de trabajo automatizados más amplios. Así describe su prueba para los modelos actuales: «95 % Einstein, 5 % Mr. Bean. Y si no te avisa cuando le toca ser Mr. Bean, ¿cómo vas a automatizar nada?»

• #products
• #automation
• #evals

Aaron Levie prevé que los agentes en segundo plano podrían consumir entre 100 y 1.000 veces más tokens

Levie sostiene que poner a muchos agentes a trabajar en paralelo en revisiones, auditorías y otras tareas de información podría consumir entre 100 y 1.000 veces más tokens que las conversaciones de ida y vuelta actuales. También cree que Muse, el modelo de pesos abiertos de Meta, ayudará a las empresas a combinar modelos de frontera con otros más baratos y adaptados a flujos de trabajo repetibles.

• #agents
• #open-source
• #compute

Anthropic y Gray Swan preparan una competición sobre prompt injection

Boris Cherny afirma que Claude ha avanzado mucho frente al prompt injection, pero que el problema se vuelve cada vez más urgente para todo el sector a medida que los agentes asumen más tareas. Anthropic colaborará con Gray Swan para organizar una competición que permita encontrar puntos débiles.

• #agents
• #security

Dan Shipper cuestiona qué puede revelar la interpretabilidad sobre los planes de la AI

La observación de Shipper va al grano: encontrar una neurona que responda a la Torre Eiffel demostraría que un modelo reconoce Francia, pero no revelaría qué piensa hacer. Duda que identificar rasgos internos reconocibles baste para entender el comportamiento de un modelo.

• #interpretability
• #safety

Aditya Agarwal ve la alineación como un problema de ingeniería

Agarwal cree que Goodfire podría convertirse en una de las empresas más importantes surgidas de SPC. Su motivo es el trabajo de la compañía, que muestra que la interpretabilidad y la alineación de modelos pueden abordarse como problemas de ingeniería.

• #interpretability
• #safety

Zara Zhang crea un periódico cuyas imágenes cobran vida

Zhang compartió The Toddler Times, un periódico al estilo de Harry Potter cuyas imágenes pueden cobrar vida. Es un ejemplo concreto de cómo los medios interactivos pueden reinventar un formato conocido.

• #products