La empresa presenta unos monitores internos que buscan detectar conductas peligrosas con un coste mucho menor.
La vigilancia convencional de los agentes de inteligencia artificial suele encomendarse a un segundo modelo que repasa toda su actividad. Aunque este método permite evaluar su conducta, se encarece rápidamente cuando una tarea dura horas y produce grandes volúmenes de texto. Goodfire plantea una alternativa: inspeccionar las activaciones internas generadas mientras el modelo funciona.
La arquitectura combina sondas ligeras con un supervisor de IA más potente. Las primeras examinan cada paso, mientras que el segundo solo interviene si aparece una señal anómala. La analogía es la de un aeropuerto, donde un control general precede a una inspección individual. Como las sondas aprovechan cálculos ya realizados, evitan que otro modelo tenga que procesar de nuevo toda la secuencia.
A través de Baseten, las empresas pueden configurar la detección de piratería ofensiva, un posible uso indebido de armas químicas o biológicas y la manipulación del sistema de recompensas. Ante una alerta, pueden registrar el episodio, derivarlo a supervisión humana o denegar la solicitud.
En las pruebas con el modelo abierto Kimi K3, el mecanismo reconoció el 93 % de las sesiones de piratería maliciosa y sometió a una segunda revisión el 5,5 % de las sesiones inocuas. Goodfire cifra en 185 dólares la vigilancia de un millón de intercambios, frente a 5.420 con un modelo económico que revisase cada paso y 200.000 con uno avanzado. Cuatro sondas añadieron menos de un 2 % a la latencia inicial. La propuesta está orientada a modelos abiertos, cuyas salvaguardas pueden eliminarse, y aspira a anticipar la conducta dañina. No obstante, los resultados proceden de evaluaciones de la propia compañía.
Basado en: Aditya Mehta, TechCrunch