Fastinference ist ein Modelloptimierer und Modellcompiler, der die optimale Implementierung für ein Modell und die Hardwarearchitektur generiert.
Bei Fastinference steht der Benutzer an erster Stelle. Wir glauben, dass der Benutzer am besten weiß, welche Implementierung und welche Art von Optimierungen durchgeführt werden sollten. Daher generieren wir lesbaren Code, so dass der Benutzer die Implementierung bei Bedarf anpassen und ändern kann.
In Fastinference können Optimierungen und Implementierungen frei kombiniert werden. Fastinference unterscheidet zwischen Optimierungen für bestimmte Modelle, die unabhängig von der Implementierung sind, und bestimmten Arten von Implementierungen. Betrachten wir z.B. einen einfachen Entscheidungsbaum, dann hat das Pruning des Modells keinen Einfluss auf seine Implementierung und umgekehrt.
Fastinference kann leicht erweitert werden. Sie können leicht Ihre eigene Implementierung hinzufügen und gleichzeitig von allen Optimierungen profitieren, die am Modell durchgeführt werden und umgekehrt.