Zum Inhalt springen
KI-Labor

Die Methoden hinter den Systemen, die wir ausliefern

Angewandte Forschung in Wahrnehmung, Sequenzmodellierung, Sprache, Audio und On-Device-Optimierung, betrieben, um ein Modell auf die Hardware eines Kunden zu bringen und es dort ehrlich zu halten, nicht um ein Diagramm zu veröffentlichen. Diese Seite ist das Glossar dessen, womit wir tatsächlich bauen.

  • LaufzeitumgebungC++ · CUDA · TensorRT · ONNX Runtime
  • ZielsystemeEdge-Geräte der Jetson-Klasse · Workstation · luftgekühltes Rack
  • DisziplinHeld-out-Evaluation vor jeder Freigabe
  • EigentumGewichte, Code und Evaluationen bleiben beim Kunden
FLAGGSCHIFF-PROGRAMM

Industrielle KI vor Ort, vom Silizium bis zur Antwort

Das Leitprogramm des Labors ist ein datenschutz-erster Diagnosestack, der vollständig im Gebäude des Kunden läuft: lokale Modelle, verifizierte Trainingswelten, deterministische Kontrolle und eine Edge-Beschleunigungslinie, messungs-erst entwickelt.

Deterministische Laufzeitkontrolle

Forschung dazu, was deterministische Kontrolle für kleine KI-Agenten leisten kann und was nicht: begrenzte Schritte, geschlossene Vokabulare, in denen ehrliche Enthaltung eine richtige Antwort ist, und Behauptungen, die Zeugen brauchen.

Lokaler Modell-Inferenzstack

Offene Modelle, quantisiert und auf handelsüblicher Hardware betrieben, feinabgestimmt für industrielle Ursachenanalyse, damit die Telemetrie des Werks das Werk nie verlässt.

Trainingswelten mit verifizierter Grundwahrheit

Eine Datenmaschine, die real fehleretikettierte Wind- und Solar-Telemetriearchive und physikbasierte synthetische Anlagen in Trainings- und Evaluationswelten mit prüfbaren Antworten verwandelt.

Edge-Beschleunigungsprogramm

Eine Edge-Koprozessorlinie für Vektorabruf mit hohem Durchsatz und Echtzeit-Drift- und Anomalieüberwachung, entworfen für den Platz neben einem Standard-Industrie-PC.

Jede Fähigkeitsbehauptung besteht vor der Auslieferung eine vorregistrierte Evaluation mit eingefrorenen Toren, und die Mathematik der Streaming-Überwachung wurde an realen Quantenhardware-Messdaten validiert. Eine Forschungsarbeit zur Kontrollarbeit ist in Vorbereitung: Die Ergebnisse werden offen als Preprint veröffentlicht und zur Begutachtung eingereicht, negative Befunde eingeschlossen.

Der Diagnosestack im Portfolio
Computer Vision und 3D-Wahrnehmung

Tiefe, Geometrie und was eine Kamera verlässlich wissen kann

Bei dieser Arbeit werden Pixel zu einer metrischen Struktur umgewandelt, sei es mit einer einzelnen Linse oder einem kalibrierten Aufnahmesystem, und anschließend wird entschieden, inwieweit man dieser Struktur Glauben schenken kann.

Monokulare metrische Tiefe
Dichte Tiefe pro Pixel aus einer einzelnen Kamera, feinabgestimmt auf szenenspezifische Aufnahmen und über bekannte Geometrie skalenverankert, sodass die Ausgabe in Metern vorliegt und nicht in relativen Einheiten.
Stereo- und Mehransichtsgeometrie
Rektifizierung, Semi-Global Matching und gelerntes Cost-Volume-Stereo für kalibrierte Aufbauten; Bündelausgleich und Structure-from-Motion, wenn der Aufbau eine bewegte Kamera ist.
Punktwolkenverarbeitung
Voxel-Downsampling, Schätzung der Bodenebene mit RANSAC, euklidisches Clustering und Sparse-Convolution-Backbones für LiDAR- und Tiefensensordaten, einschließlich Ground-Truth-Abgleich gegen simulierte Szenen.
Bird's-Eye-View-Fusion
Die Kamera-Daten werden in ein Raster von oben nach unten übertragen und mit Entfernungssensoren zusammengeführt, sodass Belegung, Freiraum und Struktur auf Fahrspurebene aus einer einzigen Darstellung hervorgehen.
Unsicherheit und Kalibrierung
Konfidenz-Köpfe pro Pixel, Temperature Scaling und konforme Schwellen, sodass eine nachgelagerte Regel sich weigern kann, auf Tiefenwerte zu reagieren, denen das Modell selbst nicht traut.
Sequenzmodelle und Prognose

Zeitreihen, Rekurrenz und die Modelle, die jene abgelöst haben, mit denen wir groß geworden sind

Sensorströme, Verkaufshistorien und Ereignisprotokolle sind zuallererst Sequenzen. Wir wählen die Architektur nach der Form der Daten und dem Budget des Geräts, nicht danach, was gerade in Mode ist.

xLSTM (sLSTM / mLSTM)
Erweiterte LSTM-Zellen mit exponentiellem Gating und Matrixspeicher: rekurrente Modelle, die die Long-Context-Leistung von Transformern zu linearen Kosten zurückgewinnen, was zählt, wenn ein Modell monatelang auf einem Edge-Gerät laufen muss.
State-Space-Modelle
Selektive State-Space-Schichten (die Mamba-Familie) für sehr lange Sensorsequenzen, in denen der quadratische Speicherbedarf von Attention die Grenze ist und ein rekurrenter Scan mit fester Latenz die Anforderung.
Temporale Faltung
Dilatierte kausale Faltungen mit Residualblöcken für hochfrequente Signale: eine stabile, interpretierbare Baseline, die wir in jedem Vergleich mitführen, damit ein raffinierteres Modell sie erst schlagen muss.
Probabilistische Prognose
Quantil-Köpfe, konforme Prognoseintervalle und Skill Scores gegen saisonal-naive Baselines, sodass eine Prognose mit der Breite ihrer eigenen Unsicherheit ausgeliefert wird und mit einem Grund, ihr mehr zu trauen als der Vorwoche.
Anomalieerkennung auf Datenströmen
Rekonstruktionsfehler- und Dichtemodelle über Telemetriefenstern, mit ereignisgeclusterter Auswertung, sodass eine lange Störung einmal zählt und Fehlalarme pro Maschinenmonat berichtet werden.
Natürliche Sprache und Retrieval

Sprachmodelle, eingesetzt auf Dokumenten, die das Haus nie verlassen

Die interessanten Probleme sind nicht das Modell, sondern alles darum herum: Retrieval, das zitiert, Generierung, die begrenzt ist, und Evaluation, die Drift bemerkt, bevor ein Nutzer es tut.

Retrieval-augmentierte Generierung
Hybrides dichtes und dünnbesetztes Retrieval (Embedding-Ähnlichkeit und BM25) mit einem Cross-Encoder-Reranker, so gechunkt, dass jede Antwort die Passage mitführt, aus der sie stammt, und einen Beleg, den man öffnen kann.
Embeddings und Vektorindizes
Feinabgestimmte Embedding-Modelle für das kundeneigene Vokabular, die mit HNSW oder IVF-PQ auf lokaler Hardware indiziert wurden, wobei der Recall anhand eines beschrifteten Abfragesatzes gemessen wird.
Strukturierte Extraktion
Eingeschränkte Dekodierung anhand typisierter Schemata: Verträge, Rechnungen und Formulare werden zu validierten Datensätzen, und die Auslassungen des Modells werden als Merkmal gezählt.
Agenten-Harnesses mit festen Grenzen
Werkzeugnutzende Agenten mit einer Allow-List erlaubter Aktionen, einem Budget, einer Spur jedes einzelnen Aufrufs und einer menschlichen Freigabe vor allem Folgenreichen: Das Harness ist das Produkt, das Modell ist eine Komponente.
Evaluation und Drift
Goldene Fragensets, Bewertung von Treue und Zitationspräzision sowie Regressionsgates, die bei jeder Modell- oder Indexänderung laufen, sodass eine leise Verschlechterung als fehlgeschlagene Prüfung sichtbar wird.
Audio und Signalverarbeitung

Sprechen und Klang zuerst als Signal, dann als Sprache

Eine Stimme in der Telefonleitung und die Schwingung an einem Lager sind dieselbe Disziplin: Signalverarbeitung im Frontend, die darüber entscheidet, was das Modell überhaupt zu sehen bekommt.

Streaming-Spracherkennung
Chunk-basierte Transkription mit geringer Latenz, einschließlich Spracherkennung und Endpunktbestimmung, optimiert für die Bandbreite von Telefonverbindungen. Die Verarbeitung erfolgt auf lokaler Hardware, sodass Audiodaten niemals die Netzwerkgrenze überschreiten.
Sprecher- und Ereigniserkennung
Diarisierung für das Wer-sagt-was, dazu akustische Ereignisklassifikation (ein fallendes Tablett, ein Alarm, eine Maschine, die ihre Tonhöhe ändert) aus Log-Mel- und Constant-Q-Darstellungen.
Ordnungsanalyse und Spektralmerkmale
Schwingungen werden auf die Wellendrehung resampelt, sodass Lager- und Verzahnungssignaturen bei festen Ordnungen liegen; Hüllkurvenspektren und Kurtogramme für die Fehler, die eine schlichte FFT verdeckt.
Selbstüberwachtes Audio-Pretraining
Kontrastives und maskiertes Pretraining auf ungelabelten Aufnahmen vom Standort des Kunden, sodass der nachgelagerte Klassifikator aus Stunden an Kontext lernt statt aus einer Handvoll Labels.
Sprachsynthese und Dialoglatenz
Gestreamte Synthese mit Sprecherwechsel im Subsekundenbereich, Ende zu Ende gemessen vom letzten Wort der anrufenden Person bis zur ersten hörbaren Antwort, auf derselben Hardware, die das Gespräch trägt.
Echtzeit-Tracking in C++

Multi-Object-Tracking, bei dem das Frame-Budget die Spezifikation ist

Die Detektion ist die leichte Hälfte. Identitäten über Verdeckungen, über Kameras und über eine ganze Nacht Aufzeichnung hinweg zu halten, innerhalb eines festen Millisekundenbudgets: Dort steckt die Ingenieursarbeit.

Tracking-by-Detection
Kalman-gefilterte Bewegungsmodelle mit ungarischer Zuordnung über IoU- und Erscheinungskosten, ByteTrack-artige Rettung schwach bewerteter Detektionen und Regeln für den Track-Lebenszyklus, die pro Kamera abgestimmt werden statt global.
Re-Identifikation und Erscheinungs-Embeddings
Kompakte Embedding-Netze, um dasselbe Objekt über Lücken und Kameras hinweg zuzuordnen, mit einer ausdrücklichen Regel dafür, wann eine Zuordnung nicht sicher genug ist, um zusammengeführt zu werden.
Sensorfusion
Kamera, LiDAR und Radar werden auf Track-Ebene mit gemeinsamem Zustand und Zeitabgleich fusioniert, sodass ein Ziel, das ein Sensor verliert, von einem anderen weitergetragen wird, statt neu geboren zu werden.
Zero-Copy-Pipelines
GStreamer- und DeepStream-Diagramme mit auf der GPU verarbeiteten Frames, von der Dekodierung über die Inferenz bis hin zum Overlay, wobei keine Roundtrips zum Host stattfinden und die Latenz pro Stream im Design berücksichtigt wurde.
Deterministische C++-Laufzeiten
Vorab allozierte Puffer, sperrfreie Warteschlangen und Pinned Memory; profiliert mit Nsight und mit Sanitizer-Builds geprüft, denn ein Tracker, der einmal pro Stunde stockt, ist kein Tracker.
Edge-KI und Embedded-Deployment

Ein Modell in das Gerät bringen, in dem es leben muss

Ein Modell ist nicht fertig, wenn es trainiert ist; es ist fertig, wenn es innerhalb des thermischen, des Speicher- und des Latenzbudgets des Geräts läuft, unbeaufsichtigt, über Jahre.

Deployment auf der Jetson-Klasse
TensorRT-Engines, die je nach Gerät und Genauigkeitsstufe angepasst sind, DLA-Auslagerung dort, wo sie sich lohnt, sowie Energie- und Taktprofile, die unter Berücksichtigung des gemessenen thermischen Budgets ausgewählt werden.
Hardwarebewusste Architektursuche
Backbones und Eingangsauflösungen werden nach gemessener Latenz auf dem Zielgerät gewählt, nicht nach FLOPs auf dem Papier, mit einer Latenztabelle, die aus dem tatsächlichen Silizium stammt.
Versiegelte Appliances
Schreibgeschützte Root-Dateisysteme, signierte Images, Watchdogs und Offline-Fähigkeit, sodass dem Kunden ein Gerät gehört, das weiterarbeitet, wenn das Netz es nicht tut.
Feldtelemetrie und Drift-Monitore
Histogramme der Eingangsverteilung und der Konfidenz werden als Zusammenfassungen übertragen, nie als Rohbilder, sodass wir sehen können, wie eine Kamera aus der Kalibrierung läuft, ohne die Kamera zu sehen.
Sichere Updates
Gestufte Rollouts mit A/B-Partitionen und automatischem Rollback bei fehlgeschlagenem Health-Check: Ein Modell-Update ist ein Deployment und bekommt dessen Disziplin.

Die Optimierungswerkbank

Jedes Modell, das wir ausliefern, durchläuft dieselben fünf Stationen. Die Reihenfolge zählt: nichts wird quantisiert, bevor es profiliert ist, und nichts wird freigegeben, bevor eine Held-out-Evaluation bestätigt, dass das komprimierte Modell die Aufgabe noch erfüllt.

Profilieren

Latenz und Speicher auf Schichtebene, auf dem tatsächlichen Zielgerät, unter der tatsächlichen Eingangsverteilung, mit dem thermischen Zustand daneben protokolliert.

  • Nsight
  • Latenz pro Schicht
  • thermisches Budget

Prunen und destillieren

Strukturiertes Pruning von Kanälen und Köpfen, dann Knowledge Distillation vom vollen Modell in das kleinere, sodass Kapazität dort entfernt wird, wo das Profil sie als ungenutzt ausweist.

  • strukturiertes Pruning
  • Distillation
  • LoRA-Merge

Quantisieren

Zuerst Post-Training-Quantisierung mit repräsentativen Kalibrierungsdaten; quantisierungsbewusstes Training nur dort, wo INT8 oder FP8 Genauigkeit kostet, welche die Evaluation nicht verzeiht.

  • INT8 / FP8
  • PTQ → QAT
  • Kalibrierungssätze

Kompilieren

Graphfusion, Operatorauswahl und Engine-Build pro Gerät und Präzision, von ONNX nach TensorRT oder in eine kompilierte Laufzeit, wo das Ziel überhaupt keine GPU hat.

  • TensorRT
  • ONNX Runtime
  • Kernel-Fusion

Verifizieren

Das komprimierte Modell durchläuft die vollständige Held-out-Evaluation erneut, ereignisgeclustert und basisratenkorrigiert; eine Verschlechterung an irgendeiner Stelle schickt es eine Station zurück.

  • Held-out-Evaluation
  • Regressionsgate
  • signiertes Artefakt

Wir veröffentlichen Methoden. Die Zahlen leben in Ihrer Evaluationssuite, auf Ihrer Hardware, wo Sie sie erneut ausführen können.

Wie das Labor arbeitet

Baselines vor Neuheit

Jedes Experiment enthält die langweilige Baseline: saisonal-naiv, ein lineares Modell, die Architektur des Vorjahres. Eine neue Methode geht erst in Betrieb, wenn sie die Baseline auf Held-out-Daten über mehrere Seeds hinweg schlägt, berichtet als Mittelwert mit seiner Streuung.

Vorab registrierte Evaluation

Schwellen, Metriken und die Definition eines Bestehens werden vor dem Lauf festgehalten. Ein Ergebnis, das nachträglich geänderte Regeln braucht, ist eine Erkenntnis über die Regeln, kein Erfolg.

Synthetisch, wo Realität teuer ist

Simulierte Szenen, gerenderte Sensoren und erzeugte Grenzfälle füllen die Lücken, die reale Daten nicht schließen können, und jedes synthetische Ergebnis wird gegen eine echte Aufnahme bestätigt, bevor es zählt.

Artefakte im Eigentum des Kunden

Gewichte, Trainingscode, Evaluations-Harnesses und Traces werden in die Repositories und auf die Hardware des Kunden geliefert. Wir behalten die Methode; Sie behalten alles, was sie hervorgebracht hat.

Fragen, die dem Labor gestellt werden

Veröffentlichen Sie Papers oder Benchmarks?

Wir veröffentlichen Methoden und gelegentlich einen Bericht, wenn ein Kunde zustimmt. Genauigkeitszahlen veröffentlichen wir auf dieser Seite nicht: Sie hängen von Daten ab, die uns nicht gehören, und eine Zahl ohne ihr Evaluationsprotokoll ist Marketing.

Können Sie mit unseren bestehenden Modellen und Daten arbeiten?

Meistens ja. Der erste Schritt ist ein Evaluations-Harness um das, was Sie bereits haben (eine Baseline, der wir beide trauen können), und erst danach ein Vorschlag, was zu ändern ist.

Welche Hardware adressieren Sie?

Was immer das System tragen muss: Edge-Geräte der Jetson-Klasse, Workstation-GPUs, luftgekühlte Racks und, wo es keine GPU gibt, kompilierte CPU-Laufzeiten. Die Optimierungswerkbank existiert, damit dasselbe Modell ehrlich auf jedes davon passen kann.

Zuletzt überprüft:

Dunkle hohle Metallzylinder, die ein abstraktes Muster bilden

Bringen Sie dem Labor ein Problem

Beschreiben Sie das Signal, das Gerät und die Entscheidung, die es tragen soll. Wir sagen Ihnen, welche dieser Methoden greifen, wie eine Baseline aussähe und was wir zuerst messen möchten.

Mit dem Labor sprechen