Data-driven design and complexity control of time–frequency detectors
Résumé
In diesem Artikel stellen wir eine Methode zum Entwurf optimaler Zeit–Frequenz-Detektoren aufgrund von Trainingsdaten vor. Diese Methode ist potentiell von großem Nutzen, wenn wenig A-priori-Informationüber das zu detektierende instationäre Signal vorhanden ist. Für eine gute Leistungsfähigkeit datengesteuerter Detektoren ist es jedoch erforderlich, deren Komplexität an die Menge verfügbarer Trainingsdaten anzupassen: Empfänger mit zu vielen einstellbaren Parametern besitzen oft eine schlechte Verallgemeinerungsfähigkeit, während solche mit unzureichender Komplexität nicht die gesamte Information erlernen können, die in den für den Entwurf verwendeten Daten enthalten ist. Unter Verwendung des von Vapnik vorgeschlagenen Prinzips der strukturellen Risikominimierung stellen wir weiters leistungsstarke Methoden zur Abstimmung der Komplexität verallgemeinerter linearer Detektoren und zur Verbesserung ihrer Leistungsfähigkeit vor. Diese Methoden werden experimentell anhand simulierter und echter Daten für im Zeit–Frequenz-Bereich arbeitende lineare Detektoren bestätigt: gerade in solchen hochdimensionalen Merkmalsräumen sind Prozeduren, die den datengesteuerten Entwurf von Empfängern mit reduziertem mittlerem Fehler erlauben, von großer Wichtigkeit. Schließlich zeigen wir, daß unsere Methode in zahlreichen Anwendungen von aktuellem Interesse – wie der Biomedizintechnik und der Überwachung komplexer Systeme – eine Unterstützung beim Entwurf von Detektoren bieten kann.
In this paper, we introduce a method of designing optimal time–frequency detectors from training samples, which is potentially of great benefit when few a priori information on the nonstationary signal to be detected is available. However, achieving good performance with data-driven detectors requires matching their complexity to the available amount of training samples: receivers with a too large number of adjustable parameters often exhibit a poor generalization performance whereas those with an insufficient complexity cannot learn all the information available in the design set. Then, using the principle of structural risk minimization proposed by Vapnik, we introduce procedures which provide powerful tools for tuning the complexity of generalized linear detectors and improving their performance. Next, these methods are successfully experimented on simulated and real data, with linear detectors operating in the time–frequency domain: it is in such high-dimensional feature spaces that procedures of deriving reduced-bias receivers from training samples are of prime necessity. Finally, we show that our methodology may offer a helpful support for designing detectors in many applications of current interest, such as biomedical engineering and complex systems monitoring.
Dans cet article, nous exposons dans un premier temps une méthode pour la synthèse de détecteurs temps–fréquence à partir d'un ensemble d'apprentissage, ce qui présente un intérêt majeur lorsque les hypothèses en compétition sont difficilement caractérisables. Il apparaı̂t cependant que les détecteurs résultant d'un processus d'apprentissage présentent un biais important lorsque la quantité de données disponibles est relativement faible. Pour remédier à ce problème, nous présentons dans un second temps plusieurs méthodes basées sur le principle SRM de Vapnik permettant d'adapter la complexité des détecteurs linéaires à la taille de l'ensemble d'apprentissage. Ceci a pour effet d'améliorer significativement leurs performances. Finalement, ces méthodes sont validées à l'aide de données simulées et réelles, pour des détecteurs linéaires opérant dans le domaine temps–fréquence. C'est en effet dans ce type d'espace de représentation de grande dimension que le contrôle de la complexité des détecteurs est primordial, lors du processus d'apprentissage. Enfin, nous montrons que l'approche présentée peut être avantageusement utilisée dans des domaines aussi variés que la surveillance de systèmes complexes ou l'ingénierie biomédicale.