Хијерархијско кластеровање модела Гаусових смеша у апликацијама за континуално препознавање говора

Abstract

У оквиру докторске дисертације представљен је нови алгоритам хијерархијског кластеровања модела Гаусових смеша, заснован на операцији поделе и спајања. Алгоритам тежи побољшању локално оптималног решења одређеног иницијалном констелацијом. Иницијализује се локално оптималним параметрима, добијеним коришћењем референтног приступа сличног k‐means‐у и тежи ка приближавању глобалном оптимуму функције циља, итеративном применом операција поделе и спајања над кластерима Гаусових компоненти, одређеним применом референтног алгоритма. Додатно побољшање алгоритма осварено је увођењем принципа селекције модела у сврху одређивања најповољнијег односа тачности и рачунске сложености, у задатку селекције гаусијана унутар реалног система за препознавање. Предложени метод тестиран је како над вештачки генерисаним подацима, тако и у оквиру алгоритма селекције гаусијана, на примеру система за континуално препознавање говора. У оба случаја забележено је побољшање резултата у односу на резултате остварене применом референтног алгоритма. Побољшања алгоритма селекције гаусијана избором оптималног скупа системских параметара такође су размотрена.

U okviru doktorske disertacije predstavljen je novi algoritam hijerarhijskog klasterovanja modela Gausovih smeša, zasnovan na operaciji podele i spajanja. Algoritam teži poboljšanju lokalno optimalnog rešenja određenog inicijalnom konstelacijom. Inicijalizuje se lokalno optimalnim parametrima, dobijenim korišćenjem referentnog pristupa sličnog k‐means‐u i teži ka približavanju globalnom optimumu funkcije cilja, iterativnom primenom operacija podele i spajanja nad klasterima Gausovih komponenti, određenim primenom referentnog algoritma. Dodatno poboljšanje algoritma osvareno je uvođenjem principa selekcije modela u svrhu određivanja najpovoljnijeg odnosa tačnosti i računske složenosti, u zadatku selekcije gausijana unutar realnog sistema za prepoznavanje. Predloženi metod testiran je kako nad veštački generisanim podacima, tako i u okviru algoritma selekcije gausijana, na primeru sistema za kontinualno prepoznavanje govora. U oba slučaja zabeleženo je poboljšanje rezultata u odnosu na rezultate ostvarene primenom referentnog algoritma. Poboljšanja algoritma selekcije gausijana izborom optimalnog skupa sistemskih parametara takođe su razmotrena.

The dissertation presents a novel splitand‐ merge algorithm for hierarchical clustering of Gaussian mixture models. The algorithm tends to improve on the local optimal solution determined by the initial constellation. It is initialized by local optimal parameters obtained by using a baseline approach similar to kmeans, and it tends to approach more closely to the global optimum of the target clustering function, by iteratively splitting and merging the clusters of Gaussian components obtained as the output of the baseline algorithm. The algorithm is further improved by introducing model selection in order to obtain the best possible trade‐off between recognition accuracy and computational load in a Gaussian selection task applied within an actual recognition system. The proposed method is tested both on artificial data and in the framework of Gaussian selection performed within a real continuous speech recognition system. In both cases an improvement over the baseline method has been observed. Additional improvements of Gaussian selection algorithm by using the optimal set of system parameters are also discussed.