УНИВЕРЗИТЕТ У КРАГУЈЕВЦУ ФАКУЛТЕТ ИНЖЕЊЕРСКИХ НАУКА Александар Б. Новаковић ТЕХНИКЕ РАЧУНАРСКЕ ИНТЕЛИГЕНЦИЈЕ У МОДЕЛИРАЊУ И ИДЕНТИФИКАЦИЈИ ИНДИКАТОРА ПОНАШАЊА БРАНЕ ДОКТОРСКА ДИСЕРТАЦИЈА Крагујевац, 2013. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 2 I. Аутор Име и презиме: Александар Б. Новаковић Датум и место рођења: 29.02.1988. године, Крагујевац Садашње запослење: НЕЗАПОСЛЕН II. Докторска дисертација Наслов: „Технике рачунарске интелигенције у моделирању и идентификацији индикатора понашања бране“ Број страница: 141 Број слика: 62 Број библиографских података: 135 Установа и место где је рад израђен: Факултет инжењерских наука Универзитета у Крагујевцу, Крагујевац Научна област (УДК): Примењена информатика и рачунарско инжењерство (519.68) Ментор: Др Весна Ранковић, ванредни професор Факултета инжењерских наука Универзитета у Крагујевцу III. Оцена и обрана Датум пријаве теме: 21.01.2013. године Број одлуке и датум прихватања докторске дисертације: Одлука број: 01-1/1021-10 од 18.04.2013. године Комисија за оцену подобности теме и кандидата: Др Весна Ранковић, ванр. проф. Факултетa инжењерских наука Универзитета у Крагујевцу Др Дејан Дивац, виши научни сарадник Институтa за водопривреду “Јарослав Черни”, Београд Др Ненад Грујовић, ред. проф. Факултета инжењерских наука Универзитета у Крагујевцу Др Мирослав Живковић, ред. проф. Факултета инжењерских наука Универзитета у Крагујевцу Др Никола Миливојевић, доцент Факултета информационих технологија Универзитета Метрополитан, Београд Комисија за оцену докторске дисертације: Др Весна Ранковић, ванр. проф. Факултетa инжењерских наука Универзитета у Крагујевцу Др Дејан Дивац, виши научни сарадник Институтa за водопривреду “Јарослав Черни”, Београд Др Ненад Грујовић, ред. проф. Факултета инжењерских наука Универзитета у Крагујевцу Др Мирослав Живковић, ред. проф. Факултета инжењерских наука Универзитета у Крагујевцу Др Никола Миливојевић, доцент Факултета информационих технологија Универзитета Метрополитан, Београд Комисија за одбрану докторске дисертације: Др Весна Ранковић, ванр. проф. Факултетa инжењерских наука Универзитета у Крагујевцу Др Дејан Дивац, виши научни сарадник Институтa за водопривреду “Јарослав Черни”, Београд Др Ненад Грујовић, ред. проф. Факултета инжењерских наука Универзитета у Крагујевцу Др Мирослав Живковић, ред. проф. Факултета инжењерских наука Универзитета у Крагујевцу Др Никола Миливојевић, доцент Факултета информационих технологија Универзитета Метрополитан, Београд Датум одбране дисертације: Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 3 Највећу захвалност дугујем својој менторки проф. др Весни Ранковић, ванредном професору Факултета инжењерских наука у Крагујевцу, за вођење читавог процеса пријаве и израде ове дисертације, као и на несебичној подршци и помоћи у свим етапама рада. Захваљујући њој, њеном ентузијазму и преданoсти, заволео сам област рачунарске интелигенције, начинио прве кораке у овом пољу, написао радове и одабрао свој животни пут. Посебну захвалност дугујем проф. др Ненаду Грујовићу, редовном професору Факултета инжењерских наука у Крагујевцу, и проф. др Мирославу Живковићу, редовном професору Факултета инжењерских наука у Крагујевцу, на указаној подршци, поверењу, идејама и предлозима без којих овај рад не би био овакав какав јесте. Велику захвалност изражавам др Дејану Дивцу, вишем научном сараднику Института за водопривреду “Јарослав Черни”, и проф. др Николи Миливојевићу, доценту Факултета информационих технологија у Београду, који су својим коментарима и сугестијама у великој мери допринели изради овог рада. Искрено се захваљујем Институту за водопривреду “Јарослав Черни” на уступљеним подацима, коришћеним у изради модела. На крају, али не и најмање важно, бескрајно сам захвалан својим родитељима, оцу Бранку и мајци Драгани, као и брату Милану, који су били уз мене у најтежим тренуцима, научили ме правим животним вредностима и који су ми својом љубављу, подршком и разумевањем давали снагу за превазилажење свих животних проблема. Аутор Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 4 Резиме Индикатори понашања бране су релевантне величине, чијим се праћењем утврђује да ли је стварно стање бране у експлоатацији у сагласности са оним што је предвиђено и очекивано у фази пројектовања. Величине које се прате треба да се крећу у неком унапред дефинисаном опсегу који гарантује стање стабилности бране. У овој дисертацији су предложени различити приступи моделирања и параметарске идентификације индикатора понашања бране, попут хоризонталних померања и нивоа воде у пијезометрима, техникама рачунарске интелигенције. Први приступ је да се линеарно пресликавање узрочних величина у индикаторе понашања, које се користи код вишеструке линеарне регресије, замени нелинеарним. Други приступ, предложен у овом раду, заснива се на примени поступка параметарске идентификације нелинеарних система. Хоризонтална померања и нивои воде у пијезометрима су нелинеарне, сложене функције узрoчних величина, па је за њихово моделирање коришћена NARX (Nonlinear Auto Regresive eXogenous- нелинеарни ауто-регресиони модел са спољашњим улазом) структура, којом је описана широка класа нелинеарних динамичких процеса. Предложени приступи формирања модела примењени су за моделирање и параметарску идентификацију хоризонталних померања тачака бране Бочац, као и нивоа воде у пијезометрима брана Ђердап II и Првонек. Нелинеарни модели засновани на техникама рачунарске интелигенције имплементирани су коришћењем програмског језика Јava и програмског пакета Маtlab. Технике рачунарске интелигенције коришћене у овом раду су вишеслојни перцептрон, RBF (RBF - Radial Basis Function – радијална основна функција) неуронска мрежа и ANFIS (ANFIS - Adaptive-Network-Based Fuzzy Inference System - фази систем за закључивање заснован на адаптивној мрежи). Недостајући подаци у скупу мерења могу бити узрок проблема у оквиру процеса учења и лоших перформанси добијених модела. У циљу надомештања недостајућих података коришћене су технике из домена математичке статистике. Присуство аутлајера у мерним подацима има велики утицај на предвиђања података који недостају, па је њихово присуство посебно анализирано. Такође је анализиран и проблем оптимизације улазно-излазних модела, који подразумева одређивање броја предиктора и димензије регресионог вектора, као и броја параметара неуронских мрежа и неуро-фази система. Перформансе модела, формираних на основу предложеног концепта, поређени су са резултатима добијеним другим методама моделирања истих индикатора понашања приказаним у релевантој литератури објављеној у последњих неколико година. На основу резултата закључено је да је могуће креирати и обучити моделе засноване на техникама рачунарске интелигенције који ће са великом прецизношћу предвиђати битне индикаторе понашања бране. Кључне речи: брана, индикатори понашања, моделирање, идентификација, неуронске мреже, неуро-фази систем Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 5 Abstract The dam behavior indicators are relevant factors whose monitoring indicates whether the actual operational state of the dam is in accordance with what is expected and anticipated in the design phase. Such indicators should move in a predefined range, in order to guarantee stability of the dam. This dissertation proposes different approaches to modeling and parametric identification of the dam behavior indicators, such as radial displacements or piezometric water levels, using the techniques of artificial intelligence. The first approach is to replace linear mapping of causal variables into behavior indicators, which is used in multiple linear regression, with nonlinear. The second approach proposed in this paper is based on applying the method of parametric nonlinear system identification. Radial displacements and piezometric water levels are nonlinear, complex functions of causal variables, so for their modeling NARX (Nonlinear Auto Regresive eXogenous), which is employed to describe a wide class of nonlinear dynamic systems, is used. These proposed approaches are used for modeling and parametric identification of radial displacements of dam Bočac, and piezometric water levels of dams Iron Gate II and Prvonek. Nonlinear models based on artificial intelligence techniques have been implemented using the Java programming language and MATLAB. Artificial intelligence techniques used in this work are the multilayer perceptron, RBF (Radial Basis Function) neural network and ANFIS (Adaptive-Network-Based Fuzzy Inference System). The presence of missing data in a set of measurements may be causing problems in the learning process and the poor performance of the obtained models. In order to predict the missing data, the techniques of mathematical statistics have been used. Outliers present in a set of measurements have a big effect on the prediction of missing data, and their presence is specifically analyzed. The problem of optimizing the input- output model, which involves determining the number of predictors and dimensions of the regression vector, and the number of parameters of neural networks and neuro-fuzzy systems, is also analyzed. The performance of the models, formed on the basis of the proposed concept, are compared with those obtained by other methods of modeling the same behavioral indicators presented in relevant accompanying literature published in the last few years. Based on the results, it was concluded that it is possible to create and train models based on computational intelligence techniques to predict with great accuracy the essential dam behavior indicators. Keywords: dam, behavior indicators, modeling, identification, neural networks, neuro-fuzzy system. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 6 САДРЖАЈ 1. УВОД ...................................................................................................................................................... 8 2. ВЕШТАЧКЕ НЕУРОНСКЕ МРЕЖЕ, ФАЗИ И НЕУРО-ФАЗИ СИСТЕМИ ....................................................... 15 2.1. БИОЛОШКИ НЕУРОН ............................................................................................................................................. 16 2.2. НЕУРОН И МОДЕЛ НЕУРОНА. АРХИТЕКТУРА И УЧЕЊЕ ВЕШТАЧКИХ НЕУРОНСКИХ МРЕЖА .................................................. 17 2.3. ВИШЕСЛОЈНИ ПЕРЦЕПТРОН. АЛГОРИТМИ ЗА ОБУЧАВАЊЕ ВИШЕСЛОЈНОГ ПЕРЦЕПТРОНА................................................. 20 2.3.1. Алгоритам са пропагацијом грешке уназад ....................................................................................... 21 2.3.2. Модификације алгоритма са пропагацијом грешке уназад ............................................................. 25 2.4. RBF (RBF – RADIAL BASIS FUNCTION) НЕУРОНСКА МРЕЖА .......................................................................................... 26 2.5. ФАЗИ И НЕУРО-ФАЗИ СИСТЕМИ .............................................................................................................................. 28 2.5.1. Фази скупови и фази релације. Операције над фази скуповима и фази релацијама. .................... 29 2.5.2. Апроксимативно резоновање и фази системи ................................................................................. 33 2.5.3. Неуро-фази системи ............................................................................................................................... 38 3. ТЕХНИКЕ РАЧУНАРСКЕ ИНТЕЛИГЕНЦИЈЕ У МОДЕЛИРАЊУ И ИДЕНТИФИКАЦИЈИ НЕЛИНЕАРНИХ ПРОЦЕСА ................................................................................................................................................. 42 3.1. ПАРАМЕТАРСКА ИДЕНТИФИКАЦИЈА НЕЛИНЕАРНИХ СИСТЕМА........................................................................................ 43 3.2. ВИШЕСЛОЈНИ ПЕРЦЕПТРОН И ДИГИТАЛНА РЕКУРЕНТНА НЕУРОНСКА МРЕЖА У ИДЕНТИФИКАЦИЈИ НЕЛИНЕАРНИХ СИСТЕМА . 47 3.3. НЕУРО-ФАЗИ ИДЕНТИФИКАЦИЈА ............................................................................................................................. 50 3.4. ПРЕПРОЦЕСИРАЊЕ ПОДАТАКА – ВАЛИДАЦИЈА ПОДАТАКА И НАДОМЕШТАЊЕ ПОДАТАКА КОЈИ НЕДОСТАЈУ ........................ 53 3.4.1. Технике за детекцију аутлајера ........................................................................................................... 54 3.4.2. Технике за надомештање података који недостају ......................................................................... 56 3.5. ИЗБОР СТРУКТУРЕ И ДИМЕНЗИЈЕ МОДЕЛА СИСТЕМА .................................................................................................... 58 4. МЕТОДЕ МОДЕЛИРАЊА ИНДИКАТОРА ПОНАШАЊА БРАНЕ .............................................................. 64 4.1. СТАТИСТИЧКИ МОДЕЛИ ........................................................................................................................................... 65 4.1.1. Формирање модела ................................................................................................................................ 67 4.2. ФИЗИЧКИ ЗАСНОВАНИ МОДЕЛИ ............................................................................................................................... 69 5. МОДЕЛИРАЊЕ ИНДИКАТОРА ПОНАШАЊА БРАНЕ ПРИМЕНОМ ТЕХНИКА РАЧУНАРСКЕ ИНТЕЛИГЕНЦИЈЕ ................................................................................................................................... 74 5.1. ПРИМЕНA НЕУРОНСКИХ МРЕЖА И НЕУРО-ФАЗИ СИСТЕМА У МОДЕЛИРАЊУ И ИДЕНТИФИКАЦИЈИ ИНДИКАТОРА ПОНАШАЊА БРАНЕ………. ........................................................................................................................................................ 75 5.2. ТЕХНИКЕ РАЧУНАРСКЕ ИНТЕЛИГЕНЦИЈЕ У МОДЕЛИРАЊУ И ИДЕНТИФИКАЦИЈИ РЕЛАТИВНИХ ХОРИЗОНТАЛНИХ ПОМЕРАЊА БРАНЕ………. ........................................................................................................................................................ 79 5.3. ТЕХНИКЕ РАЧУНАРСКЕ ИНТЕЛИГЕНЦИЈЕ У МОДЕЛИРАЊУ И ИДЕНТИФИКАЦИЈИ НИВОА ВОДЕ У ПИЈЕЗОМЕТРИМА ................ 86 6. ОДРЕЂИВАЊЕ ПЕРФОРМАНСИ МОДЕЛА И ДИСКУСИЈА РЕЗУЛТАТА ................................................... 93 6.1. МОДЕЛИРАЊЕ И ИДЕНТИФИКАЦИЈА РЕЛАТИВНИХ ХОРИЗОНТАЛНИХ ПОМЕРАЊА ПРИМЕНОМ НЕУРОНСКИХ МРЕЖА И НЕУРО- ФАЗИ СИСТЕМА ..................................................................................................................................................... 94 6.1.1. Брана Бочац - основни подаци о брани. Мерење релативног хоризонталног померања ........... 94 6.1.2. Надомештање недостајућих података ............................................................................................ 96 6.1.3. Статистички модели за предикцију релативних радијалних померања бране Бочац .............. 99 6.1.4. Неуронске мреже и неуро-фази системи у моделирању и идентификацији релативних хоризонталних померања бране Бочац ........................................................................................... 100 Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 7 6.2. МОДЕЛИРАЊЕ И ИДЕНТИФИКАЦИЈА НИВОА ВОДЕ У ПИЈЕЗОМЕТРИМА ПРИМЕНОМ НЕУРОНСКИХ МРЕЖА И НЕУРО-ФАЗИ СИСТЕМА….. ...................................................................................................................................................... 119 6.2.1. Брана Ђердап II - основни подаци о брани. Мерење нивоа провирне воде у телу непреливне бране ..................................................................................................................................................... 119 6.2.2. Статистички модели за предикцију нивоа провирне воде у телу насуте бране објекта Ђердап II…. .......................................................................................................................................................... 120 6.2.3. Неуронске мреже и неуро-фази системи у моделирању и идентификацији нивоа провирне воде у телу насуте бране објекта Ђердап II ............................................................................................ 121 6.2.4. Брана Првонек - основни подаци о брани. Мерење нивоа воде у пијезометрима ...................... 126 6.2.5. Неуронске мреже и неуро-фази системи у моделирању и идентификацији нивоа воде у пијезометрима бране Првонек .......................................................................................................... 127 7. ЗАКЉУЧНА РАЗМАТРАЊА ................................................................................................................. 132 ЛИТЕРАТУРА ................................................................................................................................................. 135 Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 8 1. Увод Велики број земаља поседује ефикасне програме којима се прати стање сигурности и стабилности брана. У Србији се у експлоатацији налази 74 великe бранe, различитe по типу, намени и величини акумулације. Најзаступљеније су насуте бране (57), од којих највише има зонираних (30), после чега следе бетонске гравитационе (10) и бетонске лучне бране (7). Како је 80% тих брана старије од 25 година, и чак 30% старије од 40 година, може се рећи да највећи део брана у Србији припада категорији старих брана [1]. Под концептом управљања сигурношћу брана подразумева се обезбеђивање одговарајућих физичких величина (показатеља) који су од значаја за сигурност бране кроз употребу напредног система техничког осматрања, и праћење сигурности бране коришћењем математичких модела. Релевантне величине, чијим се праћењем (инструменталним мерењем или визуелним осматрањем) утврђује да ли је стварно стање бране у експлоатацији у сагласности са оним што је предвиђено и очекивано у фази пројектовања, називају се индикатори понашања бране. У зависности од врсте конструкције и њених димензија, карактеристика терена, последица евентуалног рушења и сличних фактора, врши се одабир величина које ће се конкретно пратити и мерити на сваком појединачном објекту. Физичке и друге величине које се прате у систему осматрања могу се поделити на: хидролошке, хидрогеолошке, климатолошке, величине које се осматрају код насутих брана, величине које се осматрају код бетонских брана и пратећих бетонских објеката уопште, величине које се осматрају код доводно-одводних система, величине које се односе на функционалност хидромеханичке опреме, величине које се односе на стабилност падина у зони бране и акумулације, посебне величине. Гледано са становишта понашања бране, могуће је извршити поделу поменутих величина на узрочне и последичне величине [2]. У том случају, хидролошке, климатолошке и сеизмичке појаве које се односе на природну сеизмичност терена биле би узрочне, док су све остале последичне величине. Како се праћењем хидролошких и климатолошких величина описује дејство спољашњих фактора на конструкцију, без њиховог праћења не би имало смисла пратити одговор конструкције, односно свих осталих последичних величина. У области анализе сигурности брана, математички модели се примењују у циљу како континуалног праћења мерења и утврђивања усаглашености измерених величина, тако и за проверу сигурности, утврђивање стања и одређивања степена сигурности објекта. У пракси се, за одређивање степена сигурности користе физички модели, док се за континуалн процес примењују статистички модели. Континуалан процес мониторинга објекта ослања се на успостављене статистичке моделе којима се на основу мерених вредности улаза могу добити очекиване вредности неке величине. Ако је одступање у дозвољеним границама, тада се може закључити да у систему нема битнијих промена у функционалности и безбедности. Овај процес се у савременом аутоматизованом систему обавља свакодневно и има улогу алармирања уколико се на основу мерења закључи да се објекат не понаша очекивано, после чега је неопходно извршити ванредну проверу сигурности. Како би се утврдило стварно стање бране и одредио степен сигурности, спроводи се провера сигурности бране тако што се над физички заснованим моделима испитује понашање објекта у низу сценарија (ситуација које су меродавне са становишта сигурности бране). Провера сигурности обавља се или после истека дефинисаног периода Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 9 (периодична провера сигурности), или по потреби, уколико се на основу система техничког осматрања уз коришћење статистичких модела утврди да се објекат не понаша како је било очекивано (ванредна провера сигурности). Статистички модели, за разлику од физичких модела, не захтевају тако значајну софтверску подршку, брже и лакше могу бити формирани, и без обзира на врсту бране или физичке величине које се њима моделирају имају неограничену примену у праћењу мерења. Овим моделима није могуће анализирати узроке одступања или утврђивати степен сигурности, већ је могуће само утврдити да ли се мерене вредности налазе у одговарајућим опсезима. Код бетонских брана статистички модели се најчешће праве за следеће величине: релативна померања бране, рад спојница, узгон и нивое подземне воде на обали. Статистички модели код насутих брана се формирају за: релативна померања бране, нивое подземне воде на обали и нивое провирних вода у телу бране. Физички нумерички модели су најшире примењивани физички засновани модели за одређивања степена сигурности бране. Они се формирају уз помоћ стварне геометрије објекта и стварних карактеристика материјала и калибришу се према реалним мерењима [3]. Главне врсте таквих модела које се користе у анализи стања брана су филтрациони [4– 6] и напонско-деформациони модели [7]. Дивац и сар. [8] спроводе сложене филтрационе и напонско-деформацијске анализе у којима је посебна пажња посвећена симулацији интеракције флуид-солид као и што поузданијем моделирању напонско-деформацијског понашања геолошких материјала. Исти аутори [9] дају приказ моделирања филтрационих и напонско-деформацијских процеса и развијају методологију која даје веома добру процену глобалне сигурности структуре, као и могућност локализације критичних зона у погледу статичке и филтрационе стабилности. Квалитет физички заснованог модела, какав је модел направљен помоћу мреже коначних елемената, зависи од: квалитета дискретизације мреже, могућности одабраних модела понашања да репродукују стварно понашање, познавања стварних физичких параметара објекта (на пример: модули еластичности и др.), поједностављења која су уведена при моделирању (пре свега у вези са законима понашања и граничним условима), као и од поједностављења која су уведена у процес математичког решавања. У сврху предвиђања неког индикатора понашања, поред статистичких модела могуће је користити и моделе са коначним елементима. За различите вредности кључних променљивих (променљиве које утичу на понашање објекта и представљају улазне податке за модел) израчунавају се дискретне вредности неког датог индикатора понашања, при чему се као кључне променљиве пре свега појављују ниво воде у акумулацији, температура ваздуха и убрзања. Тачност предвиђања индикатора понашања зависи од: броја комбинација дискретних вредности узрочних променљивих за које се рачунају вредности неког индикатора понашања, домена који покривају те дискретне вредности и квалитета интерполације. Конкретна вредност датог индикатора понашања у тренутку који одговара одређеном скупу улазних величина израчунава се интерполацијом. Уколико је потребно, ту вредност треба кориговати помоћу функција које обухватају неке моделом необухваћене, на пример иреверзибилне ефекте. Моделирање понашања бране могуће је остварити и применом хибридних модела. То су обично детерминистички модели који користе резултате мерења из оскултационог система ради подешавања модела како би он одговарао стварном понашању конструкције [10]. У класу хибридних модела за моделирање индикатора понашања бране спадају сви модели који су добијени комбинацијом статистичких и детерминистичких модела. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 10 Применом основних физичких закона, Perner & Obernhuber [11] моделирају утицај хидростатичког и термичког оптерећења на деформације лучне бране. Поједностављења која уводе при моделирању се пре свега односе на законе понашања и граничне услове. У другом кораку резултате добијене применом методе коначних елемената користе као предикторе модела вишеструке линеарне регресије и на бази мерења, методом најмањих квадрата, одређују непознате коефицијенте. Хоризонтална померања једне или више тачака као и нивои воде у пијезометрима који су уграђени у тело бране и/или у њеној области представљају битне индикаторе понашања бране и статистички метод, као што је вишеструка линеарна регресија, може да се користи за добијање прогнозног модела за ове променљиве [2]. Статистички модели представљају функционалне везе, добијене методама статистичке анализе, између неких узрочних величина и релевантних индикатора понашања бране. Међутим, релевантни индикатори понашања бране су нелинеарне, сложене функције узрочних величина па статистичке методе (метод вишеструке линеарне регресије) често не дају задовољавајуће резултате када се користе у моделирању нелинеарних процеса. Технике рачунарске интелигенције као што су фази системи, неуронске мреже и неуро фази системи, могу да се користе у моделирању и идентификацији сложених нелинеарних динамичких процеса. Бране су објекти који су по својој природи значајних димензија и сложене структуре и технике рачунарске интелигенције су примењиване како у фази израде пројекта, тако и у циљу систематског праћења и предвиђања стања бране и припадајућих објеката у целини. Hamidian & Seyedpoor [12] и Seyedpoor [13] примењују ANFIS (ANFIS - Adaptive-Network- Based Fuzzy Inference System - фази систем за закључивање заснован на адаптивној мрежи) и неуронску мрежу за отимизацију параметара облика лучне бране. Majdi & Beiki [14] одређују модуле деформације стенске масе применом вишеслојног перцептрона обученог алгоритмом са пропагацијом грешке уназад и оптимизираног применом генетског алгоритма. Генетски алгоритам, као глобалну оптимизациону технику, користе за одређивање броја неурона у скривеном слоју и за одређивање параметара алгоритма за обучавање тј. брзине учења и моментног коефицијента. Ефикасност и тачност одређивања вероватноће лома комлексних структурних система применом неуронских мрежа анализирана је у [15–17]. Papadrakakis et al. [18] спроводе анализу вероватноће лома високих бетонских брана коришћењем хибридног модела. Mетодoм коначних елемената, за различите вредности улазних параметара (Јанговог модула, Поасоновог коефицијента, затезне чврстоће, специфичне енергије лома), израчунавају вредности вршних сила. Добијене резултате користе за обучавање неуронских мрежа. Податке добијене обученим неуронским мрежама употребљавају у процедури која се базира на Monte Carlo симулацији у циљу процене вероватноће лома. Fedele et al. [19] методом коначних елемената предвиђају померање 11 тачака лучне гравитационе бране подељене на 10 материјалних зона различитих вредности Јанговог модула. Генерисаним подацима тренирају 10 неуронских мрежа за моделирње Јанговог модула. На сличан начин, хибридним моделом који подразумева комбиновану употребу методе коначних елемената и неуронских мрежа, Yu et al. [20] анализирају померања две насуте бране у Кини. Su & Wu [21] примењују специјални облик неуронске мреже са простирањем сигнала унапред, који је познат као 'wavelet' неуронска мрежа, за моделирање вертикалних померања бетонске лучне бране. Отимизација структуре мреже остварена је применом поступка итеративне елиминације редундантних неурона који се заснива на теорији Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 11 грубих (енг. rough) скупова. Вектор предиктора садржи елементе који су функција хидростатичког и термичког оптерећења, као и нереверзибилних ефеката. Demirkaya [22] формира Takagi-Sugeno-в фази модел за предикцију померања лучне бране. Неро-фази систем је обучен свакодневним трогодишњим мерењима нивоа воде у акумулацији, температура узводне (контакт са водом) и низводне површине (изложеност сунцу) бетона бране, температуре унутрашњости бетона, температуре ваздуха и померања. Избор броја функција припадности примарних фази скупова остварен је методом 'пробе и грешке'. Оптималан модел је добијен за четири лингвистичке вредности улазних променљивих. За моделирање нивоа воде у пијезометрима, Tayfur et al. [23] користе вишеслојни перцептрон, а као улаз у модел користе коту горње и доње воде. Предмет овог рада је моделирање и параметарска идентификација индикатора понашања бране применом техника рачунарске интелигенције. Индикатори понашања су нелинеарне функције узрочно променљивих па се за њихово моделирање, као и за описивање понашања највећег броја процеса у природи код којих је нелинеарност јако изражена користе нелинеарни модели [24]. Најважнији корак у процесу параметарске идентификације система је избор структуре општег нелинеарноног модела. Решавање проблема избора структуре се састоји од избора регресионог вектора и избора нелинеарног апроксиматора пресликавања из регресионог простора у излазни простор. NARX се сматра општим моделом нелинеарних процеса. NARX модел је структурно стабилан јер не садржи повратне везе и његови регресори не зависе од параметара модела. Регресиони вектор NARX модела, чија се димензија унапред задаје и не мења током естимације параметара, је линеарно зависан од изабраних регресора што омогућава примену неуронских мрежа и неуро-фази система за апроксимацију нелинеарне функције. У литератури је доказано да RBF (RBF - Radial Basis Function – радијална основна функција) неуронска мрежа, вишеслојни перцептрон и ANFIS могу да се примене за апроксимацију континуалних нелинеарних функција до жељене тачности на основу улазно-излазних података [25–30]. Нерекурентне и рекурентне неуронске мреже су примењиване у моделирању нелинеарних процеса [31–34]. Narendra & Parthasarthy [35] показују да се вишеслојни перцептрон, обучен алгоритмом са пропагацијом грешке уназад, може користити у идентификацији нелинеарних динамичких система. Chen [36], Gupta & Sinha [37] примењују вишеслојни перцептрон за моделирање нелинеарног система. Shen et al. [38] RBF неуронском мрежом пресликавају регресиони простор у излазни простор NARX модела процеса. Babuška & Verbruggen [39] дају преглед метода неуро-фази моделирања који се примењују у нелинеарној идентификацији система. Banakar & Fazle [40] моделирање процеса базирају на Takagi-Sugeno-вом неуро- фази систему. Cao et al. [41] примењују неуронску мрежу са простирањем сигнала унапред за параметарску идентификацију хоризонталног померања бране. Carvalho et al. [42] користе неуронске мреже и Box Jenkins–ов предиктор за контролу процуривања на насутим бранама. Одређивање оптималне димензије улазно-излазних модела нелинеарних динамичких система подразумева решавање проблема оптимизације димензије регресионог вектора и броја параметара неуронске мреже или неуро-фази система. Регресиони вектор или вектор стања треба да садржи све релевантне информације помоћу којих се може предвидети будуће понашање система [43]. Иако постоје бројни радови на тему оптимизације броја регресора, универзално правило још увек није пронађено [44]. Највећи број метода развијених за избор регресора при нелинеарној идентификацији система се може сврстати у две категорије [45]. Прву групу чине методе које се могу назвати методе суседа. Базирају се на локалној условној средини и методи АNOVA [46], локалној условној Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 12 варијанси, лажном најближем суседу, Lipschitz-овом количнику. У другу групу спадају методе назване проценити и упоредити, као што су: непараметарска FPE метода (Final Prediction Error), методе која се заснивју на bootstrap интервалима поверења, функцији зависности регресора и одређивању ортогоналне структуре. Еволутивни алгоритми, као глобална отимизациона техника, се користе за избор утицајних предиктора [47,48]. Hofmann et al. [49], Gatu et al. [50] развијају методе које се заснивју на креирању више модела са различитим векторима регресора и примени одговарајуће технике за избор модела са најбољим перформансама. Избор поступка одређивања регресора зависи од динамике система који се моделира, као и од броја могућих предиктора регресионог вектора. Број параметара АNFIS-а зависи од броја и облика функција припадности примарних фази скупова и у практичним примерима примене неуро-фази система бирају се методом пробе и грешке. Одређивање оптималне архитектуре неуронске мреже своди се на одређивање оптималног броја неурона у скривеном слоју. Развијен је велики број алгоритама за оптимизацију структуре неуронске мреже у којима се постепено додају [51–54], уклањају [55–58] неурони у скривеном слоју или се комбинују ова два приступа [59,60]. Већине брана поседују успостављене системе техничког осматрања, који представљају најважнији део програма за безбедност брана, и који су неопходни ради праћења и контроле стања објекта [61]. Пошто су ови системи често технолошки застарели (датирају из времена извођења објеката, а да при томе, у међувремену, нису значајније обнављани, ни унапређивани), често се дешава да стари инструменти откажу и да подаци једноставно недостају. Из тог разлога, дешава се да у великом броју случајева систем осматрања бране буде некомплетан по врсти, као и по учесталости осматрања. Како већина алгоритама за учење, у области рачунарске интелигенције, подразумева да скупови података за обучавање и тестирање буду комплетни, тј. да нема података који недостају, присутство непотпуних мерења у овим скуповима често доводи до лоше обучених модела [62,63]. Услед просте елиминације недостајућих података може доћи до значајног губитка потенцијално важних информација и деградације перформанси модела [64], због чега је развијен велики број техника за естимацију података који недостају. Највећи број таквих техника је углавном из области машинског учења [65,66] и математичке статистике [67,68]. У последње време почео је процес обнове система осматрања и то само на неким највећим бранама, попут Ђердапа I и II, Груже, итд. Услед проблема са сензорима, преносом и обрадом података, мерења у систему техничког осматрања су подложна грешкама. Како грешке у мерењу могу довести до погрешних закључака, од посебног је значаја да подаци коришћени у математичким моделима буду поуздани. Због тога је неопходно обезбедити механизам за валидацију мерених података, чиме би се на основу утврђених процедура одредила поузданост мерења. Као последица наведених грешака настају подаци који нису у складу са осталим мереним подацима са којима се упоређују, и називају се аутлајери (енг. оutliers) [69]. Уколико се не открију и не изолују из посматраног узорка, аутлајери могу имати јако негативан утицај на тачност и поузданост модела. Неопходно је да се обезбеди механизам валидације мерених података којим би се на основу утврђених процедура одредила поузданост мерења [70,71]. Хоризонтална померања једне или више тачака као и нивои воде у пијезометрима који су уграђени у тело бране и/или у њеној области су релевантни индикатори понашања бране [2]. Пијезометри су уређаји који омогућавају дугорочно мерење нивоа подземне воде, односно мерење притисака у водоносним слојевима и њихову промену у времену. Имају улогу у откривању путања и степена процуривања. Уколико није у пројектним Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 13 границама, и уколико није контролисано, процуривање може бити узрок озбиљних оштећења структуре бране. Хоризонтално померање тачака бране и нивои у пијезометрима су нелинеарне функције узрочних величина. Хидростатичко и термичко оптерећење имају највећи утицај на релативна померања, док нивои у пијезометрима, у зависности од локације, у највећој мери зависе од нивоа воде у акумулацији и падавина које се мере у оквиру система техничког осматрања. У овој дисертацији су предложени различити приступи моделирања и идентификације индикатора понашања бране, као што су хоризонтална померања бране и процуривања кроз геолошке формације у близини локације бране или самог тела бране, применом техника рачунарске интелигенције. У првом приступу се линеарно пресликавање узрочних величина у индикаторе понашања, које се користи код вишеструке линеарне регресије, замењује нелинеарним. Други приступ предложен у овој дисертацији се базира на примени поступка параметарске индентификације нелинеарних система у моделирању индикатора понашања бране. Релевантни индикатори понашања бране су нелинеарне, сложене функције узрочних величина, због чега се може користити улазно-излазна NARX структура која описује широку класу нелинеарних динамичких процеса. Предложени приступи формирања модела се у принципу могу применити за најразличитије врсте појава за које постоји довољан скуп меродавних мерних података. Поступак параметарске идентификације нелинерних система подразумева да временске серије података које представљају улазне или излазне променљиве модела буду комлетне (без недостајућих измерених вредности). У овом истраживању се користе различите статистичке технике намењене генерисању недостајућих података. Проблем оптимизације улазно-излазних модела је посебно анализиран. Предложен је поступак оптимизације броја предиктора и димензије регресионог вектора, као и броја параметара неуронске мреже и неуро-фази система. Сам текст докторске дисертације подељен је у 7 поглавља. У овом, Уводном, поглављу укратко је описана потреба за моделирањем идентификатора понашања бране, дат је преглед како коришћених техника тако и најзначајнијих научних радова из те области. Поред наведеног, за решавање описаног проблема предлажу се различити приступи који подразумевају употребу техника рачунарске интелигенције и који се користе у овој докторској дисертацији. Друго поглавље (Вештачке неуронске мреже, фази и неуро фази системи) подељено је на два дела. У првом делу уводи се појам модела вештачког неурона и неуронских мрежа. Како су вишеслојни перцептрон и RBF неуронске мреже најчешће коришћени типови нерекурентних неуронских мрежа, даје се детаљан опис њихове архитектуре и алгоритама учења. У другом делу, говори се о фази скуповима, фази релацијама, операцијама над њима и објашњава се апроксимативно резоновање у фази системима. Уводи се појам неуро-фази система и даје се детаљан опис фази система за закључивање заснованог на адаптивној мрежи (ANFIS). У трећем поглављу (Технике рачунарске интелигенције у моделирању и идентификацији нелинеарних процеса) говори се о поступку параметарске идентификације нелинеарних система и техникама за препроцесирање података. Такође, даје се објашњење како се вишеслојни перцептрон, дигитална рекурентна неуронска мрежа и неуро-фази систем могу користити у моделирању и идентификацији нелинеарних процеса, као и опис поступака за избор оптималних структура и димензија модела. У четвртом поглављу (Методе моделирања индикатора понашања бране) описани су концепти за управљање сигурношћу брана и дат je преглед матемаматичких модела Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 14 коришћених у области анализе сигурности брана. Објашњени су статистички модели и физички модели засновани на методи коначних елемената, као и хибридни модели. У петом поглављу (Моделирање индикатора понашања бране применом техника рачунарске интелигенције) предлажу се различити приступи у моделирању и идентификацији индикатора понашања бране применом техника рачунарске интелигенције. У овом поглављу такође је објашњено на који начин се применом неуронских мрежа и неуро-фази система могу моделирати сложени нелинеарни процеси попут релативних хоризонталних померања бране и нивоа воде у пијезометрима. У шестом поглављу (Одређивање перформанси модела и дискусија резултата) детаљно су приказани парамети и перформансе добијених модела базираних на техникама рачунарске интелигенције, којима су моделирана релативна хоризонтална померања, као и нивои воде у пијезометрима. У истом поглављу, добијени резултати упоређују се са резултатима из литературе. У седмом поглављу (Закључна разматрања) сумирају се закључци произашли из истраживања описаног у докторској дисертацији и даје се кратак осврт на могућа даља истраживања. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 15 2. Вештачке неуронске мреже, фази и неуро-фази системи Појам вештачке неуронске мреже први пут се појављује у радовима насталим крајем 19. и почетком 20. века, у којима су описане опште теорије учења и распознавања без разматрања математичког модела неурона. McCulloch & Pitts [72], 1943. године, описују први систем који се базира на механизмима функционисања биолошког нервног система, доказују да неурони могу имати побуђујуће и умирујуће стање и да активност неурона зависи од вредности прага активације. Hebb [73], 1949. године, предлаже правило којим се описује процес учења. У периоду од 1950-1970. године интензивно се истраживало на пољу развоја нових архитектура неуронских мрежа и унапређивању правила и алгоритама обучавања. Rosenblatt [74] је 1958. године развио неуронску мрежу коју је назвао перцептроном. Применом Hebb-овог постулата за подешавање синаптичких тежинских коефицијената перцептрона, Rosenblatt је формирао прву неуронску мрежу која је имала способност учења. Недостатак ове неуронске мреже се огледао у томе што она није могла да решава проблеме класификације који нису линеарно сепарабилни (прим. ХОR проблем). Widrow и Hoff су 1960. године развили алгоритам учења за адаптацију параметара перцептрона са линеарним активационим функцијама. Овај модел је познатији као ADALINE (ADALINE – Adaptive Linear Neuron – адаптивни линеарни неурон). Minsky & Papert [75], 1969. године, доказују да је немогуће решити проблем подешавања синаптичких коефицијената скривених слојева мреже, после чега настаје период стагнације у истраживању неуронских мрежа. Овај период стагнације је трајао све до 1986. године када је публикована данас најпопуларнија процедура учења са пропагацијом грешке уназад (енг. backpropagation algorithm) [76], па се ова година сматра поновним почетком развоја ове области. Овим алгоритмом решен је проблем учења вишеслојних неуронских мрежа, што је довело до интензивнијег проучавања и развоја теорија неуронских мрежа и истраживања могућности њихове примене. Данас су истраживачке активности на подручју неуронских мрежа усмерене на нека од следећих подручја истраживања:  Развој савремених модела вештачких неурона којима би се што боље описало функционисање биолошких неурона,  Унапређење постојећих и развој нових алгоритама учења,  Развој нових архитектура неуронских мрежа,  Развој технологија за имплементацију неуронских мрежа,  Развој савремених система базираних на примени неуронских мрежа. Неуронске мреже су доживеле велику популарност захваљујући атрактивности архитектуре која је јако слична структури људског мозга, због чега се успешно примењују у бројним областима (медицини, економији, војним апликацијама, телекомуникацијама итд.). Међутим, једно од значајнијих подручја примене, у којима неуронске мреже имају јако велику популарност, јесте идентификација и моделирање нелинеарних процеса. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 16 2.1. Биолошки неурон Људски мозак се састоји од око 1110 неурона (нервних ћелија) који су организовани по слојевима и међусобно повезани са приближно 410 веза по елементу. Као такав, људски мозак је сувише сложен да би се путем рачунара могао моделирати начин његовог функционисања. Како неурони представљају основне градивне јединице људског мозга, у циљу моделирања људског размишљања много је једноставније посматрати начин на који неурони функционишу међу собом. Структура и принцип функционисања биолошких неурона послужили су као инспирација за креирање разноврсних архитектура вештачких неуронских мрежа. Шематски приказ два биолошка неурона дат је на сл. 2.1. Поједностављено приказано, сваки биолошки неурон се састоји од тела, аксона и мноштва дендрита. Дендрити представљају продужетак тела ћелије и служе за примање сигнала од других неурона. Примљени сигнали се сабирају у телу неурона и шаљу до аксона. Аксон представља дугачки продужетак тела неурона који се састоји из мноштва продужетака на крајевима, и његова улога је пренос примљеног сигнала од тела ћелије до осталих неурона. Тачка додира аксона једног неурона и денрита другог неурона назива се синапса и представља меморијски члан биолошке неуронске мреже. Аксон једног неурона може формирати синаптичке везе са великим бројем других неурона. Потенцијал тела неурона у непобуђеном стању износи око 70 mv и он се може мењати довођењем сигнала на неку од синапси. Сигнали који се од синапси дендритима преносе до тела неурона могу бити инхибиторни (смирујући) или ексцитаторни (побуђујући). Гледајући из математичке перспективе, инхибиторни и ексцитаторни сигнали имају супротан предзнак. Уколико је њихова укупна вредност током неког кратког временског интервала већа од активационог потенцијала тела неурона, тада долази до излазне активности неурона, тј. тело неурона генерише сигнале који се преко аксона шаљу другим неуронима. У супротном случају, неурон остаје у непобуђеном стању и не генерише импулсе. Излазна активност неурона шематски је приказана на сл. 2.2, [76,77]. У тренутку 0t  долази до побуде неурона, због чега после неког времена t T (нпр. 50 T ms ) долази до излазне активности неурона. Као резултат исте побуде, неурон може у тренутку t T   генерисати нови сноп излазних сигнала, само што ће у том случају број тако генерисаних излазних сигнала бити мањи. Може се десити да неурон генерише излазне сигнале чак и када није у побуђеном стању, али је број овако генерисаних сигнала занемарљив у односу на број сигнала који се генеришу када се неурон нађе у побуђеном стању. Иако у данашње време дигитална електронска кола функционишу много брже у односу на биолошке неуроне, људски мозак је у могућности да решава велики број задатака много брже него било који конвенционални рачунар. Без обзира што је структура људског мозга много компликованија у односу на структуру вештачких неуронских мрежа, међу њима постоје две јако велике сличности. Као прво, обе структуре су састављене од скупа једноставних градивних елемената који су међусобно повезани, и као друго, функција мреже је одређена структурама између неурона. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 17 Сл. 2.1. Шематски приказ биолошког неурона. Сл. 2.2. Понашање неурона након ексцитације. 2.2. Неурон и модел неурона. Архитектура и учење вештачких неуронских мрежа Вештачки неурони су градивни елементи вештачких неуронских мрежа и представљају математичке апстракције биолошких неурона. По степену сложености модели неурона и неуронских мрежа представљају далеко једноставнију верзију биолошких неурона и неуронских мрежа. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 18 Модели вештачких неурона могу бити статички и динамички. На сл. 2.3 дат је приказ статичког модела неурона. Сл. 2.3. Модел вештачког неурона. Излазни сигнал неурона је:   1 M o j j j y f n f u w b          (2.1) где су:  1 2, ,..., Mu u u  улазни сигнали,  1 2, ,..., Mw w w  тежински коефицијенти (тежине веза, појачања по синапсама),  b  праг активације,  f  активациона функција. Тежински коефицијенти 1 2, ,..., Mw w w вештачког модела неурона одговарају синаптичким везама биолошког неурона. Тежински коефицијенти са негативним предзнаком означавају инхибиторне, док тежински коефицијенти са позитивним предзнаком означавају ексцитаторне сигнале. Постоји више различитих облика активационих функција. Употреба одређеног облика активационих функција зависи од типа проблема који се решава. Неки од најчешће коришћених облика активационих функција дати су у табели 2.1. Скуп неурона распоређених по слојевима и међусобно повезаних тако да излаз из једног неурона представља улаз у један или више других неурона, представља неуронску мрежу. Процедуре учења јесу правила по којим се мењају тежински коефицијенти у неуронским мрежама. Ове промене тежинских коефицијената настају као последица утицаја средине на неуронске мреже. Процедуре учења код којих се поред тежинских кофицијената мења и архитектура мреже називају се динамичким учењем. Статичким учењем називају се оне процедуре учења које подразумевају само промену тежинских коефицијената, без мењања архитектуре мреже. Учење може бити:  Off-line – неуронска мрежа се обучава ван средине у којој ће радити. За симулацију средине користи се скуп података за учење, где је сваки узорак представљен паром улаз-жељени излаз. Улога научене неуронске мреже је да генерализује проблем, тј. да предвиди одзив уколико се побуди улазом који није био у скупу за обучавање. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 19  On-line – учење и експлоатација неуронске мреже се обавља на основу података добијених из радног окружења. Табела 2.1. Најчешће коришћени облици активационих функција. Назив активационе функције Облик Линеарна функција ( )f n n Сигмоидална функција 1( ) 1 n f n e   Симетрична сигмоидална функција 1( ) 1 n n ef n e      Тангенс хиперболичка функција ( ) n n n n e ef n e e      Одскочне функције 1 2 1, 0 ( ) 0, 0 1, 0 ( ) 1, 0 n f n n n f n n          Топологија неуронских мрежа одређена је бројем слојева и начином на који су неурони међусобно повезани. Уколико су неурони међусобно повезани тако да се сигнали преносе само у једном смеру, такве неуронске мреже се називају нерекурентним неуронским мрежама. У супротном случају, реч је о рекурентним неуронским мрежама. Најчешће коришћена нерекурентна неуронска мрежа је вишеслојни перцептрон - MLP (MLP – Multilayer Perceptron), сл. 2.4 а). Поред вишеслојног перцептрона користе се и други типови нерекурентних мрежа, попут модуларног вишеслојног перцептрона, сл. 2.4 b). Пример потпуно повезане рекурентне неуронске мреже приказан је на сл. 2.5. Хопфилдова, Елманова и Џорданова су неке од најчешће коришћених типова неуронских мрежа са повратним везама. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 20 Сл. 2.4. а) Вишеслојни перцептрон; б) Модуларни вишеслојни перцептрон. Сл. 2.5. Потпуно повезана рекурентна неуронска мрежа. 2.3. Вишеслојни перцептрон. Алгоритми за обучавање вишеслојног перцептрона У практичним примерима примене неуронских мрежа, вишеслојни перцептрон је најчешће коришћена нерекурентна мрежа. Састоји се из скупа неурона, груписаних по слојевима тако да су неурони из једног слоја повезани само са неуронима суседног слоја. Код ове врсте неуронских мрежа нису повезани неурони који су распоређени у истом слоју, као и неурони које не припадају суседним слојевима. Слојеви се деле на: улазни и излазни слој, између којих се може налазити један или више скривених слојева. Обично се у практичним примерима примене најчешће користи вишеслојни перцептрон са једним Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 21 скривеним слојем. Доказано је да се таквом архитектуром може апроксимирати било која нелинеарна континуална функција [28]. Број неурона улазног слоја одређен је бројем улаза у неуронску мрежу. Улога улазног слоја јесте да проследи вектор улаза у мрежу на улаз скривеног слоја. Неурони излазног слоја представљају апроксимације тражених решења, и њихов број је одређен самом дефиницијом проблема. Број неурона у скривеном слоју најчешће се одређује искуственим путем (методом пробе и грешке) или коришћењем специјалних алгоритама. Везе између неурона суседних слојева представљене су тежинским коефицијентима, чија је улога повећање или умањење сигнала на одговарајућим везама. Како би се побољшале перформансе предвиђања мреже, потребно је вршити корекције тежинских коефицијената, што се остварује алгоритмима учења. Један од најпознатијих алгоритама за обучавање вишеслојног перцептрона је алгоритам са пропагацијом грешке уназад. 2.3.1. Алгоритам са пропагацијом грешке уназад На сл. 2.6 приказан је вишеслојни перцептрон са једним скривеним слојем. Сл. 2.6. Вишеслојни перцептрон. Ознаке са сл. 2.6 су:  1 2, ,..., inu u u  улазни вектор, Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 22  0,hn n  број неурона у скривеном и излазном слоју, респективно,  , (s) , 2,3i jw s   тежински коефицијенти између i -ог неурона у s -ом слоју, и j -ог неурона у 1s  слоју,  (s) , 2,3ib s   праг активације i -ог неурона у s -ом слоју,  (s) , 2,3i s   излаз i -ог неурона у s -ом слоју,  , f F  активациона функција неурона у скривеном и излазном слоју, респективно. Алгоритам учења подразумева постојање тренинг скупа (скупа података за обучавање)  1 2, ,..., MP  p p p , где је M  укупан број елемената. Сваки елемент тог скупа дефинисан је вектором улаза   ( ) ( ) ( )1 2[ ... ]i k k k k T nu u uu и вектором очекиваног излаза   0 ( ) ( ) ( ) 1 2[ ... ] k k k k T ny y yy , тј. ( ) ( )( , ), 1,...,k kk k M p u y . Сврха учења је одређивање тежинских коефицијената и прагова активација тако да вектор апроксимираних вредности   0 ( ) ( ) ( ) 1 2[ ... ] k k k k m m m mny y yy буде једнак вектору очекиваних вредности   0 ( ) ( ) ( ) 1 2[ ... ] k k k k ny y yy . Излаз i -ог неурона у скривеном слоју је: (2) (2)( )i if m  (2.2) где је: (2) , (2) (2) 1 in i i j j i j m w u b    (2.3) Излаз i -ог неурона у скривеном слоју за k -ти улаз је: (2 ) ( 2) ( ) ( )( ) i i k kf m  (2.4) где је: ( 2) ( ) ( ) , (2) (2) 1 i i j n k k i j i j m w u b    (2.5) Вредност излаза i -ог неурона у излазном слоју је: (3) (3)( )i i iy F m   (2.6) где је: (3) , (3) (2) (3) 1 hn i i j j i j m w b    (2.7) Вредност излаза i -ог неурона у излазном слоју за k -ти улаз је: Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 23 (3) ( ) ( ) ( ) (3) ( )i i k k k i y F m   (2.8) где је: (3) ( 2) ( ) ( ) , (3) (3) 1 h i j n k k i j i j m w b    (2.9) Критеријумска функција којом се описује колико се вектор излазних вредности мреже разликује од вектора очекиваних вредности, дата је следећим изразом: 0 2 1 1 ( ) 2 n i mi i E y y    (2.10) или: 0 2 (3) 1 1 ( ) 2 n i i i E y     (2.11) Критеријумска функција (2.10) за k -ти узорак тренинг скупа је:     0 ( ) 2 1 1 ( ) 2 n k kk i mi i E y y    (2.12) или:   0 (3) ( ) ( ) 2 1 1 ( ) 2 i n kk k i i E y     (2.13) За минимизацију функције (2.13) користи се градијентна метода:         ( ) ( )( ) (3) (3) ( ) , (3) (3) , (3) ( ) ( )( ) (3) (3) ( ) (3) (3) (3) ( ) ( ) k kk k k i i i mi k i j i i j k kk k k i i i mi k i i i mE y y w m w mE y y b m b                              (2.14) где је:   (3) (3) (3) ( ) ( )( ) (3) ( ) ( ) (3) (2)( ) , (3) (3) ' , , 1i i i k kk i k k i jk i j i m m F m m w b           (2.15) За сигмоидалну активациону функцију, вредност излаза i -тог неурона у излазном слоју за k -ти улаз биће: ( ) (3) ( ) (3) 1 1 k i k i me     (2.16) па је: Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 24   (k) (3) (k) (3) (3) ( ) (3) 2( ) 1 i i i mk i k m e m e        (2.17) За корекцију тежинских коефицијената између неурона скривеног и излазног слоја, неопходно је познавање излаза неурона скривеног и излазног слоја, респективно, за k -ти вектор улаза. Да би се кориговале вредности прагова активације неурона излазног слоја, потребни су излази мреже за k -ти вектор улаза. Корекција тежинских коефицијената између неурона скривеног и излазног слоја, и прагова активације неурона излазног слоја, обавља се итеративним поступком:         ( ) , (3) , (3) , (3) ( ) (3) (3) (3) 1 1 k i j i j i j k i i i Ew t w t w Eb t b t b                (2.18) где је  - брзина учења мреже, и t - редни број итерације. Адаптација тежинских коефицијената између неурона улазног и скривеног слоја, и прагова активације неурона скривеног слоја одређује се из услова да функција (2.13) буде минимална: ( ) ( )( ) ( ) (2) (2) ( ) ( ) ( ) ( ) , (2) (2) (2) , (2) ( ) ( )( ) ( ) (2) (2) ( ) ( ) (2) (2) (2) (2) k kk k i i k k k k i j i i i j k kk k i i k k i i i i mE E w m w mE E b m b                      (2.19) где је:   (2 ) (2 ) (2 ) ( ) ( )( ) (2) ( ) ( ) (2)( ) , (2) (2) ' , , 1i i i k kk i k k i jk i j i m m f m u m w b          (2.20) Корекција тежинских коефицијената између неурона улазног и скривеног слоја, и прагова активације неурона скривеног слоја, обавља се итеративним поступком:         ( ) , (2) , (2) , (2) ( ) (2) (2) (2) 1 1 k i j i j i j k i i i Ew t w t w Eb t b t b               (2.21) Алгоритам са пропагацијом грешке уназад организован је у две фазе:  Фаза 1 (фаза простирања у напред): На улаз мреже се доводи вектор улазних вредности ( ) ( ) ( ) ( )1 2[ ... ]i k k k k T nu u uu , и на основу њих се рачунају излази свих неурона у мрежи, Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 25  Фаза 2 (фаза простирања у назад): Почиње од излазног слоја, и на основу једначина (2.14), (2.18), (2.19), (2.21) врши се модификација параметара мреже. 2.3.2. Модификације алгоритма са пропагацијом грешке уназад Критеријумска функција (2.11), поред глобалног минимума може имати и већи број локалних минимума. Нумеричким поступцима минимизације осигурана је конвергенција алгоритма учења ка неком од локалних минимума, што доводи до тога да се оптимална решења добијају само у случају да тај локални минимум припада околини глобалног минимума. Међутим, уколико дође до конвергенције алгоритма учења ка неком од локалних минимума који се налазе далеко од глобалног минимума, тада долази до заглављивања алгоритма учења у том локалном минимуму и добијена решења се не могу сматрати оптималним. Такође, брзина конвергенције алгоритма зависи и од избора полазних параметара. У циљу побољшања описаних недостака, настао је велики број модификација основног алгоритма са пропагацијом грешке уназад, попут: алгоритам са адаптивном брзином учења [78], QPROP (Quickpropagation) алгоритам [79], RPROP (Resilient propagation) алгоритам [80,81], D-B-D (Delta-Bar-Delta) алгоритам [82], итд. У овом раду, за обучавање неуронске мреже је коришћен RPROP алгоритам учења. RPROP алгоритам Овим алгоритмом обавља се корекција сваког тежинског коефицијента појединачно. У текућој итерацији, за сваки тежински коефицијент се посматра да ли је дошло до промене знака парцијалног извода критеријумске функције у односу на претходну итерацију. У зависности од тога да ли је дошло до промене знака парцијалног извода критеријумске функције или не, корекција тежинских коефицијената се обавља према следећим једначинама:                     , , , , , , 0 , 0 0, i j s i j s i j s i j s i j s Et ако је t w Et ако је t w иначе w t                  (2.22)                   , , , , , , , , ( 1), ( 1)* ( ) 0 ( 1), ( 1)* ( ) 0 ( 1), i j s i j s i j s i j s i j s i j s i j s i j s E Et ако је t t w w E Et ако је t t w w t иначе t                             (2.23) Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 26 где је: 0 1     (обично се узима да је 0.5   и 1.2   ), t - редни број итерације и  , , 2,3i j s s  -коригована вредност тежинског коефицијента  , , 2,3i j sw s  . 2.4. RBF (RBF – Radial Basis Function) неуронска мрежа RBF неуронске мреже су врста нерекурентних неуронских мрежа. На сл. 2.7 дат је модел RBF неуронске мреже са in улаза и једним излазом. RBF неуронске мреже се састоје из три слоја неурона: улазног, скривеног и излазног слоја, при чему се као активационе функције неурона у скривеном слоју користе функције са радијалном основом, табела 2.2. Неурони скривеног слоја RBF неуронских мрежа називају се још и RBF неуронима. Као активационе функције неурона излазног слоја користе се линеарне активационе функције, табела 2.1. Сл. 2.7. Модел RBF неуронске мреже. Гаусова функција, дата у табели 2.2, представља најчешће коришћену активациону функцију RBF неурона. Излаз из i -тог RBF неурона који има Гаусову активациону функцију дат је једначином: , 1, 2,...,imi he i n   (2.24) где је:  2, 2 1 2 in j i j i j i u w m b   (2.25) ,i jw и ib представљају центре и радијус Гаусових функција за i -ти RBF неурон. Излаз мреже је: Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 27 1 hn m i i i y w b    (2.26) где је:  iw  тежина везе између i -тог RBF неурона и излаза,  b  праг активације излазног неурона. Табела 2.2. Најчешће коришћене активационе функције код RBF неуронских мрежа. Назив активационе функције Облик функције Гаусова функција   2 22 r f r e    Вишеквадратна функција   2 2f r r   Инверзна вишеквадратна функција   2 2 1f r r    ТРЅ (Thin-plate-spline) функција 2( )f r r ln(r) Напомена: r -центар радијалне функције ( 0r  ),  - стандардна девијација ( 0  ). Развијени су различити алгоритми за обучавање RBF мреже који подразумевају постојање скупа података за обучавање [83]. Један од приступа је динамичка процедура учења у којој се осим адаптације параметара мења и архитектура мреже. Алгоритам почиње са учењем мреже минималне конфигурације, односно са мрежом са једним неуроном у скривеном слоју. У свакој итерацији процеса учења додаје се по један неурон чијим се центрима Гаусових функција додељују вредности једног улазног вектора из скупа података за обучавање. Избор вектора може да буде случајан или заснован на коришћењу одређених критеријума. После додавања неурона адаптирају се параметри мреже. Детаљан приказ овог сложеног алгоритма дат је у [83]. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 28 2.5. Фази и неуро-фази системи Протеклих година фази системи се примењују у све већем броју инжењерских система и научних апликација (посебно у областима управљања системима и препознавању облика), чиме постају замена за конвенционалне технологије. Први рад посвећен фази скуповима објавио је амерички професор Lofti A. Zadeh, 1965. године [84]. Идеја професора Zadeh-а, била је да се фази скуповима на математички формализован начин представе и моделирају неодређености у лингвистици. За разлику од класичних скупова који увек имају јединствену функцију припадности (елемент припада или не припада скупу), фази скупови су карактеристични по томе што за њих постоји бесконачно много функција припадности којима се могу описати. Другим речима, фази скуп представља генерализацију класичног скупа јер се припадност елемента скупу може окарактерисати неком вредношћу из интервала [0,1], што омогућава фази системима да се на неки начин прилагоде ситуацијама у којима се примењују. Оваква идеја професора Zadeh-а доживела је оштре критике од научне заједнице западног света ненавикнутог на овакав начин размишљања. Међутим, фази приступ доживео је јако добар пријем у земљама блиског истока (Јапан, Индија, Кина, Јужна Кореја), где се 70-их година прошлог века оснивају истраживачки центри у циљу даљег проучавања, развоја и имплементације фази логике. Енглески професор Ebrahim Mamdani, 1974. године, пројектовао је први фази контролер. У процесу синтезе контролера уграђено је искуство оператера о каракетристикама процеса. На основу скупа језичких исказа добијених кроз одговоре оператера дефинисан је скуп фази правила која представљају алгоритам управљања. Највећа предност оваквог приступа лежи у могућности имплементације интуиције, искуства и хеуристике, као и у чињеници да математички модел процеса није неопходан. У периоду од 1976-1987. године, у Јапану и Европским земљама, почиње се са применом фази логике у индустријским системима. Професор Mamdani, 1980. године, пројектује први фази контролер који се користио у индустријске сврхе. Компанија Hitachi, 1987. године, пројектује фази контролер за управљање железничком станицом. Исте године компанија Omron започиње комерцијализацију фази контролера, па се због масовне примене фази контролера у бројне сврхе, 1987. година сматра годином почетка „фази револуције“. Једна од главних карактеристика фази логике јесте могућност да изрази степен неодређености у човековом мишљењу и његову субјективност. Са растом популарности неуронских мрежа, долази до комбинације неуронских мрежа и фази система, што доводи до појаве новог хибридног система вештачке интелигенције познатијег као неуро-фази систем. Овом хибридизацијом добијен је већи степен генерализације и исказивања, са већом могућношћу моделирања и идентификације реалних проблема у односу на фази системе. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 29 2.5.1. Фази скупови и фази релације. Операције над фази скуповима и фази релацијама. Припадност елемента x скупу A , у класичној теорији скупова, описана је карактеристичном функцијом  : 0,1A U дефинисаном као: 1 ( ) 0 ako je x x ako je x      A A A (2.27) U је универзални (референтни) скуп у коме су садржани сви објекти повезани са датим контекстом. Фази скуп A универзалног скупа U , одређен је функцијом припадности ( )A x која сваком елементу xU додељује тачно један реалан број из интервала  0,1 . Фази скуп је представљен уређеним паром:   , ( )x x x AA U (2.28) U је универзални скуп у коме су садржани сви објекти са степеном припадности 1. Ако је универзални скуп U дискретан, тада су и функције припадности дискретне вредности из интервала  0,1 . Када је U коначан скуп, тј.  1 2, ,..., nx x xU , тада се фази скуп може се представити као:        1 1 2 2 1 / / / ... / n i i n n i x x x x x x x x          A A A AA (2.29) односно:        1 2 1 1 2 ... n i n i i n x x x x x x x x           A A A AA (2.30) Симболи  и + означавају унију наведених елемената. Фази скуп A може бити представљен и на следећи начин:          1 1 2 2, , , ,..., ,n nx x x x x x   A A AA (2.31) Ако је универзални скуп U континуалан, са елементима xU , тада се фази скуп може представити као:   U x x    AA (2.32) при чему треба имати у виду да симбол  нема значење интеграла, већ га треба схватити као унију бесконачно много елемената скупа U .  xA је функција припадности фази скупа A . Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 30 Типични облици функција припадности су: монотоно растућа или опадајућа, трапезна, троугаона, Гаусова функција, итд. Посебна врста фази скупа је синглетон фази скуп код кога функција припадности има ненулту вредност у само једној тачки универзалног скупа x x :   1, 0,s x x x x x      (2.33) Гаусова функција припадности има два параметра, x и  , и следећег је облика:   2x x Gaus x e       (2.34) Облик функције у облика звона је:   2 1 1 zv bx x c a     (2.35) Троугаона функције припадности дефинисана са три параметра a b c  , има следећи облик: 0, , , 0, trougao x a x a a x b b a c x b x c c b c x                 (2.36) Општи облик трапезне функције дефинисане са четири параметра a b c d   je: 0, , 1, , 0, trapez x a x a a x b b a b x c d x c x d d c d x                  (2.37) За разлику од класичне теорије скупова, где су комплемент, унија и пресек једнозначно одређени, код фази скупова то није случај. Ако су A и B фази скупови дефинисани над универзалним скупом U , тада је над њима могуће извршити следеће операције:  комплемент ( A ) фази скупа A je:   , ( )x x x AA U (2.38) где је: Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 31 ( ) 1 ( )x x   AA (2.39)  пресек ( A B ) фази скупова A i B je:   , ( )x x x   A BA B U (2.40) За одређивање ( )x A B Zadeh предлаже min оператор: min  ( ) min( ( ), ( ))x x x   A B A B За израчунавање ( )x A B , у литератури се предлажу различити изрази, као што су: алгебарски производ  ( ) ( ) ( )x x x    A B A B Einstein-ов производ    ( ) ( )( ) 2 ( ) ( ) ( ) ( ) x xx x x x x              A B A B A B A B итд. Класа оператора којима се израчунава ( )x A B назива се троугаоним или Тнормама.  унија ( A B ) фази скупова A i B je:   , ( )x x x   A BA B U (2.41) Zadeh предлаже маx оператор за одређивање ( )A B x  : max  ( ) max( ( ), ( ))x x x   A B A B За израчунавање ( )x A B , у литератури се предлажу различити изрази, као што су: алгебарска сума  ( ) ( ) ( ) ( ) ( )x x x x x        A B A B A B Einstein-ов производ  ( ) ( )( ) 1 ( ) ( ) x xx x x          A B A B A B и тд. Класа оператора који се користе за израчунавање ( )x A B , назива се Т конормама или S нормама. Нека су U и V два универзална скупа. Тада је фази релација R на U V дефинисана као:   ( , ), ( , ) ( , )x y x y x y   RR U V (2.42) У лингвистичким правилима се користе операције над фази релацијама. Фази релацијама дефинисан је степен јачине везе између елемената. Ако су R и S фази релације дефинисане на U V , операције које је над њима могуће извршити су:  Пресек (  R S ) је:   ( , ), ( , ) ( , )x y x y x y     R SR S U V (2.43)  Унија (  R S ) је:   ( , ), ( , ) ( , )x y x y x y     R SR S U V (2.44) Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 32 ( , )x y  R S се може израчунати помоћу оператора минимума, или неког другог оператора из класе Т норми. ( , )x y  R S се израчунава операторима из S норми.  Пројекција фази релације R на U и V је респективно: , sup ( , ) ( , ) y proj na x x y x y            RR U U V (2.45) , sup ( , ) ( , ) x proj na y x y x y            RR V U V (2.46) Нека је А фази скуп дефинисан над универзалним скупом U .  Цилиндрична екстензија је операција којом се проширује фази скуп на фази бинарну релацију и дефинисана је као:   ( ) ( , ), ( ) ( , )ce x y x x y  AA U V (2.47)  Композиција фази релација:   1( , ), , ,x z x y z      21 2 R RR R U V W (2.58) где су:    ( , ) , , ( , ) ( , )x y x y x y x y   11 RR U V (2.59)    ( , ) , , ( , ) ( , )y z y z y z y z   22 RR V W (2.50) Општи израз којим се може одредити   1 2R R је:   1 1 max ( , )* ( , ) y x y y z      2 2R R R R (2.51) где је  било који оператор из Т норми. Нека је А фази скуп дефинисан над универзалним скупом и R фази релација дефинисана над U V .  Композиција фази скупа и фази релације дефинисана је као:  ( )proj ce na   B A R A R V (2.52) Ако се узме min оператор за пресек и маx за пројекцију, добија се такозвана max-min композиција:  ( )( ) max min ( , ), ( , )cexy x y x y   B A R (2.53) Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 33 2.5.2. Апроксимативно резоновање и фази системи Основа нотације у апроксимативном расуђивању је лингвистичка променљива:  = x, (x), , ,X T U G M (2.54) где је:  x  име лингвистичке променљиве,  ( )xT  скуп лингвистичких вредности променљиве x ,  U  универзални скуп, домен у коме су дефинисане лингвистичке вредности ( )xT променљиве x ,  G  синтаксно правило за генерисање лингвистичких вредности,  M  семантичко правило којим се свакој лингвистичкој вредности придружује њено значење. Лингвистичка акотада правила се састоје из два дела:  Премисе, облика: ако фази предлог ,  Последице, облика: тада фази предлог . 1973. године Zadeh ([85]) уводи први фази предлог у облику: R : ако x је A тада y је B . Сложен фази предлог формира се употребом: и, или, није итд. Код система који се састоје из два улаза и једног излаза, дефинише се скуп лингвистичких правила облика: Улаз: x је *x и y је *y 1R : ако x је 1A и y је 1B тада z је 1C такође: 2R : ако x је 2A и y је 2B тада z је 2C ... такође: nR : ако x је nA и y је nB тада z је nC z је 'C при чему су:  ,x y и z  лингвистичке променљиве,  iA , iB и iC  лингвистичке вредности лингвистичких променљивих ,x y и z у универзалним скуповима U , V и W ,  *x и *y  улазне вредности x и y (не фази). Фази предлог  x је iA и y је iB  се може представити фази релацијом:   ( , ), ( , ) ( , )x y x y x y   RR U V (2.55) Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 34 где је: ( , )* ( , )ce( ) ce( )x y x y   A BR (2.56) где  представља неку Т норму. Фази предлог  x је iA или y је iB  се може представити релацијом облика:   ( , ), ( , ) ( , )x y x y x y   RR U V (2.57) где је: ( , ) ( , )ce( ) ce( )x y x y    A BR (2.58) где  представља неку S норму. Везник такође се може представити оператором уније. Фази правило ако x је iA и y је iB тада z је iC  може бити представљено фази релацијом, при чему је: ( ) i ( ) ( ) i x y z       ι iΑ B CR  (2.59) где симбол  представља оператор фази импликације. Lee [86] одређује скуп 'C као:    * 1 , n * i x y i   ' i i iC A B C (2.60) или    * 1 1 , n n * i i x y i      ' 'i i i iC A B C C (2.61) где је:      * *, ,* *x y i x y    'i i i iC A B C R (2.62) Функција фази импликације се може дефинисати на преко четрдесет начина. У фази системима се најчешће примењују фази импликације попут: Zadeh      , max min ( ), ( ) ,1 ( )z x y x y x     A B A B A , Larsen   , ( ) ( )Lr x y x y    A B A B , Mamdani     , min ( ) ( )Lr x y x y    A B A B , итд. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 35 У литератури [86] је показано да ако се за одређивање пресека одабере min оператор, и ако се као функција фази импликације узме Larsenово правило производа, тада је функција припадности скупа 'C :  ' * *min ( ), ( ) ( )x y z    i i iA B CC (2.63) Ако се за одређивање пресека одабере min оператор, и ако се као функција фази импликације узме Mamdani-јево правило минимума, тада је функција припадности скупа 'C :  ' * *min ( ), ( ), ( )x y z    i i iA B CC (2.64) Више врста фази резоновања описано је у литератури [86,87]. Нека важe претпоставке да *x x припада фази скуповима 1A и 2A и *y y припада фази скуповима 1B и 2B са степенима припадности 1 *( )xA , 2 *( )xA , 1 *( )yB и 2 *( )yB различитим од нуле. Тада су активана следећа два закона: 1R : aкo x je 1A и y je 1B тада z je 1C такође: 2R : aкo x je 2A и y je 2B тада z je 2C Фази резоновање I типа: Тsukamoto-в метод (сл. 2.8) подразумева да су функције припадности фази скупа iC монотоне, док функције припадности фази скупова iA i iB не морају бити монотоне. Дефазификована вредност се рачуна као: * 1 1 2 2 1 2 w z w zz w w    (2.65) где је:  1 1* *1 1 1min ( ), ( ) ( )w x y C z  A B (2.66) и  2 2* *2 2 2min ( ), ( ) ( )w x y C z  A B (2.67) Фази резоновање II типа: Ако се Mamdani-јево правило минимума (сл. 2.8) изабере као функција фази импликације тада је:  1 1 1 1* *min ( ), ( ), ( )x y z   'C A B C (2.68) и Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 36  2 2 2 2* *min ( ), ( ), ( )x y z   'C A B C (2.69) Када се Larsenово правило производа примени као функција фази импликације тада је:  1 1 1 1* *min ( ), ( ) ( )x y z    'C A B C (2.70) и  2 2 2 2* *min ( ), ( ) ( )x y z    'C A B C (2.71) Фази резоновање III типа: Фази резоновање трећег типа подразумева употребу правила облика: iR : ako x je iA и y je iB тада z je ( , )if x y . Под претпоставком да су активна само два правила, биће: 1R : aкo x je 1A и y je 1B тада z je 1( , )f x y такође: 2R : ako x je 2A и y je 2B тада z je 2 ( , )f x y . Дефазификована вредност сигнала је: * * * * * 1 1 2 2 1 1 2 2 1 2 ( , ) ( , )w f x y w f x yz w f w f w w      (2.72) где су:  1 1* *1 min ( ), ( )w x y  A B и  2 2* *2 min ( ), ( )w x y  A B . Овај метод предложили су Таkagi и Sugeno (сл. 2.8), и детаљан опис дат је у [88]. Основна конфигурација фази система (сл. 2.9) подразумева постојање:  Фазификационог интерфејса,  Базе знања,  Логике одлучивања,  Дефазификационог интерфејса Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 37 Сл. 2.8. Врсте фази резоновања. Сл.2.9. Основна структура фази система. Фазификациони модул обавља операцију фазификације, којом се улазни подаци трансформишу у фази скупове. База знања је састављена од:  Базе правила,  Базе података. Пројектовање базе знања обухвата:  Дискретизацијунормализацију универзалних скупова,  Фази партиционирање улазних и излазних простора,  Одабир функција припадности примарних фази скупова. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 38 Пројектовање логике одлучивања подразумева одређивање скупа 'C , односно фази вредности излаза система. Такође, неопходно је извршити избор дефиниције фази импликације и одабрати одговарајући метод фази резоновања. Функције које обавља дефазификациони модул су:  Дефазификација, којом се на основу 'C , одређује прецизна вредност,  Пресликавање, којим се врши конвертовање опсега вредности излазних променљивих у одговарајући домен. Најчешћи поступци дефазификације, када се примењује фази резоновање II типа, су:  Метод висине (Height method-HGT метод),  Метод тежишта (Centre of Gravity method-COG метод),  Метод средње вредности максимума (Middle of Maxima method-MOM метод),  Метод максимума (Maxima method-MAX метод).. 2.5.3. Неуро-фази системи У процесу пројектовања фази система не постоје универзална правила која могу да се примене за решавање следећих проблема: партиционирања улазног и излазног простора, избора функција припадности примарних фази скупова, дефинисања базе правила. Бројна истраживања су рађена на тему аутоматизације процеса моделирања фази система и као резултат оваквих студија настали су адаптивни фази системи, сл. 2.10. Сл. 2.10. Шема учења фази система. Адаптациони механизам, на основу разлике између жељеног излаза и стварног излаза из фази система, одређује које промене треба извршити у фази систему у циљу минимизације грешке. Овај механизам има доста сличности са механизмом учења код неуронских мрежа. Адаптациони механизам се најчешће користи за модификацију фази правила, промену тежинских фактора придружених фази правилима, модификацију примарних фази скупова или селекцију метода дефазификације. На основу литературе може се закључити да се различите методе учења најчешће примењују на Тakagi-Sugeno-в фази систем. Један од најпознатијих примера Takagi- Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 39 Sugeno-вих фази система који користи адаптациони механизам за подешавање параметара је ANFIS, [89, 90]. Механизам за адаптацију његових параметара је сличан механизму учења код неуронских мрежа, па се ANFIS још назива и неуро-фази системом. У неуро фази системима, поред ANFIS-a, могуће су различите интеракције између неуронских мрежа и фази система: 1. У оквиру једног система неуронска мрежа и фази систем нису у директној вези, односно имају различите задатке, 2. Фази систем и неуронска мрежа су редно везани. Излаз из фази система се доводи на улаз неуронске мреже, или обратно, 3. Неуронском мрежом се у оквиру фази система подешавају параметри фази система и облик функција припадности, 4. Формира се неуронска мрежа тако да њени поједини слојеви преузимају улогу појединих делова фази правила. Фази резоновање се изводи тако што се мрежа обучи за такав вид израчунавања, 5. Извођење појединих елемената неуронских мрежа обавља се у виду фази бројева, услед чега је неопходно улазне и излазне податке, као и процедуре учења извести над фази подацима, Поред ових, у литератури је могуће пронаћи и друга спрезања неуронских мрежа и фази система. 2.5.3.1. ANFIS Нека Таkagi-Sugeno-в фази контролер има m улаза ( 1,u 2 ,u ..., mu ) и један излаз my и нека су лингвистичке вредности променљиве iu : 1 2,i iA A , ..., niA (сл. 2.11). Код система са m улаза и једним излазом дефинише се скуп лингвистичких правила у облику: 1R : ako 1u je 11A и 2u je 12A ... и mu je 1mA тада 1 11 1 12 2 1 1... m mf u u u        2R : ako 1u je 11A и 2u je 12A ... и mu je 2mA тада 2 21 1 22 2 2 2... m mf x x x        ... kR : ako 1u je 21A и 2u je 22A ... и mu je 2mA тада 1 1 2 2 ...k k k km m kf u u u        ... lR : ako 1u je 1nA и 2u je 2nA ... и mu je nmA тада 1 1 2 2 ...l l l lm m lf u u u        Број лингвистичких правила је: ml n . Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 40 Сл. 2.11. ANFIS са m улаза и једним излазом. Ниво 1 Излаз првог слоја је степен припадности улаза ju функцији ijA . Ако се узму функције припадности облика звона тада је:   2 1 , 1, , 1, 1 ij ijA j b j ij ij u i n j m u a c                . (2.73) ija , ijb , ijc су параметри функција припадности. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 41 Ниво 2 Излаз из сваког чвора у другом слоју се може представити у облику: 12 1111 1 2 ( )* ( )...* ( ) mA A A m w u u u   11 12 22 1 2 ( )* ( )...* ( ) mA A A m w u u u   ... (2.74) 21 22 21 2 ( )* ( )...* ( ) mk A A A m w u u u   ... 1 21 2 ( )* ( )...* ( ) n n nml A A A m w u u u   * означава неку Т норму. Ниво 3 Излаз сваког чвора трећег слоја се рачуна као: 1 i i l i i ww w    (2.75) Ниво 4 Излази овог слоја се одређују према: 1 m i i i ij j i j w f w u           (2.76) Ниво 5 Излаз АNFIS-а је: 1 1 1 1 1l l m m i i i ij j il i i j i i y w f w u w                   (2.77) За адаптацију параметара  11 12 11 12 11 12, ,... , , ,... , , ,...nm nm nma a a b b b c c c , Јаng [89], користи итеративни поступак заснован на методи смањења градијента. Адаптација параметарa  11 12 1 21 22 2 1 2 1 2 1 2, ,... , , ,... ,... , ,... ,... , ,... , , ,...,m m k k km l l lm l               , функција if , се изводи употребом методе најмањих квадрата. Укупан број параметара за прилагођавање je:  3 1mnm n m  . Метод учења захтева скуп података за обучавање 1 2( , ,..., )MP  p p p , где је M - укупан број елемената. Сваки елемент скупа,     ,k kk yp u дефинисан је ула- зним вектором   ( ) ( ) ( )1 2[ ... ] k k k k T mu u uu и жељеним одзивом  ky . Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 42 3. Технике рачунарске интелигенције у моделирању и идентификацији нелинеарних процеса Систем је скуп међусобно повезаних елемената који делују као једна целина, у оквиру које се, у међусобним узрочно последичним интеракцијама између елемената обавља нека функција. Све узрочно последичне везе које нису укључене у систем могу се представити одговарајућим сигналима који делују на систем и изазивају неку промену у његовом понашању. Ови сигнали су улазни сигнали и поремећаји. Сигнали побуде који су по својој природи стохастички могу се третирати као поремећаји. Улазни сигнали изазивају промене у понашању система које се прате преко скупа сигнала који се означавају као излазни сигнали. Избор скупа излазних сигнала зависи од природе система који се посматра. Систем се може посматрати као пресликавање скупа улазних сигнала U , у скуп излазних сигнала Y : :H U Y (3.1) Функција пресликавања H представља математички модел система. Моделирање је поступак добијања релативно једноставног и довољно тачног математичког описа неке појаве која се одвија у реалном свету. Модел рефлектује разумевање компоненти реалног процеса и њихове интеракције и представља средство за описивање најбитнијих карактеристика система који се проучава. “Бели” модел или “ white-box” модел система се изводи само на основу дедуктивног приступа коришћењем одговарајућих физичких закона и процењених вредности параметара. Овакав приступ је природан, међутим у неким случајевима процес је или сувише комплексан да би могао да се опише идеализованим физичким законима или не постоје адекватне информације о интерној структури и интерним релацијама у систему. У таквој ситуацији може се усвојити општа структура модела у којој су непознате нумеричке вредности одговарајућих параметара које се накнадно процењују (естимирају) на основу расположивих мерења улазно-излазних променљивих процеса, уз коришћење погодне естимационе процедуре (алгоритма). Тако изведен модел назива се “црни модел” или “black-box” модел. Поступак добијања експерименталног математичког модела на основу скупа мерених вредности улаза и излаза система назива се идентификацијом система или процеса. Између репрезентације модела у виду “беле кутије” и “black-box” модела налази се модел “сиве кутије” или “gray-box” модел. При формирању овог модела користи се сва могућа расположива априорна информација о реалном процесу. “Gray-box” моделирање је било каква комбинација “black-box” моделирања са априорним знањем о физици процеса. У овом поглављу биће разматрано “black-box” моделирање. Код оваквог приступа не постоји расположива априорна информација о физици процеса па се изградња модела мора базирати на расположивим мерењима улаза и излаза процеса (система). Технички процеси и објекти су у одређеној мери нелинеарни и временски променљиви. Код великог броја процеса је нелинеарност благо изражена и временска променљивост је довољно спора, тако да се њихово понашање може добро описати линеарним временски непроменљивим моделом. Код неких процеса нелинеарност је јако изражена тако да линеарни модели нису довољно добри за опис њиховог понашања па Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 43 мора да се примене нелинеарни модели. Применом нелинеарних модела поступак идентификације постаје знатно сложенији. Нелинеарни модел треба да буде флексибилнији од општег линеарног модела, а то значи да треба да има већи број параметара. Међутим, поступак естимације параметара модела постаје компликованији повећавањем броја параметара. 3.1. Параметарска идентификација нелинеарних система Параметарска идентификација система представља процену коначног броја непознатих параметара у унапред усвојеној структури модела система. Параметарски модели се користе за симулацију процеса и њихову анализу, тј. предвиђање понашања процеса под одређеним околностима. Један могући приступ за дефинисање математичког критеријума којим ће се нумерички исказати ваљаност предикције параметарског модела састоји се од израчунавања будућих излаза процеса и њиховог поређења са стварним измереним излазима процеса. Модел се може сматрати адекватним уколико су грешке између измерених и естимираних вредности излаза довољно мале. Методе идентификације које се базирају на оваквом принципу називају се методе грешке предикције. Параметарска идентификација сложених система (структура) је итеративан поступак и подразумева следеће фазе: 1. Прикупљање улазно/излазних подака процеса који се идентификује, 2. Препроцесирање података, 3. Избор и дефинисање структуре модела, 4. Избор критеријумске функције, 5. Одређивање реда модела и процена параметара, 6. Верификовање идентификованог модела. Уколико перформансе модела нису задовољавајуће треба се вратити:  На корак 5 и променити ред модела и алгоритам идентификације,  На корак 4 и променити критеријумску функцију,  На корак 3 и изабрати нову структуру модела,  На корак 1 или 2 и обезбедити нове улазно/излазне податке. Фазе поступка параметарске идентификације система су приказане на сл. 3.1. Нека  y k означава измерени излаз процеса у дискретном тренутку времена kt kT где је Т  периода одабирања, тј. временски интервал између два сукцесивна еквидистантна мерења. Претпоставимо да су расположиве мерне вредности излаза процеса до тренутка k ,   , 1y i i k  . У тренутку k могуће је одредити излаз изабраног модела  my k . Разлика између мерне вредности излаза процеса и модела представља грешку предикције:      | 1, | 1,mk k y k y k k      (3.2) где је са  означен вектор непознатих параметара у усвојеној структури модела. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 44 Задатак параметарске идентификације може да се посматра као проблем оптимизације. Параметри модела се одређују из услова да изабрана критеријумска функција, која зависи од грешке предикције, буде минимална. Уобичајено је да се као емпиријски критеријум за оцену ваљаности модела усвоји аритметичка средина грешака предикција на посматраном интервалу 1,2,...,k N :  2 1 1 | 1, N k J k k N      (3.3) Поступак параметарске идентификације система, заснован на принципу грешке предикције, приказан је на сл. 3.2. Сл. 3.1. Фазе поступка параметарске идентификације система. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 45 Сл. 3.2. Поступак параметарске идентификације процеса. За линеарне моделе система предиктор излаза може да се запише у облику линеарне регресије:      | 1, T Tmy k k k k       (3.4) где је:  T k регресиони вектор, T вектор параметара. У зависности од избора регресионог вектора, предиктори за линеарне моделе система су: FIR (Finite Impulse Response) – модел са коначним импулсним одзивом           1 , 2 , 3 ,...T bk u k u k u k u k n     (3.5) ARX (Auto Regresive eXogenous) – ауто-регресиони модел са спољашњим улазом                   1 , 2 , 3 ,..., 1 , 2 , 3 ,... T a b k y k y k y k y k n u k u k u k u k n               (3.6) где је: bn -број претходних мерених вредности улаза система, an - број претходних мерених вредности излаза система. ARMAX (Auto Regresive Moving Average with eXogenous) – ауто-регресиони модел помичних средина са спољашњом побудом                            , 1 , 2 , 3 ,..., , 1 , 2 , 3 ,... , 1| 2, , 2 | 3, , 3 | 4, ,..., | 1, T a b c c k y k y k y k y k n u k u k u k u k n k k k k k k k n k n                                 (3.7) Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 46 OE (Output Error model) – модел грешке излаза               , 1 , 2 ,..., , 1 , 2 ,..., T b m m m c k u k u k u k n y k y k y k n          (3.8) где је: cn -број претходних моделираних вредности излаза система. Регресиони вектор ОЕ модела зависи од вектора параметара пошто је предикција излаза  my k i функција по  . BJ (Box-Jenkins) – Box-Jenkins-ов модел представља комбинацију претходна четири регресора. Ако се дефинише оператор кашњења 1z онда је:    1 1z u k i u k i        1 1z y k i y k i     (3.9)    1 1z k i k i      Понашање великог броја нелинеарних динамичких система са једним улазом u и једним излазом y може бити описано моделом:     ,m my k f k   (3.10) Одговарајући нелинеарни модели система добијају се применом истих регресора као и линеарни модели:  NFIR (Nonlinear FIR) модели,  NARX (Nonlinear ARX) модели,  NARMAX (Nonlinear ARMAX) модели,  NBJ (Nonlinear BJ) модели. Улазно-излазним NARX моделом (сл. 3.3) и NOE моделом (сл. 3.4) може се описати широка класа нелинеарних динамичких система. Структура нелинеарних модела зависи од изабраних регресора и облика нелинеарне функције. Структура NARX модела омогућава коришћење неуронских мрежа, фази логичких или неуро-фази система за апроксимацију функције mf у (3.10). Како регресори NARX модела не зависе од параметара модела, у циљу апроксимације функције mf могуће је користити RBF неуронску мрежу или вишеслојни перцептрон [91], као и неуро-фази систем [92]. За разлику од NARX модела, регресори NOE модела зависе од параметара модела, због чега структурно одговарају рекурентним неуронским мрежама. У [91] је детаљно приказана идентификација процеса са рекурентним неуронским мрежама. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 47 Сл. 3.3. Блок шема NARX модела система [93]. Сл. 3.4. Блок шема NOE модела система [93]. 3.2. Вишеслојни перцептрон и дигитална рекурентна неуронска мрежа у идентификацији нелинеарних система Вишеслојни перцептрон са једним скривеним слојем у коме су функције активације сигмоидалне и са линеарном активационом функцијом неурона у излазном слоју може да апроксимира нелинеарно функцију mf . Топологија вишеслојног перцептрона и улазне и излазне променљиве за реализацију NARX модела система приказани су на сл. 3.5. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 48 Сл. 3.5. Реализација NARX модела система применом вишеслојног перцептрона. Излаз неуронске мреже са сл. 3.5 је:         (3) 1 2, (2) , (2) 1 1 1 1 nH m i n nb ai u k j w y k j w bu y ii j i j j j y k w b e                    (3.11) где је:  a bn n – број неурона у улазном слоју,  Hn – број неурона у скривеном слоју,  , (2)ui jw – тежински коефицијент између улаза  u k j и i -ог неурона у скривеном слоју,  , (2)yi jw – тежински коефицијент између улаза  y k j и i -ог неурона у скривеном слоју,  (3)iw – тежински коефицијент између i -ог неурона у скривеном слоју и неурона у излазном слоју,  (2)ib – праг активације i -ог неурона у скривеном слоју,  b – праг активације неурона у излазном слоју. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 49 Процес учења подразумева адаптацију параметара , (2)ui jw , , (2)yi jw , (3)iw и (2)ib , тако да критеријумска функција буде минимална. На сл. 3.6. дат је пример дигиталне рекурентне неуронске мреже (која структурно одговара NOE моделу), са једним скривеним слојем у коме су функције активације сигмоидалне и са линеарном активационом функцијом неурона у излазном слоју. На излаз из мреже поред вектора улазних вредности, тежинских коефицијената и прагова активација, утичу још и претходно моделиране вредности излаза. Сл. 3.6. Реализација NOE модела система применом дигиталне рекурентне неуронске мреже. Излаз неуронске мреже са сл. 3.6 је:   1 nH m i i i y k w b     (3.12) при чему је: m mi i i m mi i e e e e       (3.13) Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 50    , (2) , (2) 1 1 n nb a i u m y ii j i j j j m u k j w y k j w b         (3.14) где је:  a bn n – број неурона у улазном слоју,  Hn – број неурона у скривеном слоју,  , (2)ui jw – тежински коефицијент између улаза  u k j и i -ог неурона у скривеном слоју,  , (2)yi jw – тежински коефицијент између улаза  my k j и i -ог неурона у скривеном слоју,  (3)iw – тежински коефицијент између i -ог неурона у скривеном слоју и неурона у излазном слоју,  ib – праг активације i -ог неурона у скривеном слоју,  b – праг активације неурона у излазном слоју. У [94] је детаљно приказан динамички алгоритам са пропагацијом грешке уназад за адаптацију параметара , (2)ui jw , , (2)yi jw , (3)iw и (2)ib , дигиталне рекурентне неуронске мреже. NOE, NARMAX и NBJ модели структурно одговарају рекурентним неуронским мрежама. Поступак естимације параметара ових модела је доста сложен због задовољавања услова стабилности. Одређивање градијента по параметрима неуронске мреже постаје компликовано јер код рекурентних модела постаје динамичка функција [95]. 3.3. Неуро-фази идентификација На сл. 3.7 приказана je реализација NARX модела нелинеарног системa, применом ANFIS-a. Неуро-фази систем има 1a bn n  лингвистичку променљиву, a bn n улазну и једну излазну. Лингвистичке вредности променљивих  y k i су 1iA , 2iA ,..., niA , 1,..., ai n и  u k i су 1iB , 2iB , ..., niB , 1,..., bi n . За систем са a bn n улаза и једним излазом, скуп лингвистичких правила се дефинише у следећем облику: 1R : ако  1y k  је 11A и  2y k  је 12A и ... и  ay k n је 1 anA и  1u k  је 11B и  2u k  је 12B ... и  bu k n је 1 bnB тада:             1 11 12 1 11 12 1 1 1 2 ... 1 2 ... a b n a n b f y k y k y k n u k u k u k n                       Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 51 2R : ако  1y k  је 11A и  2y k  је 12A и ... и  ay k n је 1 anA и  1u k  је 11B и  2u k  је 12B ... и  bu k n је 2 bnB тада:             2 21 22 2 21 22 2 2 1 2 ... 1 2 ... a b n a n b f y k y k y k n u k u k u k n                       ... iR : ако  1y k  је 21A и  2y k  је 22A и ... и  ay k n је 2 anA и  1u k  је 21B и  2u k  је 22B ... и  bu k n је 2 unB тада:             1 2 1 21 2 ... 1 2 ...a b i i i in a i i in b i f y k y k y k n u k u k u k n                       ... lR : ако  1y k  је 1nA и  2y k  је 2nA и ... и  ay k n је annA и  1u k  је 1nB и  2u k  је 2nB ... и  bu k n је bnnB тада:             1 2 1 21 2 ... 1 2 ...a b l l l ln a l l ln b l f y k y k y k n u k u k u k n                       Број лингвистичких правила је:  na bl n n  . Излаз ANFIS -а је:   1 l m i i i y k w f   (3.15) где: 1 i i l i i ww w    (3.16)                   11 12 1 11 12 1 1 1 2 ... 1 2 ... na nb A A A a B B B b w y k y k y k n u k u k u k n                                       11 12 1 11 12 2 2 1 2 ... 1 1 ... na nb A A A a B B B b w y k y k y k n u k u k u k n                     ...                   21 22 2 21 22 2 1 2 ... 1 2 ... na nb i A A A a B B B b w y k y k y k n u k u k u k n                     ... Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 52                   2 11 2 1 2 ... 1 2 ... n n nn na n nnb l A A A a B B B b w y k y k y k n u k u k u k n                     * означава Т норму. Сл. 3.7. Реализација NARX модела система применом ANFIS-а. Функције последица у фази правилима су:     1 1 a bn n i ij ij i j j f y k j u k j           . (3.17) Заменом (3.17) и (3.16) у (3.15) излаз система се добија у облику:       1 1 1 1 1 a bn nl m l i ij ij i i j j i i y k w y k j u k j w                     . (3.18) Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 53 Разлика између измерних вредности излаза  y k и излаза модела је грешка предикције. Оптималне вредности параметара ANFIS-а се одређују на бази критеријумске функције која се формира на основу грешке предикције. 3.4. Препроцесирање података – валидација података и надомештање података који недостају Подаци из реалних система често су подложни грешкама. Грешке у подацима се јављају као последица квара на мерним инструментима, ручног уношења података, проблема који се могу јавити услед трансфера података у оквиру информационих система, итд. Присуство ових грешака може довести до озбиљних проблема у оквиру процеса учења и у значајној мери деградирати перформансе модела. Технике препроцесирања података су:  Чишћење података,  Интеграција података,  Трансформација података,  Редукција података. Основни задаци чишћења података су:  Елиминација шума,  Детекција и елиминација аутлајера,  Надомештање података који недостају,  Елиминација неконзистентности (на пример, уклањање неконзистентних имена). Интеграција података подразумева комбиновање података из више различитих извора у један кохерентан скуп података. Извори података могу бити базе података, коцке података или чак обични фајлови. Сам процес интеграције података је јако сложен, јер је том приликом неопходно:  Препознати дупликате на нивоу торке,  Избећи редудантност података (на пример, исти атрибути имају различита имена),  Разрешити конфликте у подацима (на пример ниво воде у пијезометрима може бити изражен у метрима или метрима надморске висине), итд. Трансформацијом се подаци доводе у облик погодан за обучавање модела, као и за даље истраживање и анализу. Под трансформацијом података се подразумева:  Нормализација – подаци се скалирају тако да припадају неком унапред задатом интервалу (на пример, [0, 1] или [–1, 1]). На овај начин се спречава доминација појединих улаза у модел над осталим улазима.  Креирање коцки података – сумарне и операције агрегације се примењују над подацима, тако да се они хијерархијски организују и складиште у коцке уместо у табеле. На тај начин се коришћењем вишедимензионалних структура обезбеђује брз приступ подацима за анализу.  Генерализација – подаци нижег нивоа (измерени подаци) замењују се подацима високог нивоа коришћењем хијерархије концепата. На пример, ниво воде у Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 54 акумулацији се хијерархијом концепата може мапирати у “низак ниво, нормалан ниво или висок ниво”, у зависности од измерене вредности. Системи за складиштење података могу садржати терабајте информација, па самим тим комплексна истраживања и анализе података могу бити временски јако захтевни. Редукција података има за циљ смањење обима података (у величини), али да при томе не дође до губитка информација битних за анализу. Технике редукције података су:  Агрегација – два или више објеката се комбинују у један, у циљу смањивања обима података. На овај начин се врши промена нивоа на којем се подаци приказују (месец, квартал, година, и сл.).  Редукција димензије података – смањење броја атрибута елиминацијом редудантних и нерелевантних атрибута. У те сврхе се могу користити технике попут стабла одлучивања, селекције уназад, селекције унапред, итд.  Компресија података – смањује се почетни скуп података (са или без губитка информација). Најчешће коришћене технике за компресију података су дискретна 'wavelet' трансформацијa и примарна анализа компоненти.  Редукција бројности – врши се замена или естимација постојећих података новим. У те сврхе се могу користити параметарске (на пример, линеарна регресија) или непараметарске методе (хистограми, методе кластеризације, и сл.).  Дискретизација и генерисање хијерархије концепата – концепти нижег нивоа се мапирају концептима вишег нивоа. На овај начин се хијерархијом концепата омогућава истраживање и анализа података на више нивоа апстракције, подаци постају изражајнији, захтевају мање простора за чување и погоднији су за многе алгоритме. Детаљан опис наведених техника препроцесирања дат је у литератури [96, 97]. У овом поглављу дат је преглед техника за детекцију аутлајера, као и техника за надомештање података који недостају. 3.4.1. Технике за детекцију аутлајера Постоје три основна приступа проблему одређивања аутлајера из скупа мерења: 1. Приступ детекције аутлајера без претходног знања о мерењима, који се може дефинисати преко проблема ненадгледане кластеризације података. Према [98], након детекције, аутлајер се може одбацити из скупа мерења или укључити у модел, при чему треба имати у виду да може доћи до смањења осетљивости саме методе која се користи. 2. Приступ моделирања нерегуларног и регуларног стања података, који одговара надгледаној класификацији података. При томе се захтева да подаци који се користе за учење модела имају јасне ознаке о томе да ли су регуларни или не. У циљу постизања добрих перформанси алгоритма, неопходно је да нерегуларни и регуларни подаци буду једнако распоређени у простору. 3. Приступ моделирања једино регуларних стања података, уз могућност препознавања нерегуларних стања. Како је на овај начин могуће открити и нове податке који би могли бити укључени у нови модел, Japkowicz et al. [99] овај вид детекције аутлајера Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 55 називају још и детекција новог. Овај приступ пре свега треба користити у случајевима када је могуће лако моделирати границе регуларности података. Branisavljević [100] даје детаљан опис метода за детекцију аутлајера. Према врсти алгоритма који користе, методе за детекцију аутлајера се могу поделити на: 1. Методе базиране на раздаљини између података – Технике које су лаке за имплементацију и не захтевају никакво предзнање о распореду података у простору. Њихов највећи недостатак је то што се код података са великим бројем димензија, број операција које су потребне за израчунавање растојања између података експоненцијално повећава (често сваког од сваког). Број операција је пропорционалан како са димензијом низа података, тако и са бројем података који се испитују. Једна од најчешће коришћених техника овог типа је “k-најближих суседа” (k- nearest neighbour, k-NN), која за резултат има меру раздаљине између k најближих суседа разматраног податка. Мера може бити број најближих суседа који се не налазе даље од неког унапред дефинисаног граничног растојања d [101], или у случају да је улазна величина број суседа, мера може бити кумулативно или највеће растојање разматраног податка од њих. Најчешће се за рачунање растојања узима Махаланобисово растојање које узима у обзир и унутрашњи распоред података преко матрице коваријанси. Међутим, код података са великим бројем димензија рачунање Махаланобисовог растојања је јако комплексно због одређивања матрице коваријанси за целокупни скуп података. 2. Методе базиране на статистичким зависностима – Засноване на претпоставци да се регуларни подаци јављају у регионима са високом вероватноћом на коју указују статистички модели, док се аномалије јављају у регионима са ниском вероватноћом. Jедан од најчешће коришћених тестова је базиран на тзв. box дијаграму, и детаљно је описан у [102]. Вох дијаграм се састоји од пет карактеристичних вредности анализираног скупа података: највећа вредност, горња четвртина, средина, доња четвртина и најмања вредност. Детекција аутлајера обавља се визуелном анализом описаних дијаграма. Aутори предлажу да се за вишедимензионалне податаке као мера растојања између података користи Махаланобисово растојање. Методе базиране на статистичким зависностима се могу поделити на две групе: 1. Параметарске методе – За формирање статистичког модела неопходно је претпоставити статиситичку расподелу. У зависности од врсте расподеле ови модели се даље могу поделити на: 1) моделе Гаусове расподеле, 2) регресионе моделе и 3) моделе мешавине расподела. 2. Непараметарске методе – За формирање статистичког модела није неопходно претпоставити статистичку расподелу. Најчешће коришћена непараметарска метода је метода хистограма, која се формира над регуларним подацима. Одабир ширине штапића хистограма је кључни елемент ове методе, јер уколико су они уски јавиће се велики број лажних аларма, док би у супротном нека аномалија могла проћи неопажено. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 56 3. Методе базиране на алгоритмима класификације – За детекцију аутлајера користе се вештачке неуронске мреже или SVM (Support Vector Machines) алгоритам, при чему се захтева да подаци који се користе за обучавање модела буду обележени као регуларни или нерегуларни. Како би се постигле што боље перформансе модела, неопходно је да регуларни и нерегуларни подаци буду једнако распоређени у простору. 4. Методе базиране на алгоритмима груписања – подаци се на основу карактеристичних особина групишу у одређени број група, и у те сврхе најчешће се користи SOM (Self Organizing Map). SOM је најчешће коришћени тип ненадгледаних вештачких неуронских мрежа и његов основни задатак је да преко специфичних тежинских фактора мапира вишедимензионалне податке у ниско димензионалну мапу чворова (у највећем броју случајева дводимензионалну). Један од начина детекције аутлајера овом методом јесте да се SOM формира на основу регуларних података, а аутлајери су они испитивани подаци који су удаљени од најближег чвора више него што је то лимитирано неком граничном вредности. 5. Методе базиране на алгоритмима машинског учења – Користе се у случајевима када је јако тешко развити процедуру за израчунавање сличности или различитости између података. Једна од метода за решавање овог проблема је употреба стабала одлуке (eng. decision trees), чија поузданост у великој мери зависи од тога да ли обухватају све податке или не. Превише комплексна стабла одлуке могу довести до нежељених ефеката, попут претрениравања, када резултати модела садрже у себи и моделиране случајне грешке. 6. Хибридне методе – За детекцију аутлајера користи се више од једне методе. Формирају се у циљу: 1. елиминације слабости једне процедуре коришћењем друге процедуре, 2. повећања поузданости процедуре коришћењем више процедура над истим скупом података. 3.4.2. Технике за надомештање података који недостају Нека је дат скуп од n података у p димензионалном простору 1 2{ , ,..., } p nX X X X R  , и нека важи: { , }obs misX X X (3.19) где је obsX комплетан скуп података, и misX скуп података са недостајућим вредностима. Нека је дата матрица локација података који недостају M , димензије n p , чији су елементи ijm дефинисани на следећи начин: 1, 0,ij ако димензија ј податка i недостаје m иначе     (3.20) Тада се, у зависности од тога који услови испуњавају условну вероватноћу: Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 57 ( | , )obs misP M X X (3.21) подаци који недостају могу сврстати у једну од следеће три категорије [64]: 1. Подаци који недостају на потпуно случајан начин (MCAR – Missing Completely at Random) – Вероватноћа да податак iX недостаје није повезана са његовом вредношћу, нити са вредношћу било које друге случајне променљиве, тј. за условну вероватноћу (3.21) важи: ( | , ) ( )obs misP M X X P M (3.22) 2. Подаци који недостају на случајан начин (MAR – Missing at Random) – Вероватноћа да податак iX недостаје је у корелацији са неким другим фактором, односно: ( | , ) ( )obs mis obsP M X X P X (3.23) 3. Подаци који недостају на неслучајан начин (MNAR – Missing Not at Random) – Подаци који не припадају ни једној од две претходно наведене структуре. За моделирање недостајућих података са оваквом структуром неопходно је да модели узму у обзир податке који нису доступни, што представља тежак задатак. Методе које се могу применити у случајевима када подаци нису комплетни су [103]: 1. Паметно брисање са листе – Најједноставнија и најчешће коришћена метода, којом се из скупа података једноставно бришу подаци који недостају. У случају да су подаци који недостају типа MCAR ова метода доводи до оцене параметара без пристрасности, док се у супротном појављује пристрасност. Како t-тестови зависе од величине узорка, чак и под претпоставком да су подаци типа MCAR, долази до губитка моћи теста. 2. Брисање у паровима – Узимањем у обзир свих расположивих података оцењује се сваки елемент у интеркорелационој матрици. Проблем ове методе огледа се у томе што су оцењени параметри засновани на различитим скуповима података, са различитим величинама узорка и различитим стандардним грешкама. Такође, може доћи до генерисања интеркорелационе матрице која није позитивно дефинитна, што може лако довести читаву анализу у питање. Због наведених недостатака, ова метода се може користити у случајевима када недостаје врло мало података, али и у тим случајевима препорука је да не треба користити ову методу, већ методу паметног брисања са листе. 3. Замена средњом вредношћу – Метода код које се сви недостајући подаци дате величине замењују средњом вредношћу те величине и представља добар избор у случају да је реч о подацима типа MAR који имају нормалну расподелу. У случајевима када је велики број недостајућих података, долази до пристрасности, чак и када су у питању подаци типа MAR. 4. Импутација помоћу регресије – За надомештање података који недостају користи се регресиона једначина, где се сви остали релевантни подаци појављују као предиктори. Предност ове методе огледа се у томе што се задржава варијанса и коваријанса случајних величина са недостајућим подацима, али треба бити посебно Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 58 опрезан, јер се занемаривањем стандардне грешке могу значајно ослабити перформансе предвиђања модела. 5. Случајна импутација – Недостајући подаци се замењују случајно одабраним вредностима који потичу из неког сличног скупа података. Како се замењујуће вредности бирају на случајан начин, ова метода доводи до већих варијација од замене средњом вредношћу. Главни проблем ове методе јесте одабир репрезентативног скупа података и идентификација одговарајућих вредности које ће произвести најмању варијансу и бити коришћене у субституцији. 6. ЕМ алгоритам – Итеративни процес којим се полазећи од неке почетне вредности оцењују параметри модела у циљу максимизације очекивања. У свакој итерацији постоји два корака: 1. корак очекивања – идентификација расподеле недостајућих података на основу тренутне оцене параметара и познатих вредности из посматраног скупа података, 2. корак максимизације – замена недостајућих података очекиваним вредностима. Ова метода представља моћан приступ за надомештање података који недостају, али њен недостатак се огледа у томе што може бити временски врло захтевна. 7. ML метода – Техника која узима у обзир све расположиве информације о посматраним подацима, као и очекивање и варијансу на основу расположивих података за сваку променљиву. Ова метода омогућа директно израчунавање стандардних грешака и тестирање статистике, што представља њену главну предност у односу на ЕМ методу. Главни недостатак ове методе огледа се у томе што, попут ЕМ методе, може бити веома временски захтевна. 8. Метода вишеструке импутације – Метода слична ЕМ алгоритму, заснована на коваријансној матрици вектора средњих вредности, којом се генеришу максималне веродостојности. За разлику од ЕМ методе, захтева генерисање пет или више база података са одговарајућим вредностима, од којих се свака појединачно анализира. Rubin [64] је предложио да се уместо попуњавања недостајућег податка једном вредности, користи скуп одговарајућих вредности. Затим се, над овим вишеструко уметнутим скуповима, спроводе анализе стандардним процедурама за комплетне податке и врши комбиновање са већ утврђеним резултатима статистичке анализе. Без обзира о којој врсти статистичке анализе за комплетне податке се ради, процес комбиновања резултата из статистичких скупова је у суштини исти. 3.5. Избор структуре и димензије модела система Најважнији корак у процесу идентификације система је избор структуре општег нелинеарноног модела. Структура општег модела зависи од избора регресионог вектора  T k који пресликава простор претходно мерених вредности улаза и излаза у регресиони простор и од избора функције   ,mf k  која пресликава регресиони простор у излазни простор модела система. Код идентификације нелинеарних система обе функције могу да буду нелинеарне. Неуронске мреже и неуро-фази системи су универзални апроксиматори Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 59 што подразумева да је функција  T k линеарна по изабраним регресорима и да је функција   ,mf k  нелинеарна. NARX модел може да опише понашање широке класе нелинеарних динамичких система због чега се сматра општим идентификационим моделом [104]. NARX модел је структурно стабилан јер његови регресори не зависе од параметара модела. Оптимална димензија улазно-излазних модела нелинеарних динамичких система код којих се за апроксимацију нелинеарне функције   ,mf k  користе неуронске мреже одређена је димензијом регресионог вектора и бројем параметара неуронске мреже. Када се ANFIS примењује за пресликавање регресионог простора у излазни простор модела тада је димензија модела одређена димензијом регресионог вектора и бројем параметара неуро-фази система. Одређивање оптималне димензије је посебно сложен проблем када је систем нелинеаран. Повећањем димензије модела долази до проблема естимације параметара и повећања грешке предикције. Модел процеса мале димензије није довољно флексибилан да моделира релевантну динамику процеса. Димензије вектора регресора бирају се према типу модела који се формира. Некада се сматрало да неуронске мреже имају способност самосталног одређивања важности појединих регресора, због чега се избору оптималне димензије вектора регресора није посвећивало довољно пажње [105]. Међутим, доказано је да се употребом великог броја регресора добија већи и сложенији модел који се лако може претренирати, тј. има склоност учења напамет [106]. Супротно овоме, површном селекцијом могуће је из скупа регресора искључити оне регресоре који значајно утичу на вектор излаза, чиме би се у великој мери смањио квалитет модела. Иако постоје бројни радови на тему оптимизације броја регресора, универзално правило још увек није пронађено [44]. Jang [90], уводи једноставан и ефикасан начин одређивања оптималне димензије вектора регресора код ANFIS модела, који може да се примени и над моделима заснованим на неуронским мрежама. Ако је k број свих могућих регресора, и ако је потребно одредити m најутицајнијих, тада је неопходно креирати    1 ... 1 ! k m k k k k m C m m          различитих модела и обавити по једну епоху учења за сваки од њих. Регресори модела са најмањим кореном средње квадратне грешке после прве епохе процеса учења бирају се као најутицајнији. Како су код вишеслојног перцептрона број улазних и излазних неурона одређени димензијама вектора регресора и вектора излаза, респективно, одређивање оптималне архитектуре мреже своди се на одређивање оптималног броја неурона у скривеном слоју. Под оптималним бројем скривених неурона подразумева се најмањи број неурона који омогућава мрежи да на исправан начин моделира процесе између вектора регресора и излаза. У случају премалог броја неурона у скривеном слоју, мрежа неће бити у стању да на исправан начин апроксимира нелинеарне процесе, што доводи до велике грешке учења и генерализације (underfitting). Са друге стране, превеликим бројем скривених неурона формира се претренирана мрежа која се споро обучава и која је због „учења напамет“ склона лошој генерализацији. Метода којом би се на прецизан и поуздан начин одредио оптималан број неурона у скривеном слоју, још увек није пронађена. Како би се вишеслојним перцептроном са сигурношћу могла апроксимирати жељена функција, Nielsen [107] закључује да број скривених неурона треба да задовољи следећи услов: Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 60 2 1h uN N  (3.24) где је:  hN – број неурона у скривеном слоју,  uN – број улазних неурона (димензија вектора регресора). Да би се избегла претренираност мреже, Rogers & Dowlа [108] доказују да број неурона у скривеном слоју треба да задовољи услов: 1 t h u NN N   (3.25) где је tN – број узорака за тренирање. За одређивање оптималног броја неурона у скривеном слоју најчешће се користи експериментална метода, тзв. метода пробе и грешке (trial-and-error) [105]. Предлог за коришћење ове методе јесте да се крене од минималне структуре, односно мреже са једним скривеним неуроном, после чега је потребно постепено додавати неуроне, и сваки пут изнова обучавати мрежу и одређивати перформансе добијених модела. Главни недостаци огледају се у великом броју мрежа које потребно обучити и тестирати, што је био основ за настајање великог броја алгоритама базираних на наведеној методи. Примери таквих алгоритама су IP (Incremental Pruning) и SP (Selective Pruning) алгоритми. IP алгоритам (сл. 3.8), представља аутоматизовану методу креирања неуронских мрежа са различитим бројем неурона у скривеном слоју који се креће од унапред задате вредости A до B . Свака мрежа се обучава највише maxEp епоха и испитује се вредност критеријумске функције текуће конфигурације ( )E n . Према овом алгоритму, оптималном неуронском мрежом се сматра прва неуронска мрежа, са на пример n (прва вредност из интервала  ,A B ) неурона у скривеном слоју, за коју је испуњен услов: min( )E n Err (3.26) где је: minErr – унапред задата најмања дозвољена грешка учења мреже, након чега се прекида извршење алгоритма. У случају да се таква вредност не пронађе, то је знак да границе интервала  ,A B или унапред задата најмања дозвољена грешка учења minErr нису добро дефинисане. ЅР алгоритам (сл. 3.9) полази од унапред истрениране неуронске мреже. За сваки неурон hn у скривеном слоју испитује се да ли би се његовим уклањањем критеријумска функција у значајној мери повећала, тј. испитује се испуњенoст услова:    minhE NN n Err  (3.27) где је:    hE NN n – вредност критеријумске функције мреже након елиминације неурона hn , Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 61  minErr – вредност унапред задате најмање дозвољене грешке. Уколико је услов (3.27) испуњен елиминише се неурон hn , и иста процедура се понавља за наредни неурон. У случају да услов (3.27) није испуњен, не долази до избацивања неурона, већ се испитивање горе поменутог услова спроводи за следећи неурон у низу. Када се заврши један пролаз алгоритма кроз све неуроне скривеног слоја, процедура се понавља. Алгоритам се извршава све до тренутка када ни један неурон не може бити избачен из скривеног слоја, а да при томе не дође до значајног пада перформанси мреже. Heaton [109] даје детаљан приказ IP и ЅР алгоритама. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 62 Сл. 3.8. Шематски приказ IP алгортима. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 63 Сл. 3.9. Шематски приказ ЅР алгоритма. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 64 4. Методе моделирања индикатора понашања бране У оквиру хидроенергетског и других водопривредних система пројектује се веома обиман систем за осматрање стања објекта и инсталирају се бројни инструменти којима се мере релевантни геодетски и физичко-телеметријски параметри. Избор конкретних величина које ће бити праћене и мерене на сваком појединачном објекту није могуће универзално дефинисати, због утицаја великог броја фактора попут: врсте и димензије конструкције, карактеристика терена, итд. За благовремено откривања узрока аномалија у понашању бране и њиховог превентивног отклањања од великог је значаја да се мерне променљиве адекватно интерпретирају. Математички модели бране се користе као средство за стицање увида у текуће стање бране, али и контроле њеног будућег понашања, односно предвиђања истог. Праћење стања бране изводи се преко низа релевантних величина (показатеља), које се називају индикатори понашања бране. Различите климатолошке и хидролошке величине могу да имају утицај на понашање бране. Величне чија промена знатно утиче на посматрани индикатор понашања називају се узрочне величине. У ову групу променљивих спадају: ниво воде у акумулацији, температуре воде, ваздуха и бетона, падавине, време протекло од почетка рада објеката. Контрола понашања објекта се заснива на поређењу мерених и моделом срачунатих вредности индикатора понашања бране, сл.4.1. Основне методе које су коришћене за моделирање релевантних индикатора понашања бране су детерминистичке и статистичке. Модели засновани на методи коначних елемената представљају најчешће коришћене физички засноване моделе и формирају се на основу стварне геометрије објекта, стварних карактеристика материјала и њихова калибрација се врши према реалним мерењима. У анализи стања брана, главне врсте таквих модела су филтрациони и напонско- деформацијски модели. Употреба ових модела, резултује утврђивањем стања физичких величина у простору и промене у времену, насталих као последица реалног или предвиђеног сценарија оптерећења бране. За разлику од физичких модела, статистички модели не захтевају тако значајну софтверску подршку, брже и лакше се формирају и без обзира на врсту бране или физичке величине које се њима моделирају имају неограничену примену у праћењу мерења. Овим моделима не може се утврђивати степен сигурности и анализирати узроци одступања моделираних од измерених вредности, већ је могуће само утврдити да ли се мерене вредности налазе у одговарајућим опсезима. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 65 Сл. 4.1. Поређење мерених и моделом естимираних вредности индикатора понашања бране. 4.1. Статистички модели Статистички модели представљају функционалне везе, добијене методама статистичке анализе, између неких узрочних величина и релевантних индикатора понашања бране. Главне особине оваквих модела, које их чине погодним за примену у процесу моделирања индикатора понашања бране, су:  Релативна једноставност коришћења,  Применљивост над свим врстама величина,  Нема сложених рачунских процеса. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 66 За разлику од физичких модела који су ограничени на моделовање величина чије се понашање може описати неком утврђеном аналитичком везом, статистички модели се могу формирати за најразличитије врсте појава за које постоји довољан скуп хронолошки забележених података узрочних и последичних величина. У статистичким моделима се најчешће разматрају следеће узрочне величине:  Кота горње воде,  Кота доње воде,  Температура,  Падавине,  Време протекло од почетка рада објекта и др. Најопштији облик статистичког модела је модел вишеструке линеарне регресије [110,111], који има велику примену за моделирање индикатора понашања бране [112] : 0 1 n m k k k y F     (4.1) где су:  my – индикатор понашања бране (нека физичка величина којом је описано понашање бране),  0 ,..., n  – непознати коефицијенти,  1,..., nF F – функције понашања или предиктори који су функција узрочних величина,  n – број предиктора. При формирању статистичких модела индикатора понашања претпоставља се облик регресионих функција. У суштини, реч је о полиномима, тригонометријским и експоненцијалним функцијама, чије је непознате коефицијенте потребно одредити. Непознати коефицијенти у моделима се одређују из услова да збир одступања рачунских вредности из модела од измерених вредности буде минималан (метода најмањих квадрата):               2 2 21 1 2 2 ... M Mm m mE y y y y y y       (4.2) где je:   iy – i-та измерена вредност индикатора понашања,  M – број мерења,   imy – излаз из вишеструког линеарног модела за i -ту вредност предиктора, тј.:        0 1 1 2 2 ... i i i i m n ny F F F        (4.3) Једначина (4.2) се у матричном облику може представити као:    Tm mE   y U y U  (4.4) где је: Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 67                   1 1 1 1 2 2 2 2 1 2 1 2 1 1 1 n n M M M n F F F F F F F F F                        U ,  0 1 ... T n   ,       1 2 ... TMm m m my y yy , при чему је  одређен методом најмањих квадрата као:   1T T m   U U U y (4.5) У зависности од типа бране, статистички модели се праве за следеће величине: Насуте бране  Процуривање,  Померања бране,  Нивои подземне воде. Бетонске бране  Рад спојница,  Померања бране,  Узгон. Услед претпоставке да ће се објекат за који је статистички модел направљен на основу података о ранијем понашању и даље понашати по истом моделу, статистички модели се могу посматрати као прогнозни модели нормалног понашања објекта. Међутим, уколико дође до неког ванредног догађаја за који нема довољно историјских података (доток велике количине воде у акумулацију, земљотрес, итд.), статистички модели не могу одиграти значајну прогнозну улогу. У случају примене статистичких модела, контрола понашања објекта се заснива на поређењу мерених и моделираних вредности за сваку од моделом обухваћених величина. Границе дозвољеног одступања мерених од моделираних вредности могу варирати у зависности од разматраног индикатора понашања, и њихов избор је свакако ствар експертске анализе. Чињеница да нека вредност није у границама дозвољеног одступања, не говори о томе да је сигурност бране угрожена, већ да њено понашање не одговара очекиваном, због чега би требало спровести даље анализе мерених величина као и других математичких модела. 4.1.1. Формирање модела За формирање статистичких модела којима се моделирају индикатори понашања бране, најчешће се користи метода вишеструке линеарне регресије [112]. Тестирање веродостојности неког модела изводи се коришћењем различитих техника из области статистичке анализе. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 68 Испитивање значаја сваког од непознатих коефицијената 0 1, ,..., ,...,i n    може се извести коришћењем Студентовог t-теста или, уопштеније, Фишеровим F-тестом. На овај начин се одређује да ли је модел који укључује променљиву iF лошији или бољи од модела који ту променљиву не укључује. Један од примера наведеног може бити поређење два модела померања тачке бетонске бране, од којих први узима у обзир утицај нивоа воде преко полинома 4-тог реда, док други тај исти утицај разматра преко полинома 3-ег реда. Упоређивање, да ли се два или више модела значајно разликују у статистичком смислу, изводи се коришћењем методе анализе варијанси, која представља проширену форму t-теста [113] (на пример, анализом варијанси може се утврдити да ли се приликом додавања неког новог фактора утицаја, квалитет модела уопште повећао са статистичке тачке гледишта). Један од начина провере да ли нека величина има нормалну (Гаусову) расподелу јесте употреба визуелне методе, тзв. QQ-дијаграма (quantile-quantile) [114]. Ако посматрана величина има нормалну расподелу, већина тачака биће у близини линије идеалне нормалне расподеле. Како многе од мерених величина могу носити исту „информацију“ (услед постојања узајамних веза између различитих физичких величина које се независно мере на брани), код формирања статистичких модела постоји опасност од примене претераног броја предиктора. Појава када два или више предиктора у статистичком моделу нису линеарно независни, назива се мултиколинеарност и доводи до стварања непоузданих модела. Статистичка метода која омогућава откривање постојања мултиколинеарности у моделу назива се фактор инфлације варијансе (VIF - Variance Inflation Factor) и има облик: 2 1 1 VIF R   (4.6) где је 2R коефицијент детермисаности једначине (4.1). У литератури су дате различите препоруке колике максималне вредности фактора инфлације варијанси се могу толерисати, па је тако ствар експертске анализе које ће максималне вредности бити узете у обзир. Према [114] max 10VIF  , док се у [115] и [116] препоручује да би максималне VIF вредности требале да буду max 5VIF  и max 4VIF  , респективно. Кораци при изради статистичких модела су редом: 1. Полази се од најједноставнијег модела, са променљивом за коју се добија највећа вредност коефицијента корелације, 2. Постепено усложњавање модела увођењем додатних предиктора, 3. Параметрима квалитета и анализом варијанси прати се да ли додатни предиктори повећавају квалитет модела, 4. Када се добије модел који даје задовољавајућу тачност, анализом појединачних предиктора на више инструмената процењује се да ли неки од предиктора може бити избачен из модела, а да то не утиче на квалитет модела. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 69 4.2. Физички засновани модели Физички заснованим моделима врши се дискретизација геометрије бране и њене околне средине (акумулација, брана, темељ). Физички процеси (физичко понашање) објекта дефинисани су преко теоретских математичких веза и закона који се односе на топлотне, хемијске или механичке процесе. Квалитет физички заснованих модела зависи од: 1. Познавања стварних физичких параметара објекта (као што су модули еластичности, и сл.), 2. Могућности да се одабраним законима понашања репродукује стварно понашање објекта, 3. Упрошћавања уведених приликом моделирања (пре свега у вези са граничним условима и законима понашања), 4. Упрошћавања уведених у процес математичког решавања, 5. Квалитета дискретизације мреже, 6. Броја комбинација дискретних вредности кључних променљивих коришћених за рачунање вредности неког индикатора понашања, 7. Домена који је покривен тим дискретним вредностима, 8. Квалитета интерполације. Физички заснованим моделима разматрани домен (као континуум са бесконачно много степени слободе) замењује се дискретном структуром са коначним бројем степени слободе. На овај начин се, математички гледано, проблем са подручја математичке анализе преводи на подручје алгебре. Дискретне вредности посматраног индикатора понашања израчунавају се за различите вредности кључних променљивих. Као кључне променљиве које утичу на понашање објекта узимају се температура ваздуха и ниво воде у акумулацији. Ове кључне променљиве представљају улазне податке за модел. За добијање конкретних вредности датог индикатора понашања у жељеном тренутку користи се интерполација. Корекција добијених вредности се, уколико је то потребно, врши помоћу функција које обухватају неке моделом необухваћене ефекте (нпр. иреверзибилне ефекте). Анализа филтрационих процеса спроводи се на основу диференцијалне једначине струјања флуида кроз порозну средину за стационарне и нестационарне услове, која је се у случају малих брзина, изводи на основу једначине континуитета флуида и Дарсијевог закона, [117]. Анализом струјања воде кроз порозну средину добија се: 1. Поље потенцијала, градијената и брзина флуида, 2. Протоци кроз дефинисане контуре, Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 70 3. Положај слободне површине флуида. Наведене величине су у општем случају у функцији времена, [118]. У теорији струјања течности кроз порозно тле, основна величина од које се полази је укупни потенцијал  , дефинисан као: p h    (4.7) где је: p порни притисак течности,  специфична тежина, а h висина у вертикалном правцу, мерена у односу на изабрану референтну раван. Средња брзина течности (Дарсијева брзина) представља запремину течности која прође у јединици времена кроз јединичну површину порозне средине. Дарсијева брзина q , може се представити релацијом која се зове Дарсијев закон: q ki  (4.8) где је i градијент потенцијала  : i   (4.9) а k је матрица пермеабилности, која за ортотропни материјал има облик: 0 0 0 0 0 0 x y z k k k          k (4.10) при чему су ,x yk k и zk коефицијенти филтрације у , , x y z правцу, респективно. Оператор  je облика: T x y z               (4.11) На основу Дарсијевог закона (4.8) и једначине континуитета 0Tq  , изводи се хидродинамичка једначина за нестационарно струјање, која има следећи облик: ( )T Q S t    k    (4.12) где је Q запремински флукс (извор или понор, као количина течности по јединици запремине порозне средине); S је ефективна порозност слоја подељена са дебљином слоја у случају слободног струјања, односно специфична издашност (акумулативност) у случају ограниченог (потопљеног) струјања. У случају стационарног струјања, десна страна једначнине (4.12) једнака је нули. Важно је напоменути да су коефицијенти филтрације  ik p и специфична акумулативност  S p нелинеарне функције порног притиска p . Ове зависности могуће је одредити емпиријским и експерименталним методама. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 71 У случајевима када нису познате вредности коефицијента филтрације  ik p и специфичне акумулативности  S p у незасићеној средини (изнад слободне површине где је 0p  ), саветује се да се у тој области користе коефицијенти чије су вредности 1000 пута мање од вредности коефицијената за 0p  . У решавању проблема струјања, који је описан претходно наведеним једначинама, срећу се следећи гранични услови (сл. 4.2): а) задат потенцијал  t  на 1 (4.13) б) задат површински проток (флукс)  nq q tn q   на 2 (4.14) где је n нормала на граничну површину, а t време. Треба напоменути да на слободној површини и површини са цурењем важе следеће зависности:  0, , 0p z t n       на 3 (4.15) Сл. 4.2. Гранични услови за струјање воде кроз порозно тло. Проблем моделирања филтрационих процеса се због очигледне нелинеарности решава итеративним поступцима, применом нумеричких метода [7, 117]. За нумеричко решавање проблема филтрационих процеса најчешће се користи метод коначних елемената, и детаљан поступак је описан у литератури [119]. Анализом напонско-деформацијских процеса за дефинисане контурне и почетне услове (у општем случају, у функцији времена) одређује се поље померања, повратних и неповратних деформација, напона и других релевантних величина уведених као интерне променљиве, [117]. Анализа напонско-деформацијских процеса се врши применом еласто-пластичног модела понашања материјала са концептом критичног стања. У првом кораку се одређује почетно напонско поље у стенском масиву (које егзистира у природи пре изградње бране). Са напонско-деформацијског становишта, изградња бране и формирање акомулације еквивалентна је наношењу основног оптерећења, тј. притиска Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 72 воде на брану и филтрационих сила услед струјења подземне воде (уз сопствену тежину), на основу чега се мења почетна напонска сила која постоји у стенском масиву. Анализом напонско-деформацијских процеса добија се поље напона и деформација које одговара експлатационим условима. У механици непрекидних средина основна величина од које се полази је поље померања u . На основу померања у свакој материјалној тачки тела могуће је одредити тензор укупне деформације  , [120]. У свакој материјалној тачки, у статичким условима, мора бити задовољен следећи услов равнотеже: 0T V F  (4.16) где је VF вектор запреминских сила. Гранични услови могу бити: а) задата померања u u на uS (4.17) б) задате површинске силе s n F на S (4.18) Коришћењем граничних услова и услова равнотеже (4.16) изводи се принцип виртуелног рада који је заснован на једнакости виртуелног рада унутрашњих и спољашњих сила. Виртуални рад спољашњих сила представља рад запреминских и површинских сила, док виртуални рад унутрашњих сила представља рад напона на виртуелним деформацијама. У маханици деформатибилног тела ова релација представља основну једначину равнотеже: V S V V S dV dV dS       e F u F u (4.19) Поред наведених једначина равнотеже потребно је дефинисати и конститутивну релацију, односно изразе које доводе у везу напон и деформацију (и време, када је реч о материјалима осетљивим на брзину промене стања напона и деформација). У општем случају, конститутивне релације могу имати веома сложен облик. У великом броју инжењерских ситуација, механичко понашање стена и сродних средина може се реалистично описати употребом еластопластичног модела материјала. Главна особина пластичних деформација је њихова трајна, бесповратна природа. У случају малих деформација између пластичних p , еластичних e и укупних деформација  , важи следећа веза: e p    (4.20) На основу еластичне конститутивне релације eC , могуће је одредити прираштај напона d : ( )e e e pd d d d  C C    (4.21) Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 73 Еласто-пластични закони засновани су на три основне релације: услов течења, услов ојачања и закон течења. Услов течења, дефинише стања напона у којима је могућ развој пластичних деформација и представља површ у напонском простору. Услов ојачања одређује могућности и начин промене величине, облика и позиције површи течења. Закон течења одређује смер и интезитет пластичног деформисања, тј. инкременте пластичне деформације. Услов течења се може приказати у облику:  , ( ) 0pF F P  (4.22) где је  pP  вектор параметара ојачања који одређују промену површи течења са повећањем пластичних деформација (услов ојачања). Ако је 0F  , напонско стање је представљено тачком у напонском простору унутар површи течења, па је у том случају понашање материјала чисто еластично. Ако је 0F  напонско стање задовољава услов течења, док напонско стање за које је 0F  није могуће. Пластично деформисање се може развијати само у случају да напонско стање задовољава услов течења током прираштаја деформација, односно ако је испуњен следећи услов конзистентности: T T p p F FdF d d                     P P     (4.23) Закон течења је заснован на пропорционалности прираштаја пластичне деформације и градијента пластичног потенцијала: p Qd d     (4.24) где је:  , pQ Q   (4.25) пластични потенцијал, а d је не-негативни скалар (мултипликатор пластичности). Детаљан приказ моделирања и нумеричког решавања проблема напонско- деформацијских процеса дат је у [7, 121]. Комбинованом употребом статистички и физички заснованих модела настају такозвани хибридни модели. Ова комбинација омогућава хибридним моделима да имају добру прогнозну улогу чак и у случајевима када нема довољно историјских података. Пример оваквих модела су модели код којих се вредности добијене употребом физичких модела користе као предиктори статистичких модела, док се са друге стране за калибрацију физичких модела користе излазне вредности статистичких модела. Специјалан облик хибридних модела чине модели, код којих се утицај једне групе ефеката на индикатор понашања моделира статистичким, а утицај неке друге групе ефеката физички заснованим моделима. На пример, за моделирање хидростатичког ефеката погодније је користити физички заснован модел, док је за моделирање температурног и временског ефекта погодније користити статистички модел [2]. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 74 5. Моделирање индикатора понашања бране применом техника рачунарске интелигенције За благовремено откривање узрока аномалија у понашању бране и њиховог превентивног отклањања од великог је значаја да се мерне променљиве адекватно интерпретирају. Математички модели бране се користе као средство за стицање увида у текуће стање бране, али и контроле њеног будућег понашања, односно предвиђања истог. Физички нумерички модели су најшире примењивани физички засновани модели за одређивање индикатора понашања бране. Они се формирају уз помоћ стварне геометрије објекта и стварних карактеристика материјала и калибришу се према реалним мерењима. Главне врсте таквих модела које се користе у анализи стања брана су филтрациони и напонско-деформациони модели. Квалитет физички заснованог модела, какав је модел направљен помоћу мреже коначних елемената, зависи од квалитета дискретизације мреже, могућности одабраних модела понашања да репродукују стварно понашање, познавања стварних физичких параметара објекта (на пример: модули еластичности и др.), поједностављења која су уведена при моделирању, пре свега у вези са законима понашања и граничним условима, од поједностављивања која су уведена у процес математичког решавања. Предност статистичких модела у одређивању индикатора понашања је што су релативно једноставни за коришћење, не захтевају сложене рачунске процесе и могу да се примене на све врсте величина. Међутим, релевантни индикатори понашања бране су нелинеарне, сложене функције узрочних величина па статистичке методе (метод вишеструке линеарне регресије) често не дају задовољавајуће резултате када се користе у моделирању нелинеарних процеса. У Србији мали број постојећих брана поседује математички модел. У време када је већина брана у Србији грађена (пре 30-40 година), због неразвијености технологије у то време, није било могуће формирати физичке моделе базиране на методи коначних елемената. Формирање статистичких модела подразумевало је постојање вишегодишњих поузданих мерних података и на том пољу је мало тога рађено. Последњих година се интензивно, као и у већини земаља, посебна пажња посвећује како формирању физичких, тако и развоју и практичној примени статистичких модела индикатора понашања брана. У овом поглављу биће предложени различити приступи моделирања и идентификације индикатора понашања бране применом техника рачунарске интелигенције. Технике рачунарске интелигенције могу да се користе у моделирању и идентификацији сложених нелинеарних динамичких процеса. У литератури је доказано да RBF неуронска мрежа, вишеслојни перцептрон и ANFIS могу да се примене за апроксимацију континуалних нелинеарних функција до жељене тачности на основу улазно-излазних података. Овакви нелинеарни модели могу се формирати за најразличитије врсте појава за које постоји довољан скуп података. У томе је њихова предност над физички заснованим моделима, који су ограничени на моделирање величина чије се понашање може описати неком утврђеном аналитичком везом. У области анализе сигурности брана, математички модели који се базирају на техникама рачунарске интелигенције могу да се примене у циљу континуалног праћења мерења и утврђивања усаглашености измерених величина и њихових очекиваних вредности, сл. 5.1. Ако је одступање мерених величина од очекиваних, у дозвољеним границама, тада може да се закључи да у систему нема битнијих промена. У савременом аутоматизованом систему, овај процес се обавља свакодневно и има улогу алармирања у Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 75 случају да се на основу мерења закључи да се објекат не понаша очекивано. Аларм представља сигнал да је потребно извршити ванредну проверу сигурности. Сл. 5.1. Контрола понашања бране применом модела индикатора понашања базираних на техникама рачунарске интелигенције. 5.1. Применa неуронских мрежа и неуро-фази система у моделирању и идентификацији индикатора понашања бране Активност осматрања и праћења понашања у највећем броју случајева се ослања на формиране статистичке моделе, којима се на основу мерених узрочних величина могу предвидети вредности неких последичних величина. Статистички модели представљају функционалне везе, добијене методама статистичке анализе, између неких узрочних величина и релевантних индикатора понашања бране. Међутим, како су релевантни индикатори понашања бране нелинеарне, сложене функције узрочних величина, статистичке методе (метод вишеструке линеарне регресије) често не дају задовољавајуће резултате када се користе у моделирању нелинеарних процеса. Један од приступа примене техника рачунарске интелигенције у моделирању индикатора понашања је да се линеарно пресликавање узрочних величина у индикаторе понашања, које се користи код вишеструке линеарне регресије, замени нелинеарним (сл. 5.2): Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 76  m ly f F  (5.1) где је:   1 2, , ... nF F FF – вектор предиктора,   – вектор непознатих параметара модела,  my – индикатор понашања (нека физичка величина која описује понашање бране),  n – број предиктора. За апроксимацију функције lf може се користити вишеслојни перцептрон или RBF неуронска мрежа, као и неуро-фази систем. Моделирање индикатора понашања бране, у коме се за апроксимацију функције lf користи нека од техника рачунарске интелигенције, је итеративан поступак и подразумева следеће фазе: 1. Обезбеђивање меродавних мерних вредности узрочних величина и индикатора понашања који се моделира кроз напредни систем техничког осматрања, 2. Валидацију података, 3. Избор предиктора iF као код статистичког модела, 4. Апроксимацију функцију lf применом неуронске мреже и/или неуро-фази система, 5. Одређивање оптималне димензије неуронске мреже када се апроксимација функције lf обавља применом вишеслојног перцептрона, 6. Одређивање оптималне структуре неуро-фази система када се апроксимација функције lf обавља применом ANFIS-а, 7. Одређивање перформанси модела. У било којој фази описаног поступка могуће је вратити се један или више корака уназад, уколико резултат не задовољава постављене захтеве. Други приступ, предложен у овој дисертацији, се базира на примени поступка параметарске индентификације нелинеарних система у моделирању индикатора понашања бране. Како су релевантни индикатори понашања бране нелинеарне, сложене функције узрочних величина, у циљу њиховог моделирања могуће је користити улазно-излазну NARX структуру, којом је описана широка класа нелинеарних динамичких процеса:     ,m my k f k   (5.2) где је:   my k – моделирана вредност индикатора понашања бране у тренутку k ,   k – регресиони вектор, облика:                           1 1 1 1 2 2 2 2 1 , 2 ,..., , 1 , 2 ,..., , 1 , 2 ,..., ,..., 1 , 2 ,..., a b b r r r br k y k y k y k n u k u k u k n u k u k u k n u k u k u k n                 iu k – вредност i -тe узрочне променљиве у тренутку k ,   y k i – измерена вредност индикатора понашања бране у тренутку k i , Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 77   вектор параметара,  an – број претходних мерених вредности индикатора понашања (излаза модела),  bin – број претходних мерених вредности i -тe узрочне променљиве (улаза модела). Сл. 5.2. Технике рачунарске интелигенције примењене за нелинеарно пресликавањe предиктора у индикаторе понашања бране NARX структура модела омогућава примену неуронских мрежа, фази логичких и неуро-фази система за апроксимацију функције mf у (5.2). Како предиктори NARX структура модела не зависе од параметара модела, за апроксимацију функције mf може се користити RBF неуронска мрежа, вишеслојни перцептрон, као и неуро-фази систем. На сл. 5.3, приказан је предложени улазно-излазни NARX модел за идентификацију индикатора понашања бране. Моделирање индикатора понашања бране применом поступка параметарске индентификације нелинеарних система се обавља у следећим фазама:  Прибављање меродавних мерних вредности узрочних величина и индикатора понашања који се моделира кроз напредни систем техничког осматрања,  Валидацију података,  Избор структуре општег нелинеарног модела. Структура општег модела зависи од избора регресионог вектора  T k и од избора функције   ,mf k  . Код идентификације нелинеарних система обе функције могу да буду неинеарне. Неуронске мреже и неуро-фази системи су универзални апроксиматори што подразумева да је функција  T k линеарна по изабраним регресорима и да је функција   ,mf k  нелинеарна. NARX модел се сматра општим идентификационим моделом.  Избор критеријумске функције,  Одређивање оптималне димензије улазно-излазних модела. Ако се за апроксимацију нелинеарне функције mf користе неуронске мреже, тада је Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 78 димензија модела одређена димензијом регресионог вектора и бројем параметара неуронске мреже. Када се ANFIS примењује за пресликавање регресионог простора у излазни простор модела тада је димензија модела одређена димензијом регресионог вектора и бројем параметара неуро-фази система. Одређивање оптималне димензије је посебно сложен проблем када је систем нелинеаран.  Одређивање перформанси модела. Сл. 5.3. NARX структура модела за идентификацију индикатора понашања бране. Предложени приступи формирања модела се у суштини могу користити за моделирање најразличитијих врста појава, уз услов да постоји довољно велики скуп измерених података. Успостављање модела на бази техника рачунарске интелигенције подразумева постојање напредног система техничког осматрања тј. одговарајућих мерних инструмената. Величине које се осматрају на самим бранама, директно показују одговор конструкције на спољашње утицаје. У зависности од принципа рада, мерни инструменти могу бити: оптички, механички, електроотпорни, електроакустички, електромагнетни, индуктивни, хидраулички, пијезоелектрични, итд., док се поступци за очитавање података крећу од мануелног очитавања података на лицу места до телеметријског са полуаутоматским или аутоматским очитавањем. Инструменти најчешће примењивани код брана у Србији, заједно са величинама које се њима мере су:  Релативна хоризонтална померања: нормални и обрнути вискови, инклинометри, итд.,  Ротације: клинометар,  Дилатације и напони у телу бране: екстензометри (напони се овде добијају као срачунате величине), Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 79  Температура: термометри,  Узгон и провирање: пијезометри,  Порни и тотални притисци: ћелије за мерење притисака (директно мерење напона),  Релативно слегање: сонда за мерење релативних померања,  Рад спојница и пукотина: деформетри,  Провирне воде: преливи. Како су мерења у систему техничког осматрања подложна грешкама које могу настати услед проблема са сензорима, преносом или обрадом, неопходно је обезбедити механизам валидације мерених података, чиме би се на основу утврђених процедура одредила поузданост мерења. Ако се напредни систем техничког осматрања узме као извор поузданих података, тада је, ослањајући се на податке прикупљене овим путем, могуће развити скуп математичких модела, као и пратећих математичких апарата за праћење стања и анализу сигурности брана. Према релевантној литератури хоризонтална померања једне или више тачака као и нивои воде у пијезометрима који су уграђени у тело бране и/или у њеној области представљају битан индикатор понашања бране. Пијезометри су уређаји који омогућавају дугорочно мерење нивоа подземне воде, односно мерење притисака у водоносним слојевима и њихову промену у времену. Имају улогу у откривању путања и степена процуривања. Уколико није у пројектним границама, и уколико није контролисано, процуривање може бити узрок озбиљних оштећења структуре бране. Хоризонтална померања тачака бране су нелинеарна функција хидростатичког притиска, температуре и других непознатих узрока који су последица деградације материјала. У великом броју референци је показано да су нивои воде у пијезометрима нелинеарна функција падавина и нивоа воде у акумулацији. 5.2. Технике рачунарске интелигенције у моделирању и идентификацији релативних хоризонталних померања бране Статистички модели који се користе за предвиђање померања бране узимају у обзир истовремени утицај следећa три ефекта:  Хидростатичког,  Температурног,  Временског. Анализирани ефекти се могу поделити на повратне ефекте, изражене преко хидростатичког притиска и температуре, и неповратне ефекте, изражене у функцији времена. Како температуре измерене у различитим тачкама бране најчешће нису доступне, термичко оптерећење најчешће се изражава преко сезонског ефекта 2 365 jd  , где је j редни број дана у години [25]. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 80 Општи облик статистичког модела за предикцију релативног померања бране, коришћењем методе вишеструке линеарне регресије, има следећи облик:               2 3 4 0 1 2 3 4 5 6 2 7 8 9 10 , , cos sin sin sin cos MLR t mhpy h t d h h h h e t d d d d d                       (5.3) где је h ниво воде у акумулацији, t је протекло време изражено у годинама, и d је сезонски ефекат. Mata [122] користи вишеслојни перцептрон за пресликавање узрочних величина у хоризонтално радијално померање бране (сл. 5.4), тј., за апроксимацију функције lf у (5.1). У овом раду поред вишеслојног перцептрона за нелинеарно пресликавање узрочних величина у хоризонтално радијално померање бране се користи неуро-фази систем (сл. 5.5). Моделирана вредност хоризонталних померања тачака бране применом вишеслојно перцептрона је:    MLPmhp l MLPy f F  (5.4) Модел хоризонталних померања тачака бране добијен применом неуро-фази система је:    ANFISmhp l ANFISy f F  (5.5) где је:  F – вектор предиктора, облика           2 3 4 2, , , , , , cos ,sin ,sin ,sin costh h h h e t d d d d dF  MLP – вектор непознатих параметара модела (вишеслојног перцептрона)  ANFIS –вектор непознатих параметара неуро-фази система Улази у неуронску мрежу и неуро-фази систем, тј. избор променљивих iF , могу се остварити неком од метода описаних у поглављу 4 или на бази резултата добијених моделирањем индикатора понашања бране применом метода вишеструке линеарне регресије [122]. Ranković et al. [123] моделирање релативног померања лучне бране базирају на примени метода вишеструке линеарне регресије, адаптивног неуро-фази система и вишеслојног перцептрона. Ranković et al. [124] користе метод вишеструке линеарне регресије и RBF неуронску мрежу за предикцију релативног радијалног померања лучне бране и показују предности примене RBF мрежа у идентификацији сложених нелинеарних веза између улазних и излазних променљивих. RBF мреже су универзални апроксиматори функција [25-27] као и вишеслојни перцептрон. Мада RBF неуронске мреже имају већи број неурона у скривеном слоју лакше се обучавају од вишеслојног перцептрона [25]. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 81 Сл. 5.4. Вишеслојни перцептрон за пресликавање узрочних величина у хоризонтално радијално померање бране. Структура фази система са сл. 5.5 је слична структури RBF неуронске мреже. Јаng & Sun [125] детаљно пореде ова два система. Закључено је да постоји функционална еквива- лентност ако: 1. је број невидљивих јединица RBF мреже једнак броју лингвистичких правила код фази система, 2. су код фази система функције последица константне, 3. се изаберу Гаусове функције припадности примарних фази скупова, 4. се за одређивање Т-норме код фази система користи алгебарски производ, 5. је праг активације излазног неурона код RBF мреже нула. Примена поступка параметарске индентификације нелинеарних система у моделирању хоризонталних померања тачака бране предложена у овом раду se базира на примени неуронских мрежа (сл. 5.6) и неуро-фази система [126] (сл. 5.7) за апроксимацију функције mf у (5.2). Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 82 Сл. 5.5. Неуро-фази систем за пресликавање узрочних величина у хоризонтално радијално померање бране. Моделирана вредност хоризонталних померања тачака бране применом вишеслојног перцептрона је:       ,MLPmhp m MLPy k f k   (5.6) Идентификациони модел хоризонталних померања тачака бране добијен применом неуро-фази система је:       ,ANFISmhp m ANFISy k f k   (5.7) где је:     MLPmhpy k – моделирана вредност релативног хоризонталног померања бране у тренутку k применом вишеслојног перцептрона,     ANFISmhpy k – моделирана вредност релативног хоризонталног померања бране у тренутку k применом АНФИС-а,   k – регресиони вектор, облика: Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 83                          11 1 1 1 , 2 ,..., , 1 , 2 ,..., , 1 , 2 ,..., ,..., 1 , 2 ,..., r hp hp hp hp h T r r r T k y k y k y k n h k h k h k n T k T k T k n T k T k T k n                 hpy k i – измерена вредност хоризонталног померања у тренутку k i ,   h k i – ниво воде у акумулацији у тренутку k i ,   iT k i – температура у i-тој тачки у тренутку k i ,  hpn – број претходних мерених вредности хоризонталног померања,  hn – број претходних мерених вредности нивоа воде у акумулацији,  Tin – број претходних вредности измерене температуре iT . Kao & Loh [127] користе ауто-асоцијативну неуронску мрежу за моделирање померања бране. У раду је применом поступка параметарске индентификације нелинеарних система и NARX структуре модела формиран модел померања 13 тачака бране. Хидростатичко оптерећење има већи утицај на померања од термичког оптерећења, па се као улази у модел узимају само претходне измерене вредности нивоа воде у акумулацији [127]. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 84 Сл. 5.6. NARX структура модела за идентификацију хоризонталног померања применом вишеслојног перцептрона. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 85 Сл. 5.7. NARX структура модела за идентификацију хоризонталног померања применом ANFIS-а. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 86 5.3. Технике рачунарске интелигенције у моделирању и идентификацији нивоа воде у пијезометрима Најопштији облик статистичког модела за предикцију нивоа воде у пијезометрима [118] је:    , , ,MLRmnp mnph mnpQ mnpd mnpty h Q t d y y y y    (5.8) где је:  mnphy - утицај нивоа воде у акумулацији на нивое у пијезометрима,  mnpQy -утицај падавина,  mnpdy - сезонски термални ефекти,  mnpty - дуготрајни ефекти. За сваки инструмент би требало формирати посебан модел у зависности од његове локације. Највећи утицај на нивое у пијезометрима имају ниво воде у акумулацији и падавине. Посебно велики проблем код формирања статистичког модела је узимање у обзир кумулативног дејства и одређивање времена кашњења обе узрочне променљиве. На пример, за два пијезометра у насутој брани ХЕ ЂЕРДАП II постоји висок степен корелације нивоа доње воде са измереним вредностима у пијезометрима. Статистички модел може да узме у обзир само утицај нивоа доње водe [128]:   0 1 1 22 33 MLR mnp mnph ht ht hty y         (5.9) где су: 1 2 3, ,ht ht ht - коте доње воде дан, два дана пре и три дана пре мерења пијезометра, респективно. Вектор предиктора статистичког модела је:         1 2 3 1 2 3, , , ,h F h F h F h ht ht ht F (5.10) У општем случају вектор предиктора статистичког модела за предикцију нивоа воде у пијезометрима, који су последица утицаја нивоа у акумулацији, може да се представи у следећем облику:       1 2, ,...,h hF h F h F hF (5.11) Crepon & Lino [129] предлажу једноставан метод за одређивање mnpQy узимањем кумулативних падавина претходних десет дана. Поред овог метода, у литератури [130,131] се за одређивање mnpQy предлаже узимање кумулативних падавина претходних четрнаест дана или претходних седам дана у протекле четири недеље:       4 7 5 5 6 6 7 8 7 1 1 1 , n n n n n nmnpQ k k k n j k k j y d p d p p d p p p Q             (5.12) где су id непознати параметри кoји треба да буду естимирани. Општи облик вектора предиктора статистичког модела за предикцију нивоа воде у пијезометрима, који су последица утицаја падавина је: Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 87       1 2, ,...,h hQ h qF Q F Q F Q  F (5.13) Bonelli & Royet [132] предлажу да се утицај сезонских термалних ефеката моделира са:    1 1 2 2sin sinmnpd h q h qy d d            (5.14) где су 1 и 2 константе које узимају у обзир кашњење. Дуготрајни ефекти могу бити моделирани коришћењем једначине: 3 4 t mnpt h q h qy e t          (5.15) Bonelli & Royet [132], анализирају утицај нивоа воде у акумулацији и падавина на ниво у пијезометрима код насуте бране (сл. 5.8), табела 1. Табела 1. Утицај нивоа воде у акумулацији и падавина на ниво воде у пијезометрима, [132]. Пијезометар Утицај нивоа воде у акумулацији Утицај падавина PD1 87% 6% PD2 53% 6% PD3 21% 6% PD4 17% 45% PD5 12% 54% PD6 24% 46% PD7 86% 10% PD8 21% 49% PG1 88% 6% PG2 73% 9% PG3 23% 36% PG4 16% 49% PG5 32% 31% Из табеле се види да од локације пијезометара зависи однос утицаја нивоа у акумулацији и падавина на одзив. У овој дисертацији је линеарно пресликавање предиктора у нивое воде у пијезометрима замењено нелинеарним применом вишеслојног перцептрона [128] (сл. 5.9) и неуро-фази система [133] (сл. 5.10). Моделирана вредност нивоа воде у пијезометру применом вишеслојног перцептрона је:    MLPmnp l MLPy f F  (5.16) Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 88 Моделирана вредност нивоа воде у пијезометру добијена применом неуро-фази система је:    ANFISmnp l ANFISy f F  (5.17) где је:  F – вектор предиктора, облика:                 1 2 1 1 22, ,..., , ,., sin ,sin ,.., ,,h h h h q tF h F h F h F Q F Q F Q d d e t     F ,  MLP – вектор непознатих параметара модела (вишеслојног перцептрона),  ANFIS – вектор непознатих параметара неуро-фази система. Сл. 5.8. Положаји пијезометара на Chamboux брани (Француска), [132]. Избор вектора предиктора може да се оствари неком од метода описаних у погл. 4 или на бази резултата добијених моделирањем нивоа у пијезометрима применом метода вишеструке линеарне регресије. Примена поступка параметарске индентификације нелинеарних система у моделирању нивоа воде у пијезометрима, предложена у овом раду, се базира на примени неуронских мрежа (сл. 5.11) и неуро-фази система (сл. 5.12) за апроксимацију функције mf у (5.2). Највећи утицај на нивое у пијезометрима имају ниво воде у акумулацији и падавине па се ове две променљиве могу узети као улази у идентификациони модел. За моделирање нивоа у пијезометрима који се налазе у насутој брани узеће се у обзир само ниво у акумулацији као улазна променљива, док за друге који су на обали могу да буду разматране и падавине као улази. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 89 Сл. 5.9. Вишеслојни перцептрон за пресликавање узрочних величина у нивое воде у пијезометрима. Моделирана вредност нивоа воде у пијезометрима применом вишеслојног перцептрона је:       ,MLPmnp m MLPy k f k   (5.18) Идентификациони модел нивоа воде у пијезометрима добијен применом неуро-фази система је:       ,ANFISmnp m ANFISy k f k   (5.19) где је:     MLPmnpy k – моделирана вредност нивоа воде у пијезометру у тренутку k применом вишеслојног перцептрона,     ANFISmnpy k – моделирана вредност нивоа воде у пијезометру у тренутку k применом ANFIS-а,   k – регресиони вектор, облика: Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 90                     1 , 2 ,..., , 1 , 2 ,..., , 1 , 2 ,..., np np np np h Q k y k y k y k n h k h k h k n Q k Q k Q k n            ,   npy k i – измерена вредност нивоа воде у пијезометру у тренутку k i ,   h k i – ниво воде у акумулацији у тренутку k i ,   Q k i – падавине у тренутку k i ,  npn – број претходних мерених вредности нивоа воде у пијезометру,  hn – број претходних мерених редности нивоа воде у акумулацији,  Qn – број претходних мерених вредности падавина. Сл. 5.10. Неуро-фази систем за пресликавање узрочних величина у нивое воде у пијезометрима. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 91 Сл. 5.11. NARX структура модела за идентификацију нивоа воде у пијезометру применом вишеслојног перцептрона. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 92 Сл. 5.12. NARX структура модела за идентификацију нивоа воде у пијезометру применом АNFIS-а. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 93 6. Одређивање перформанси модела и дискусија резултата Предложени приступи идентификације индикатора понашања бране, базирани на неуронским мрежама и неуро-фази системима, су примењени за моделирање релативног радијалног померања бране Бочац и нивоа воде у пијезометрима брана Ђердап II и Првонек. Неуронске мреже имплементиране су коришћењем програмског језика Јаva и библиотеке Еncog [109]. За имплементацију неуро-фази система коришћенe су класе и функције садржане у Fuzzy Logic Toolbox додатку за програмски пакет Маtlab. Формирање неуро и неуро-фази модела индикатора понашања бране се ослања на напредни систем техничког осматрања тј. временске серије мерења релевантних величина. Параметарска идентификација индикатора понашања бране подразумева да временске серије података које представљају улазне или излазне променљиве модела буду комплетне (без недостајућих измерних вредности). Проста елиминација недостајућих података може да проузрокује значајан губитак потенцијално важних информација и деградацију перформанси модела. Недостајући мерни подаци су генерисани коришћењем класа и функција садржаних у Amelia II библиотеци за R програмски језик [134]. Такође сви подаци су анализирани и применом поступка Box технике остварена је валидација мерења у циљу откривања аутлајера који могу да имају негативан утицај на тачност и поузданост модела. Поступци надомештања недостајућих података и откривања аутлајера су примењени у процесу препроцесирања мерења, пре креирања свих модела чије су перформансе приказане у овом поглавњу. Вектори улаза и излаза неуронских мрежа су нормализовани у интервалу  0.1,0.9 . За нормализацију је коришћена линеарна трансформација којом се вредност zn скалира тако да њене вредности из интервала  min max,zn zn буду пребачене у интервал  ,l hzn zn :     min max min h l l zn zn zn zn f zn zn zn zn      (6.1) Оцена квалитетa добијених модела је остварена израчунавањем корелационог коефицијента (r), средње апсолутне грешке (MAE) и средње квадратне грешке (MSE):             4 2 2 4 4 r N m m k N N m m k k y k y y k y y k y y k y            (6.2)     4 1MAE N m k y k y k N    (6.3)     2 4 1MSE N m k y k y k N    (6.4) где: my и y означавају моделирану и измерену вредност индикатора понашања, my и y означавају њихове средње вредности, респективно, и N број мерења. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 94 6.1. Моделирање и идентификација релативних хоризонталних померања применом неуронских мрежа и неуро-фази система 6.1.1. Брана Бочац - основни подаци о брани. Мерење релативног хоризонталног померања Брана Бочац (сл. 6.1) изграђена је на самом завршетку кањона реке Врбас, непосредно узводно од Бочачког поља. Преградни профил се налази на 109+450 km тока Врбаса. Поризводња електричне енергије у истоименој прибранској електрани представља основну намену бране. Радови на изграњи бране започети су 1976. године. Брана је завршена и пуштена у пробни рад 1981. године. Сл. 6.1. Брана Бочац. Основни подаци о брани су: Кота круне бране: 286.0 mnm Кота максималног успора: 283.0 mnm Кота нормалног успора: 282.0 mnm Кота минималног радног нивоа: 254.0 mnm Максимална грађевинска висина: 66.0 m Максимална висина бране од терена: 62.0 m Дебљина лука у круни: 3-13 m Дебљина лука у темељу: 3-14.4 m Дужина по круни: 221.4 m Укупна запремина акумулације: 52.7 мил. 3m Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 95 Брана Бочац је лучна бетонска брана са двојном кривином, која је радијалним спојницама подељена на 15 блокова дужине 10-17 m и спојницама између блокова на свака 2 m висине. Предложеним поступцима моделирања параметарске индентификације нелинеарних система формирани су модели за релативна радијална хоризонтална померања. На брани су инсталирана 3 нормална виска у три попречна пресека бране (блок 5 – висак V5, блок 8 – висак V8 и блок 10 – висак V10. Сваки од три нормална координатна виска има три мерна нивоа у којима су постављени правоугли координометри – у контролној галерији и на котама 252.0 и 268.0 м.н.в. у нишама на нивоу доње и горње пасареле. Локација вискова дата је на сл. 6.2. и сл. 6.3. Вискови су механички са правоуглим координометрима. Сва три виска су у нормалном – радном стању. Сл. 6.2. Положај вискова за мерење релативних хоризонталних померања бране. Ремонт свих девет постојећих механичких координометара, фарбање и антикорозиона заштита осталих делова конструкције координатних вискова (носачи координометара, тегови, посуде и др.) извршен је у току 2009. године. На пет локација у брани уграђени су, конфигурисани и повезани са даталогером аутоматски телеметријски координометри. Телекоординометри су уграђени изнад постојећих механичких координометара: у галерији у блоковима 5, 8 и 10 (ознаке V5-1, V8-1 и V10-1), као и у нишама у блоку 8 на доњој и горњој пасарели (ознаке V8-2 и V8-3). Преко УПС-а су сви телекоординометри прикључени на напонску мрежу, што им омогућава неометан рад и у случајевима привременог прекида напајања. Оријентације координатних оса и координатни почетак телекоординометара су усаглашени са одговарајућим мануелним координометрима. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 96 Сл. 6.3. Положај вискова у попречним пресецима бране. 6.1.2. Надомештање недостајућих података За формирање модела искоришћени су скупови података мерења узрочних величина и релативних хоризонталних померања од 01.01.2002. до 11.09.2009. године. Тестирање модела је извршено мерним подацима од 12.09.2009. до 31.12.2012. године. У наведеном временском интервалу, сваки од скупова имао је по 4018 података свакодневних мерења, при чему је у сваком скупу, у просеку, било по 1.5% недостајућих мерења. Како квалитет модела зависи од квалитета података, извршена је естимација недостајућих мерења коришћењем методе вишеструке импутације, описане у погл. 3.4. За оцењивање квалитета генерисаних података коришћене су различите визуелне технике за анализу података. Поређење густине расподеле естимираних и мерених података је једна од техника детаљно објашњена у [135]. Због природе недостајућих података (мерења која недостају могу се у значајној мери разликовати од већ постојећих мерења) важно је напоменути да не треба очекивати потпуно поклапање ових расподела. У случају да густина расподеле естимираних података у великој мери одступа од густине Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 97 расподеле мерених података, закључује се да модел за естимацију није добар, након чега је неопходно извршити његову поновну калибрацију. На сл. 6.4 и сл. 6.5, приказани су дијаграми поређења густине расподеле естимираних и мерених података за ниво воде у акумулацији и релативна радијална хоризонтална померања тачке V8-1. Густина расподеле естимираних података обележена је црвеном бојом, а мерених података црном бојом. Друга техника се базира на OI (Overimputation) дијаграму који представља један облик дијаграма расипања и користи се за оцену фитовања естимираних вредности [134]. На сл. 6.6, дат је OI (Overimputation) дијаграм, релативних радијалних хоризонталних померања тачке V8-1. На дијаграму, линија y x представља линију савршеног поклапања естимираних и мерених вредности (ако би модел савршено естимирао недостајуће вредности, све тачке би се налазиле на овој линији). Такође, на дијаграму је приказан 90%- ни интервал поверења естимираних података, на основу кога се може извршити визуелна анализа понашања модела за естимацију података који недостају. Последња техника коришћена у анализи недостајућих података се заснива на дијаграму временских серија. На сл. 6.7 је приказан дијаграм временских серија релативних радијалних хоризонталних померања тачке V8-1 за 2010. годину. Црвеном бојом означене естимиране вредности, док су мерене вредности означене црном бојом. Сл. 6.4. Дијаграм поређења густине расподеле естимираних и мерених података нивоа воде у акумулацији. ─ Естимирано ─ Мерено Ниво воде у акумулацији (m) Г ус ти н а ра сп од ел е Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 98 Сл. 6.5. Дијаграм поређења густине расподеле естимираних и мерених података релативних радијалних хоризонталних померања тачке V8-1. Сл. 6.6. OI дијаграм релативних радијалних хоризонталних померања тачке V8-1. ─ Естимирано ─ Мерено Хоризонтална померања тачке V8-1 (mm) Г ус ти н а ра сп од ел е Мерене вредности (mm) E ст и м и ра н е вр ед н ос ти ( m m ) Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 99 Сл. 6.7. Дијаграм временских серија релативних радијалних хоризонталних померања тачке V8-1. 6.1.3. Статистички модели за предикцију релативних радијалних померања бране Бочац Модели за предикцију радијалних померања су формирани за све тачке означене на сл. 6.2. У раду су детањно приказани модели за тачке V5-1, V8-1 и V10-1. Статистички модели, добијени применом метода вишеструке линеарне регресије, за релативна радијална хоризонтална померања тачака V5-1, V8-1 и V10-1 су:         2 5 3 8 4 (V5 1) , , 0.0047 3.7192 10 7.3598 10 7.1805 cos 4.8044 sin MLR mhpy h t d h h h d d                (6.5)         2 5 3 7 4 (V8 1) , , 0.0127 +8.8177 10 1.5137 10 6.1273 cos 5.4828 sin MLR mhpy h t d h h h d d                (6.6) ● Естимирано ● Мерено Х ор и зо н та лн а п ом ер ањ а та ч к е V 8- 1 (m m ) Редни број дана у години Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 100         2 5 3 7 4 ( 10 1) , , 0.00689 5.348 10 1.0276 10 6.7878 cos 4.1168 sin MLR mhp Vy h t d h h h d d                (6.7) 6.1.4. Неуронске мреже и неуро-фази системи у моделирању и идентификацији релативних хоризонталних померања бране Бочац Оба предложена приступа, детањно објашњена у погл. 5.2, су примењена за моделирање релативних радијалних хоризонталних померања бране Бочац. Код првог приступа избор улаза у неуронску мрежу и неуро-фази систем се заснива на резултатима добијеним моделирањем индикатора понашања бране применом метода вишеструке линеарне регресије. Технике рачунарске интелигенције се користе за нелинеарно пресликавање предиктора у хоризонтално радијално померање бране, сл. 5.4 и сл. 5.5 (погл. 5). На основу (6.4), (6.5) и (6.6) се види да је     2 3 4, , , cos ,sinh h h d d вектор предиктора за моделe којимa се предвиђаjу померања тачака V5-1, V8-1 и V10-1. Одређивање оптималне димензије улазно-излазних модела подразумева решавање проблема оптимизације димензије регресионог вектора и броја параметара неуронске мреже или неуро-фази система. Решавање проблема оптимизације архитектуре неуронских мрежа, тј. одређивање оптималног броја неурона у њиховим скривеним слојевима остварено је применом IP алгоритма (погл. 3.5). Неуронске мреже које се користе за нелинеарно пресликавање предиктора у индикаторе понашања, а које су коришћене за предикцију релативних радијалних хоризонталних померања тачака бране Бочац, састоје се од 12 неурона у скривеном слоју. При томе, у процесу учења се адаптира 85 параметара, од чега 72 тежинска коефицијената и 13 прагова активације. Функције активације неурона у скривеном слоју су сигмоидалне, док је активациона функција неурона у излазном слоју линеарна. Број параметара неуро-фази система зависи од броја и облика функција припадности примарних фази скупова и у практичним примерима примене неуро-фази система бирају се методом пробе и грешке. Фази партиционирање улазног простора обављено је избором две функције припадности примарних фази скупова. У табели 6.1 приказан је утицај облика функција припадности на перформансе модела за померање V5-1. Из табеле се види да је двострана Гаусова функција оптималан облик функција припадности примарних фази скупова. Двострана Гаусова функција је комбинација две Гаусове функције. Прва је одређена параметрима  1Aij и  1Aijc , док другу дефинишу параметри  2Aij и  2Aijc . Исти облик функција припадности је изабран и за моделе за предикцију померања тачака V8-1 и V10- 1. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 101 Taбела 6.1. Утицај облика функције припадности примарних фази скупова ANFIS модела за предикцију релативног хоризонталног померања тачке V5-1. Облик функцијa припадности r MAE MSE скуп под. за трен. скуп под. за тест. скуп под. за трен. скуп под. за тест. скуп под. за трен. скуп под. за тест. троугаона 0.9769 0.9702 1.0673 1.2010 1.8414 2.35 трапезна 0.9771 0.971 1.0811 1.2522 1.8289 2.3134 Гаусова 0.9778 0.9631 1.0608 1.2511 1.7763 2.8744 Двострана Гаусова функција 0.9781 0.9735 1.0536 1.1008 1.7527 2.1514 Лингвистичке вредности предиктора 2h су означене са 11A , 21A , 3h са 12A , 22A , 4h са 13A , 23A ,  cos d са 14A , 24A и  sin d са 15A , 25A . Параметри Гаусових функција премиса модела за предикцију релативних хотизонталних померања тачака V5-1, V8-1 и V10-1 дати су у табелама 6.2, 6.3 и 6.4. Taбела 6.2. Параметри двостраних Гаусових функција премиса модела за предикцију релативног хотизонталног померања тачке V5-1. Преди- ктори Функције припадно- сти Параметри функција припадности 2h 11A        11 1 11 1 11 2 11 21.097; 6.761; 1.397; 2.682;A A A Ac c       21A        21 1 21 1 21 2 21 21.045; 0.0672; 1.097; 3.568;A A A Ac c     3h 12A        12 1 12 1 12 2 12 21.091; 6.705; 1.727; 2.689;A A A Ac c       22A        22 1 22 1 22 2 22 21.092; 0.1036; 1.091; 3.569;A A A Ac c      4h 13A        13 1 13 1 13 2 13 21.085; 6.649; 1.023; 2.772;A A A Ac c       23A        23 1 23 1 23 2 23 21.153; 0.2418; 1.085; 3.571;A A A Ac c       cos d 14A        14 1 14 1 14 2 14 20.4804; 2.263; 0.9221; 0.2623;A A A Ac c       24A        24 1 24 1 24 2 24 20.7092; 0.6715; 0.4804; 2.262;A A A Ac c      sin d 15A        15 1 15 1 15 2 15 20.4804; 2.262; 1.501; 0.8357;A A A Ac c       25A        25 1 25 1 25 2 25 21.326; 0.6629; 0.4804; 2.262;A A A Ac c     Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 102 Taбела 6.3. Параметри двостраних Гаусових функција премиса модела за предикцију релативног хотизонталног померања тачке V8-1. Преди- ктори Функције припадно- сти Параметри функција припадности 2h 11A        11 1 11 1 11 2 11 21.097; 6.761; 1.382; 2.701;A A A Ac c       21A        21 1 21 1 21 2 21 20.9678; 0.1134; 1.097; 3.568;A A A Ac c     3h 12A        12 1 12 1 12 2 12 21.091; 6.705; 1.78; 2.674;A A A Ac c       22A        22 1 22 1 22 2 22 21.092; 0.122; 1.091; 3.569;A A A Ac c      4h 13A        13 1 13 1 13 2 13 21.085; 6.649; 0.9825; 2.757;A A A Ac c       23A        23 1 23 1 23 2 23 21.201; 0.2582; 1.085; 3.571;A A A Ac c       cos d 14A        14 1 14 1 14 2 14 20.4804; 2.263; 0.9074; 0.2045;A A A Ac c       24A        24 1 24 1 24 2 24 20.7094; 0.6193; 0.4804; 2.262;A A A Ac c      sin d 15A        15 1 15 1 15 2 15 20.4804; 2.262; 1.462; 0.8155;A A A Ac c       25A        25 1 25 1 25 2 25 21.393; 0.6243; 0.4804; 2.262;A A A Ac c     Taбела 6.4. Параметри двостраних Гаусових функција премиса модела за предикцију релативног хотизонталног померања тачке V10-1. Преди- ктори Функције припадно- сти Параметри функција припадности 2h 11A        11 1 11 1 11 2 11 21.097; 6.761; 1.412; 2.726;A A A Ac c       21A        21 1 21 1 21 2 21 21.034; 0.03515; 1.097; 3.568;A A A Ac c     3h 12A        12 1 12 1 12 2 12 21.091; 6.705; 1.695; 2.726;A A A Ac c       22A        22 1 22 1 22 2 22 21.12; 0.109; 1.09; 3.57;A A A Ac c      4h 13A        13 1 13 1 13 2 13 21.085; 6.649; 1.005; 2.724;A A A Ac c       23A        23 1 23 1 23 2 23 21.112; 0.2137; 1.085; 3.571;A A A Ac c       cos d 14A        14 1 14 1 14 2 14 20.4804; 2.263; 0.9509; 0.446;A A A Ac c       24A        24 1 24 1 24 2 24 20.6962; 0.6353; 0.4804; 2.262;A A A Ac c      sin d 15A        15 1 15 1 15 2 15 20.4804; 2.262; 1.159; 0.2418;A A A Ac c       25A        25 1 25 1 25 2 25 21.105; 0.7802; 0.4804; 2.262;A A A Ac c     Параметри функција последица  1 2 32... T    фази модела за предикцију померања тачaка V5-1, V8-1 и V10-1 дати су у табели 6.5. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 103 Taбела 6.5. Параметри функција последица фази модела за предикцију померања тачaка V5-1, V8-1 и V10-1. ANFIS модел тачка V5-1  [ – 3.306 1.264 –0.2042 1.496 6.777 –0.2799 –64.86 95.79 –28.58 8.549 65.03 –100.7 –55.64 60.24 69.51 6.778 15.32 – 9.243 28.74 –39.94 19.23 – 24.44 –30.04 –4.796 61.09 – 85.9 – 43.11 – 88.78 –3.364 2.527 0.1318 3.481]T ANFIS модел тачка V8-1  [ –3.538 0.7091 –0.556 2.018 26.63 –16.78 –50.48 75.18 –69.61 44.85 74.12 –102.2 –91.1 51.23 60.92 33.36 67.73 –49.29 –22.76 –30.8 34.03 – 20.97 –26.73 –13.27 106.7 –56.32 –43.16 –154.2 –4.508 2.417 0.8318 3.74] T ANFIS модел тачка V10-1  [ –2.381 0.5098 –0.9018 3.88 –24.94 36.44 –69.66 58.38 13.49 –14.32 55.77 –64.71 –66.7 55.52 66.42 44.9 16.21 –40.63 31.91 8.815 29.85 –27.39 –30.98 –20.51 97.62 –92.07 –22.79 –109.9 –3.057 2.536 0.2054 3.584] T ANFIS модели за предикцију померања тачака V5-1, V8-1 и V10-1садрже 32 правила: 1R : ако 2h је 11A и 3h је 12A и 4h је 13A и  cos d је 14A и  sin d је 15A тада: 1 1f  2R : ако 2h је 11A и 3h је 12A и 4h је 13A и  cos d је 14A и  sin d је 25A тада: 2 2f  3R : ако 2h је 11A и 3h је 12A и 4h је 13A и  cos d је 24A и  sin d је 15A тада: 3 3f  4R : ако 2h је 11A и 3h је 12A и 4h је 13A и  cos d је 24A и  sin d је 25A тада: 4 4f  5R : ако 2h је 11A и 3h је 12A и 4h је 23A и  cos d је 14A и  sin d је 15A тада: 5 5f  6R : ако 2h је 11A и 3h је 12A и 4h је 23A и  cos d је 14A и  sin d је 25A тада: 6 6f  7R : ако 2h је 11A и 3h је 12A и 4h је 23A и  cos d је 24A и  sin d је 15A тада: 7 7f  8R : ако 2h је 11A и 3h је 12A и 4h је 23A и  cos d је 24A и  sin d је 25A тада: 8 8f  9R : ако 2h је 11A и 3h је 22A и 4h је 13A и  cos d је 14A и  sin d је 15A тада: 9 9f  10R : ако 2h је 11A и 3h је 22A и 4h је 13A и  cos d је 14A и  sin d је 25A тада: 10 10f  11R : ако 2h је 11A и 3h је 22A и 4h је 13A и  cos d је 24A и  sin d је 15A тада: 11 11f  12R : ако 2h је 11A и 3h је 22A и 4h је 13A и  cos d је 24A и  sin d је 25A тада: 12 12f  13R : ако 2h је 11A и 3h је 22A и 4h је 23A и  cos d је 14A и  sin d је 15A тада: 13 13f  14R : ако 2h је 11A и 3h је 22A и 4h је 23A и  cos d је 14A и  sin d је 25A тада: 14 14f  15R : ако 2h је 11A и 3h је 22A и 4h је 23A и  cos d је 24A и  sin d је 15A тада: 15 15f  16R : ако 2h је 11A и 3h је 22A и 4h је 23A и  cos d је 24A и  sin d је 25A тада: 16 16f  17R : ако 2h је 21A и 3h је 12A и 4h је 13A и  cos d је 14A и  sin d је 15A тада: 17 17f  18R : ако 2h је 21A и 3h је 12A и 4h је 13A и  cos d је 14A и  sin d је 25A тада: 18 18f  19R : ако 2h је 21A и 3h је 12A и 4h је 13A и  cos d је 24A и  sin d је 15A тада: 19 19f  20R : ако 2h је 21A и 3h је 12A и 4h је 13A и  cos d је 24A и  sin d је 25A тада: 20 20f  21R : ако 2h је 21A и 3h је 12A и 4h је 23A и  cos d је 14A и  sin d је 15A тада: 21 21f  22R : ако 2h је 21A и 3h је 12A и 4h је 23A и  cos d је 14A и  sin d је 25A тада: 22 22f  Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 104 23R : ако 2h је 21A и 3h је 12A и 4h је 23A и  cos d је 24A и  sin d је 15A тада: 23 23f  24R : ако 2h је 21A и 3h је 12A и 4h је 23A и  cos d је 24A и  sin d је 25A тада: 24 24f  25R : ако 2h је 21A и 3h је 22A и 4h је 13A и  cos d је 14A и  sin d је 15A тада: 25 25f  26R : ако 2h је 21A и 3h је 22A и 4h је 13A и  cos d је 14A и  sin d је 25A тада: 26 26f  27R : ако 2h је 21A и 3h је 22A и 4h је 13A и  cos d је 24A и  sin d је 15A тада: 27 27f  28R : ако 2h је 21A и 3h је 22A и 4h је 13A и  cos d је 24A и  sin d је 25A тада: 28 28f  29R : ако 2h је 21A и 3h је 22A и 4h је 23A и  cos d је 14A и  sin d је 15A тада: 29 29f  30R : ако 2h је 21A и 3h је 22A и 4h је 23A и  cos d је 14A и  sin d је 25A тада: 30 30f  31R : ако 2h је 21A и 3h је 22A и 4h је 23A и  cos d је 24A и  sin d је 15A тада: 31 31f  32R : ако 2h је 21A и 3h је 22A и 4h је 23A и  cos d је 24A и  sin d је 25A тада: 32 32f  Перформансе модела за предикцију релативних хотизонталних померања тачака V5-1, V8-1 и V10-1 приказане су у табели 6.6. Taбела 6.6. Перформансе модела за предикцију релативних хоризонталних померања. Xоризонтална померања тачака r MAE MSE скуп под. за трен. скуп под. за тест. скуп под. за трен. скуп под. за тест. скуп под. за трен. скуп под. за тест. V5-1 MLR модел 0.974 0.9733 1.2185 1.1977 2.3082 2.1961 V5-1 MLP модел 0.9774 0.9724 1.0608 1.1059 1.0608 2.2143 V5-1 ANFIS модел 0.9781 0.9735 1.0536 1.1008 1.7527 2.1514 V8-1 MLR модел 0.9688 0.973 1.2645 1.3186 2.8155 2.7084 V8-1 MLP модел 0.9711 0.9744 1.1456 1.1775 2.1177 2.0708 V8-1 ANFIS модел 0.9729 0.975 1.1068 1.2295 1.9906 2.308 V10-1 MLR модел 0.9693 0.9687 1.6617 1.7564 3.9373 4.6125 V10-1 MLP модел 0.9732 0.9701 1.0609 1.1414 1.8142 1.976 V10-1 ANFIS модел 0.9835 0.978 1.0575 1.1858 1.7951 2.1926 Из табеле 6.6 се види да су веће вредности коефицијената корелације и мање грешке ANFIS и MLP модела за предикцију хоризонталних померања у поређењу са вредностима перформанси MLR модела. Када се MLR модел за предкцију померања V5-1 тестира са подацима померања добијеним са телекоординометара коефицијент корелације је 0.9737, средња апсолутна грешка 1.1717, средња квадратна грешка 2.0454. Коефицијент корелације је 0.974, средња апсолутна грешка 1.1636, средња квадратна грешка 2.0028 када се АNFIS модел за предкцију померања V5-1 тестира са померањима измереним телекоординометрима. Уколико се над подацима измереним телекоординометром тестира MLР модел за предикцију померања V5-1, тада коефицијент корелације, средња апсолутна и средња квадратна грешка износе редом 0.9741, 0.543 и 1.0167. Када се MLR модел за предкцију Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 105 померања V8-1 тестира са подацима померања добијеним са телекоординометара коефицијент корелације је 0.9668, средња апсолутна грешка 1.653, средња квадратна грешка 4.03. Коефицијент корелације је 0.9668, средња апсолутна грешка 1.3557, средња квадратна грешка 2.7857 када се АNFIS модел за предкцију померања V8-1 тестира са померањима измереним телекоординометрима. Уколико се над подацима измереним телекоординометром. тестира MLР модел за предикцију померања V8-1, тада коефицијент корелације, средња апсолутна и средња квадратна грешка износе редом 0.9686, 1.3515 и 2.785. Када се подаци померања добијени са телекоординометара користе за тестирање MLR модела за предкцију померања V10-1 тада је коефицијент корелације 0.9667, средња апсолутна грешка 1.6817 и средња квадратна грешка 4.11. Коефицијент корелације је 0.981, средња апсолутна грешка 1.6516, средња квадратна грешка 2.2019 када се АNFIS модел за предкцију померања V10-1 тестира са померањима измереним телекоординометрима. Уколико се над подацима измереним телекоординометром тестира MLР модел за предикцију померања V10-1, тада коефицијент корелације, средња апсолутна и средња квадратна грешка износе редом 0.9724, 1.1639 и 1.94. Модели приказани у табели 6.6 су тестирани са подацима добијеним са механичких координометара. Разлика коефицијената корелације, средњих апсолутних грешака и средињих квадратних грешака, када се модели тестирају подацима измереним телекоординометрима и механичким координометрима је мала. На сл. 6.8 и сл. 6.9 приказанe су мерене вредности радијаног хоризонталног померања тачаке V5-1, као и вредности моделиране применом вишеслојног перцептрона и неуро- фази система. Сл. 6.8. Мерене вредности радијаног хоризонталног померања тачаке V5-1 и вредности моделиране применом вишеслојног перцептрона. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 106 Сл. 6.9. Мерене вредности радијаног хоризонталног померања тачаке V5-1 и вредности моделиране применом ANFIS-a. Мерене вредности хоризонталног померања тачаке V8-1, као и вредности моделиране применом вишеслојног перцептрона и неуро-фази система приказана су на сл. 6.10 и сл. 6.11. Сл. 6.10. Мерене вредности радијаног хоризонталног померања тачаке V8-1 и вредности моделиране применом вишеслојног перцептрона. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 107 Сл. 6.11. Мерене вредности радијаног хоризонталног померања тачаке V8-1 и вредности моделиране применом ANFIS-a. На сл. 6.12 и сл. 6.13 приказане су мерене вредности хоризонталног померања тачаке V10-1, као и вредности моделиране применом вишеслојног перцептрона и ANFIS-a. Сл. 6.12. Мерене вредности радијаног хоризонталног померања тачаке V10-1 и вредности моделиране применом вишеслојног перцептрона. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 108 Сл. 6.13. Мерене вредности радијаног хоризонталног померања тачаке V10-1 и вредности моделиране применом ANFIS-a. Поступком параметарске индентификације нелинеарних система (сл. 5.6 и сл. 5.7) моделирана су хоризонтална померања свих тачака означених на сл. 6.2. У раду су детаљно приказани модели за тачке V5-1, V8-1 и V10-1. Хидростатичко оптерећење има већи утицај на померања од термичког оптерећења, па се као улази у NARX моделе узимају само претходне измерене вредности нивоа воде у акумулацији, Kao & Loh [122]. У општем случају улази у NARX моделе за хоризонтална померања, узимањем у обзир само ниво воде у акумулацији за узрочну величину (термални ефекти су узети у обзир преко претходних вредности померања као улаза у модел), су:               1 , 2 ,..., , 1 , 2 ,...,hp hp hp hp hk y k y k y k n h k h k h k n       (6.8) Оптимизација димензије регресионог вектора је важан корак у параметарској идентификацији релативних хоризонталних померања. У овом раду користи се Jang [90] метод за одређивање најутицајнијих регресора. Ако се при параметарској идентификацији хоризонталних померања тачака V5-1, V8- 1 и V10-1 регресиони вектори претпоставе у облику:               1 , 2 , 3 , 4 , 1 , 2hp hp hp hpk y k y k y k y k h k h k       (6.9) тада за одређивање једне најутицајније претходне вредности узрочно променљиве и три претходне вредности померања треба креирати 6 модела. Процес учења се зауставља после 100 епоха и модел са најмањом грешком: MSERMSE  (6.10) Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 109 се бира као оптималан. У табели 6.7 дате су вредности RMSE за моделе са различитим регресионим векторима за предикцију релативног хоризонталног померања тачке V5-1. Из табеле се види да модел са регресионим вектором:           1 , 2 , 3 , 1hp hp hpk y k y k y k h k     (6.11) има најмању вредност корена средње квадратне грешке после 100 епоха процеса учења. Истим поступком је утврђено да су      1 , 2 , 3hp hp hpy k y k y k   и  1h k  оптимални регресори NARX модела за предикцију померања тачака V8-1 и V10-1. Taбела 6.7. Избор регресора NARX модела за предикцију релативног хоризонталног померања тачке V5-1. Регресори NARX модела за предикцију померања тачке V5-1 RMSE    1 , 2hp hpy k y k  ,  3 ,hpy k   1h k  1.26695    1 , 2hp hpy k y k  ,  3 ,hpy k   2h k  1.28039    1 , 2hp hpy k y k  ,  4 ,hpy k   1h k  1.28002    1 , 2hp hpy k y k  ,  4 ,hpy k   2h k  1.29327        2 , 3 , 4 , 1hp hp hpy k y k y k h k    1.72161        2 , 3 , 4 , 2hp hp hpy k y k y k h k    1.70187 Фази партиционирање улазног простора обављено је избором 2 функције припадности примарних фази скупова. Параметри Гаусових функција премиса модела за предикцију релативног хотизонталног померања тачака V5-1, V8-1 и V10-1 дати су у табелама 6.8, 6.9 и 6.10. Taбела 6.8. Параметри двостраних Гаусових функција премиса модела добијеног методом параметарске индентификације за предикцију релативног хотизонталног померања тачке V5-1. Улазни преди- ктори Функције припадно- сти Параметри функција припадности  1hpy k  11 A        11 1 11 1 11 2 11 23.958; 13.79; 6.38; 1.89;A A A Ac c      21A        21 1 21 1 21 2 21 27.106; 10.76; 3.958; 23.49;A A A Ac c      2hpy k  12A        12 1 12 1 12 2 12 23.958; 13.79; 2.532; 1.024;A A A Ac c       22A        22 1 22 1 22 2 22 24.726; 9.03; 3.958; 23.49;A A A Ac c      3hpy k  13A        13 1 13 1 13 2 13 23.958; 13.79; 4.481; 1.147;A A A Ac c       23A        23 1 23 1 23 2 23 21.959; 6.792; 3.958; 23.49;A A A Ac c      1h k  14 A        14 1 14 1 14 2 14 21.699; 269.2; 2.574; 277.1;A A A Ac c     24A        24 1 24 1 24 2 24 22.961; 279.4; 1.699; 285.2;A A A Ac c     Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 110 Taбела 6.9. Параметри двостраних Гаусових функција премиса модела добијеног методом параметарске индентификације за предикцију релативног хотизонталног померања тачке V8-1. Улазни преди- ктори Функције припадно -сти Параметри функција припадности  1hpy k  11A        11 1 11 1 11 2 11 23.941; 11.06; 7.012; 1.75;A A A Ac c      21A        21 1 21 1 21 2 21 27.447; 11.85; 3.941; 26.06;A A A Ac c      2hpy k  12A        12 1 12 1 12 2 12 23.941; 11.06; 5.944; 3.988;A A A Ac c      22A        22 1 22 1 22 2 22 23.637; 11.95; 3.941; 26.06;A A A Ac c      3hpy k  13A        13 1 13 1 13 2 13 23.975; 11.12; 4.647; 3.92;A A A Ac c      23A        23 1 23 1 23 2 23 24.649; 12.15; 3.975; 26.32;A A A Ac c      1h k  14 A        14 1 14 1 14 2 14 21.699; 269.2; 1.445; 276.9;A A A Ac c     24A        24 1 24 1 24 2 24 23.137; 278.6; 1.699; 285.2;A A A Ac c     Taбела 6.10. Параметри двостраних Гаусових функција премиса модела добијеног методом параметарске индентификације за предикцију релативног хотизонталног померања тачке V10-1. Улазни преди- ктори Функције припадно- сти Параметри функција припадности  1hpy k  11A        11 1 11 1 11 2 11 23.771; 19.06; 5.935; 5.333;A A A Ac c       21A        21 1 21 1 21 2 21 25.912; 2.247; 3.771; 16.46;A A A Ac c      2hpy k  12A        12 1 12 1 12 2 12 23.771; 19.06; 1.865; 6.612;A A A Ac c       22A        22 1 22 1 22 2 22 22.708; 3.239; 3.771; 16.46;A A A Ac c      3hpy k  13A        13 1 13 1 13 2 13 23.771; 19.06; 5.113; 5.414;A A A Ac c       23A        23 1 23 1 23 2 23 24.146; 2.563; 3.771; 16.46;A A A Ac c      1h k  14 A        14 1 14 1 14 2 14 21.699; 269.2; 2.458; 275.7;A A A Ac c     24A        24 1 24 1 24 2 24 20.8888; 279.3; 1.699; 285.2;A A A Ac c     Параметри функција последица фази модела за предикцију померања тачака V5-1, V8- 1 и V10-1,  1 2 16... T    , дати су у табели 6.11. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 111 Taбела 6.11. Параметри функција последица фази идентификационог модела за предикцију померања тачaкa V5-1, V8-1 и V10-1. ANFIS модел тачка V5-1  [ –8.108 –5.981 40.47 –29.92 –15.6 –11.29 –4.242 –8.065 37.55 16.1 – 85.82 84.81 43.48 19.01 17.67 16.88 ]T ANFIS модел тачка V8-1  [ –7.263 –5.634 –13.8 0.839 –10.38 –16.85 –14.51 –9.988 31.31 19.55 32.14 11.03 20.11 26.33 19.4 19.62] T ANFIS модел тачка V10-1  [ –13.56 –11.42 0.1558 –21.17 –15.54 –13.29 –15.78 –14.53 20.87 7.59 –21.48 25.25 18.26 9.173 9.161 9.113] T ANFIS модели за предикцију померања тачака V5-1, V8-1 и V10-1 садрже16 правила: 1R : ако  1hpy k  је 11A и  2hpy k  је 12A и  3hpy k  је 13A и  1h k  је 14A тада: 1 1f  2R : ако  1hpy k  је 11A и  2hpy k  је 12A и  3hpy k  је 13A и  1h k  је 24A тада: 2 2f  3R : ако  1hpy k  је 11A и  2hpy k  је 12A и  3hpy k  је 23A и  1h k  је 14A тада: 3 3f  4R : ако  1hpy k  је 11A и  2hpy k  је 12A и  3hpy k  је 23A и  1h k  је 24A тада: 4 4f  5R : ако  1hpy k  је 11A и  2hpy k  је 22A и  3hpy k  је 13A и  1h k  је 14A тада: 5 5f  6R : ако  1hpy k  је 11A и  2hpy k  је 22A и  3hpy k  је 13A и  1h k  је 24A тада: 6 6f  7R : ако  1hpy k  је 11A и  2hpy k  је 22A и  3hpy k  је 23A и  1h k  је 14A тада: 7 7f  8R : ако  1hpy k  је 11A и  2hpy k  је 22A и  3hpy k  је 23A и  1h k  је 24A тада: 8 8f  9R : ако  1hpy k  је 21A и  2hpy k  је 12A и  3hpy k  је 13A и  1h k  је 14A тада: 9 9f  10R : ако  1hpy k  је 21A и  2hpy k  је 12A и  3hpy k  је 13A и  1h k  је 24A тада: 10 10f  11R : ако  1hpy k  је 21A и  2hpy k  је 12A и  3hpy k  је 23A и  1h k  је 14A тада: 11 11f  12R : ако  1hpy k  је 21A и  2hpy k  је 12A и  3hpy k  је 23A и  1h k  је 24A тада: 12 12f  13R : ако  1hpy k  је 21A и  2hpy k  је 22A и  3hpy k  је 13A и  1h k  је 14A тада: 13 13f  14R : ако  1hpy k  је 21A и  2hpy k  је 22A и  3hpy k  је 13A и  1h k  је 24A тада: 14 14f  15R : ако  1hpy k  је 21A и  2hpy k  је 22A и  3hpy k  је 23A и  1h k  је 14A тада: 15 15f  16R : ако  1hpy k  је 21A и  2hpy k  је 22A и  3hpy k  је 23A и  1h k  је 24A тада: 16 16f  Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 112 Применом поступка параметарске индентификације нелинеарних система и вишеслојног перцептрона за апроксимацију нелинеарне функције моделирана су хоризонтална померања свих тачака означених на сл. 6.2. Неуронске мреже имају 4 улаза (      1 , 2 , 3hp hp hpy k y k y k   и  1h k  ), један излаз  hpy k и 7 неурона у скривеном слоју. Као активационе функције неурона скривеног и излазног слоја узете су сигмоидална и линеарна активациона функција, респективно. Укупан број параметара сваке мреже који се адаптирају у процесу учења износи 43, од чега 35 тежинских коефицијената и 8 прагова активација. Перформансе модела формираних поступком параметарске индентификације за предикцију релативних хоризонталних померања тачака V5-1, V8-1 и V10-1 приказане су у табели 6.12. Taбела 6.12. Перформансе модела формираних поступком параметарске индентификације за предикцију релативних хоризонталних померања. Xоризонтална померања тачака r MAE MSE скуп под. за трен. скуп под. за тест. скуп под. за трен. скуп под. за тест. скуп под. за трен. скуп под. за тест. V5-1 ANFIS модел 0.9855 0.9760 0.8502 1.0873 1.1426 1.8588 V5-1 MLP модел 0.9847 0.9775 0.8645 1.0411 1.2058 1.7399 V8-1 ANFIS модел 0.9861 0.9791 0.7772 1.0173 1.0178 1.6010 V8-1 MLP модел 0.9853 0.9801 0.7885 0.9722 1.0744 1.5270 V10-1 ANFIS модел 0.987 0.9784 0.8447 1.0758 1.2085 1.8132 V10-1 MLP модел 0.9811 0.973 0.8614 1.0369 1.2682 1.8068 На сл. 6.14 и сл. 6.15 приказане су мерене вредности радијаног хоризонталног померања тачаке V5-1, као и вредности моделиране методом параметарске индентификације и ANFIS-а и вишеслојног перцептрона за пресликавање регресионог простора у излазни простор модела. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 113 Сл. 6.14. Мерене вредности радијаног хоризонталног померања тачаке V5-1 и вредности моделиране методом параметарске индентификације и ANFIS за пресликавање регресионог простора у излазни простор модела. Сл. 6.15. Мерене вредности радијаног хоризонталног померања тачаке V5-1 и вредности моделиране методом параметарске индентификације и вишеслојног перцептрона за пресликавање регресионог простора у излазни простор модела. Мерене вредности радијаног хоризонталног померања тачаке V8-1, као и вредности моделиране методом параметарске индентификације и ANFIS-а и вишеслојног перцептрона за пресликавање регресионог простора у излазни простор модела приказане су на сл. 6.16 и сл. 6.17. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 114 Сл. 6.16. Мерене вредности радијаног хоризонталног померања тачаке V8-1 и вредности моделиране методом параметарске индентификације и ANFIS за пресликавање регресионог простора у излазни простор модела. Сл. 6.17. Мерене вредности радијаног хоризонталног померања тачаке V8-1 и вредности моделиране методом параметарске индентификације и вишеслојног перцептрона за пресликавање регресионог простора у излазни простор модела. На сл. 6.18 и сл. 6.19 приказане су мерене вредности радијаног хоризонталног померања тачаке V10-1, као и вредности моделиране методом параметарске индентификације и ANFIS-а и вишеслојног перцептрона за пресликавање регресионог простора у излазни простор модела. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 115 Сл. 6.18. Мерене вредности радијаног хоризонталног померања тачаке V10-1 и вредности моделиране методом параметарске индентификације и ANFIS за пресликавање регресионог простора у излазни простор модела. Сл. 6.19. Мерене вредности радијаног хоризонталног померања тачаке V10-1 и вредности моделиране методом параметарске индентификације и вишеслојног перцептрона за пресликавање регресионог простора у излазни простор модела. Перформансе модела за предикцију релативних радијалних хоризонталних померања тачака приказаних на сл. 6.2, формираних применом неуронских мрежа код којих је остварена нелинеарна пресликавања узрочних величина у индикаторе понашања, су приказане у табели 6.13. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 116 Taбела 6.13. Перформансе модела за предикцију релативних хоризонталних померања. Хоризонтална померања тачака r MAE MSE скуп под. за трен. скуп под. за тест. скуп под. за трен. скуп под. за тест. скуп под. за трен. скуп под. за тест. V5-2 MLP модел 0.9387 0.9066 0.4187 0.6727 0.2826 0.7291 V5-3 MLP модел 0.9741 0.9688 0.59 0.6843 0.5514 0.7394 V8-2 MLP модел 0.969 0.9669 0.8802 0.9892 1.2743 1.4945 V8-3 MLP модел 0.9592 0.9539 0.63 0.728 0.6371 0.8153 V10-2 MLP модел 0.9015 0.8996 0.4833 0.5168 0.3729 0.4432 V10-3 MLP модел 0.9678 0.7667 0.61 1.9828 0.5816 8.4326 У табели 6.14 дат је приказ перформанси модела формираних поступком параметарске индентификације за предикцију релативних хоризонталних померања. Taбела 6.14. Перформансе модела формираних поступком параметарске индентификације за предикцију релативних хоризонталних померања. Хоризонтална померања тачака r MAE MSE скуп под. за трен. скуп под. за тест. скуп под. за трен. скуп под. за тест. скуп под. за трен. скуп под. за тест. V5-2 MLP модел 0.9303 0.9084 0.4512 0.5317 0.3245 0.435 V5-3 MLP модел 0.9723 0.96 0.6024 0.7205 0.5862 0.8425 V8-2 MLP модел 0.9807 0.9763 0.6808 0.778 0.7887 1.0232 V8-3 MLP модел 0.9722 0.9667 0.5125 0.5806 0.434 0.5567 V10-2 MLP модел 0.9104 0.8671 0.4448 0.2362 0.3404 0.2128 V10-3 MLP модел 0.9687 0.9652 0.5909 0.7482 0.5752 0.8869 Сви NARX идентификациони модели, чије су перформансе приказане у табели 6.14, креирани су на бази петодневних мерења. Из табеле 6.14 се види да су релативно мањи коефицијенти корелација добијени за тачке V5-2 и V10-2. Формирањем модела на бази учесталијих мерења добијају се модели са бољим перформансама. Уколико се за тачку V5-2 формира NARX модел на бази дводневних мерења коефицијенти корелације на скупу за тренирање и тестирање су 0.949 и 0.924, респективно. За тачку V10-2 коефицијенти корелација NARX модела формираног на бази дводневних мерења за тренинг и тест скуп износе редом 0.9262 и 0.924. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 117 Детаљном анализом резултата приказаних у табелама 6.6 и 6.12, 6.13 и 6.14 може се закључити да: 1. Неуронске мреже и неуро фази система чији су улази предиктори статистичких модела, као и неуронске мреже и неуро-фази системи који се користе за апроксимацију нелинеарне функције у NARX структури модела могу да се обуче да са великом прецизношћу предвиђају хоризонтална радијална померања тачака бране. 2. Поступком параметарске индентификације нелинеарних система добијају се модели са бољим перформансама, међутим формирање ових модела подразумева да на располагању стоји скуп података код кога је временски интервал између два сукцесивна мерења хоризонталних померања и нивоа воде у акумулацији константан. 3. Избор периода одабирања утиче на тачност NАRX модела. NARX идентификациони модели за померање тачака V5-1, V8-1 и V10-1 су базирани на петодневним мерењима и помоћу њих је могуће предвидети вредност померања, на бази претходних мерења, наредних пет дана. Нека је, на пример, последњи дан мерења померања тачке V5-1 био 20.12.2012. У табели 6.15 су приказане прогнозиране вредности померања до 25.12. 2012. Из табеле се види да је грешка предикције мања од 5 %. Taбела 6.15. Предикција померања тачке V5-1 NARX моделом базираним на петодневним мерењима. Датум Прогноз. вред. хор. померања (мм) Мер. хор. померање пре 5 дана (мм) Мер. хор. померање пре 10 дана (мм) Мер. хор. померање пре 15 дана (мм) Ниво у акумулац. пре 5 дана (м) Грешка (%) 21.12.’12 10.1178 9.9 11.4 9.6 279.12 4.4411 22.12.’12 9.9545 10.1 11.6 10.2 280.516 3.0896 23.12.’12 10.1349 10.2 11.9 10.3 280.18 4.2813 24.12.’12 10.6395 10.6 10.6 11.2 279.374 0.3726 25.12.’12 10.5643 0.4 9.6 11.2 278.76 1.2681 Добијени резултати могу се упоредити са резултатима приказаним у литератури. За предикцију релативних радијалних хоризонталних померања, Маtа [117] користи метод вишеструке линеарне регресије и вишеслојни перцептрон. Коефицијенти корелације између измерених вредности и вредности моделираних методом вишеструке линеарне регресије су 0.97 и 0.98 у скуповима података за тренирање и тестирање, респективно. Применом вишеслојног перцептрона за нелинеарно пресликавање предиктора у померање корелациони коефицијенти за оба скупа података износе 0.98. De Sortis [10] користи статистичку анализу и структурну идентификацију за предикцију радијалних хоризонталних пиомерања тачака на крунама три бране. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 118 Статистичком анализом, коефицијенти корелација између моделираних и мерених вредности, над целим скупом података, варирали су између 0.877 и 0.933. Структурном идентификацијом добијени су бољи коефицијенти корелација и кретали су се између 0.933 и 0.988. Demirkaya [22], за предвиђање релативних радијалих хоризонталних померања користи три ANFIS модела. Коефицијенти корелација најбољег модела за скупове података за тренирање и тестирање износили су 0.9936 и 0.9996 респективно. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 119 6.2. Моделирање и идентификација нивоа воде у пијезометрима применом неуронских мрежа и неуро-фази система 6.2.1. Брана Ђердап II - основни подаци о брани. Мерење нивоа провирне воде у телу непреливне бране Главни објекат система ХЕПС Ђердап II (сл. 6.20) изграђен је на 862,800 km од ушћа Дунава и профилу Прахово – Островул Маре, 80 km низводно од ХЕ Ђердап I. Главни објекат чине 2 бродске преводнице, 2 електране, 2 непреливне бране, 2 преливне бране и пут преко бране. Гледано са десне обале, у главном кориту Дунава, налази се непрегледни насути део бране дужине 488,5 m, једна једностепена бродска преводница, преливни, бетонски део бране дужине 189 m и две електране дужине 327,5 m. На каналу који пресеца острво Маре, лоцирана је друга преводница. Преливни и насути део бране налази се у левом рукавцу Дунава. Сл. 6.20. Брана Ђeрдап II Основни подаци o брани: Кота круне бране: 43.5 mnm Кота максималног успора: 41.0 mnm Кота минималног радног нивоа: 39.70 mnm Максимална висина бране од терена: 20.5 m Ширинабране у круни: 5.8 m Дужина бране у круни: 1047 m Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 120 Нагиб узводне косине насуте бране: 1:3 Нагиб низводне косине насуте бране: 1:2.5 Укупна запремина акумулације: 716.5 мил. 3m Ниво провирне воде у телу непреливне бране мери се пијезометрима уграђеним у зони А, узводно и низводно од бетонског екрана, док се у зонама В и С мери само на низводном делу. Мерења се врше два пута месечно. Ranković et al. [123] и Novaković et al. [128] моделирају нивое у пијезометрима FP13 и FP29 који су уграђени у зони А, сл. 6.21. Податке од 1997. до 2005 користе за тренирање модела, док подацима прикупљеним током 2005. године тестирају формиране моделе. У овој дисертацији, за креирање модела коришћени су скупови података мерења узрочних величина и нивоа воде у пијезометрима од 2000. до 2007. године. Тестирање модела извршено је мерним подацима од 2008 до 2010. године. Сл. 6.21. Положај пијезометара FP13 и FP29. 6.2.2. Статистички модели за предикцију нивоа провирне воде у телу насуте бране објекта Ђердап II На ниво воде у пијезометру највећи утицај имају ниво воде у акумулацији и падавине, па би, у зависности од његове локације, за сваки пијезометар требало формирати засебан статистички модел. Код формирања модела посебно велики проблем представља узимање у обзир кумулативног дејства и одређивање времена кашњења обе узрочне променљиве. Ranković et al. [123] и Novaković et al. [128] вектор предиктора статистичког модела за предикцију нивоа воде у пијезометрима FP13 и FP29 узимају у облику  1 2 3, ,ht ht ht , где су ДУНАВ FP29 FP13 НАСУТА НЕПРЕЛИВНА БРАНА Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 121 1ht , 2ht и 3ht кота доње воде дан пре, два дана пре и три дана пре мерења у пијезометру, респективно. Статистички модел за предикцију нивоа воде у пијезометрима FP13 и FP29 су:     13 1 2 33.4657 0.8648 0.0509 0.0155 MLR mnp FP ht ht hty     (6.12)     29 1 2 31.2871 0.7638 0.1058 0.1006 MLR mnp FP ht ht hty     (6.13) 6.2.3. Неуронске мреже и неуро-фази системи у моделирању и идентификацији нивоа провирне воде у телу насуте бране објекта Ђердап II Поступком параметарске индентификације нелинеарних система у моделирању нивоа воде у пијезометрима, који је предложен у овом раду, није било могуће формирати моделе јер су мерења нивоа воде у свим пијезометрима поставњеним у насутој брани и на обали обављана два пута месечно, у неједнаким временским интервалима. За моделирање нивоа воде у пијезометрима FP13 и FP29 неуронске мреже и неуро- фази системи су употребљени за нелинеарно пресликавање предиктора  1 2 3, ,ht ht ht у нивое воде у пијезометрима, сл. 5.9 и сл. 5.10 (погл. 5.3). Обучене неуронске мреже за предикцију нивоа воде у пијезометрима FP13 и FP29 имају 7 неурона у скривеном слоју. Одређивање оптималног броја неурона у њиховим скривеним слојевима остварено је применом IP алгоритма. Као активационе функције неурона скривеног и излазног слоја узете су сигмоидална и линеарна активациона функција, респективно. Укупан број параметара мреже који се адаптирају у процесу учења износи 36, од чега 28 тежинских коефицијената и 8 прагова активација. Избор броја и облика функција припадности примарних фази скупова неуро-фази система за предикцију нивоа воде у пијезометрима FP13 и FP29 остварен је методом пробе и грешке. Фази партиционирање улазног простора обављено је избором 2 функције припадности примарних фази скупова. У табели 6.16 приказан је утицај облика функција припадности на перформансе модела за предикцију нивоа воде у пијезометру FP13. Из табеле се види да је двострана Гаусова функција оптималан облик функција припадности примарних фази скупова. Исти облик функција припадности је изабран и за модел за предикцију нивоа воде у пијезометру FP29. Лингвистичке вредности предиктора 1ht су означене са 11A , 21A , 2ht са 12A , 22A и 3ht са 13A , 23A . Параметри Гаусових функција премиса модела за предикцију нивоа воде у пијезометрима FP13 и FP29, дати су у табелама 6.17 и 6.18. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 122 Taбела 6.16. Утицај облика функције припадности примарних фази скупова ANFIS модела за предикцију нивоа воде у пијезометру FP13. Облик функцијa припадности r MAE MSE скуп под. за трен. скуп под. за тест. скуп под. за трен. скуп под. за тест. скуп под. за трен. скуп под. за тест. троугаона 0.9552 0.9324 0.3422 0.4934 0.2905 0.3862 трапезна 0.9659 0.9235 0.3224 0.4803 0.2161 0.3837 Гаусова 0.9652 0.9303 0.3199 0.4504 0.2202 0.4165 Двострана Гаусова функција 0.9662 0.9352 0.3132 0.4328 0.2141 0.3726 Taбела 6.17 Параметри двостраних Гаусових функција премиса модела за предикцију нивоа воде у пијезометру FP13. Преди- ктори Функције припадно- сти Параметри функција припадности 1ht 11A        11 1 11 1 11 2 11 21.614; 25.86; 2.774; 32.52;A A A Ac c     21A        21 1 21 1 21 2 21 22.658; 35.72; 1.614; 41.06;A A A Ac c     2ht 12A        12 1 12 1 12 2 12 21.59; 26.06; 0.3276; 34.05;A A A Ac c     22A        22 1 22 1 22 2 22 21.709; 36.36; 1.59; 41.04;A A A Ac c     3ht 13A        13 1 13 1 13 2 13 21.558; 26.33; 2.296; 32.1;A A A Ac c     23A        23 1 23 1 23 2 23 20.9576; 36.42; 1.558; 41;A A A Ac c     Taбела 6.18 Параметри двостраних Гаусових функција премиса модела за предикцију нивоа воде у пијезометру FP29. Преди- ктори Функције припадно- сти Параметри функција припадности 1ht 11A        11 1 11 1 11 2 11 21.614; 25.86; 1.87; 31.31;A A A Ac c     21A        21 1 21 1 21 2 21 22.11; 34.3; 1.61; 41.1;A A A Ac c     2ht 12A        12 1 12 1 12 2 12 21.59; 26.06; 3.595; 33.85;A A A Ac c     22A        22 1 22 1 22 2 22 20.3943; 31.89; 1.59; 41.04;A A A Ac c     3ht 13A        13 1 13 1 13 2 13 21.558; 26.33; 3.426; 33.4;A A A Ac c     23A        23 1 23 1 23 2 23 20.02587; 31.45; 1.558; 41;A A A Ac c     Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 123 Параметри функција последица  1 2 8... T    фази модела за предикцију нивоа воде у пијезометрима FP13 и FP29, дати су у табели 6.19. Taбела 6.19. Параметри функција последица фази модела за предикцију нивоа воде у пијезометрима FP13 и FP29. ANFIS модел пијез. FP13  [ 29.84 –36.28 32.89 30.08 38.3 114.4 35.23 39.42 ]T ANFIS модел пијез. FP29  [29.15 29.18 37.39 26.22 38.92 42.1 17.12 44.39] T ANFIS модел за предикцију за предикцију нивоа воде у пијезометрима FP13 и FP29 има 8 правила: 1R : ако 1ht је 11A и 2ht је 12A и 3ht је 13A тада: 1 1f  2R : ако 1ht је 11A и 2ht је 12A и 3ht је 23A тада: 2 2f  3R : ако 1ht је 11A и 2ht је 22A и 3ht је 13A тада: 3 3f  4R : ако 1ht је 11A и 2ht је 22A и 3ht је 23A тада: 4 4f  5R : ако 1ht је 21A и 2ht је 12A и 3ht је 13A тада: 5 5f  6R : ако 1ht је 21A и 2ht је 12A и 3ht је 23A тада: 6 6f  7R : ако 1ht је 21A и 2ht је 22A и 3ht је 13A тада: 7 7f  8R : ако 1ht је 21A и 2ht је 22A и 3ht је 23A тада: 8 8f  Перформансе модела за предикцију нивоа воде у пијезометрима FP13 и FP29 приказане су у табели 6.20. Taбела 6.20. Перформансе модела за предикцију нивоа воде у пијезометрима FP13 и FP29. Нивои воде у пијезометрима r MAE MSE скуп под. за трен. скуп под. за тест. скуп под. за трен. скуп под. за тест. скуп под. за трен. скуп под. за тест. FP 13 MLR модел 0.9402 0.9154 0.5612 0.6754 0.6514 0.7141 FP 13 MLP модел 0.964 0.9428 0.3364 0.3953 0.2975 0.3322 FP 13 ANFIS модел 0.9662 0.9352 0.3132 0.4328 0.2141 0.3726 FP 29 MLR модел 0.9429 0.9256 0.4266 0.6811 0.3473 0.7345 FP 29 MLP модел 0.9703 0.9432 0.3001 0.431 0.2135 0.3556 FP 29 ANFIS модел 0.9591 0.9366 0.3820 0.4404 0.2840 0.3746 На сл. 6.22 и сл. 6.23 приказанe су мерене вредности нивоа воде у пијезометру FP 13, као и вредности моделиране применом вишеслојног перцептрона и неуро-фази система. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 124 Сл. 6.22. Мерене вредности нивоа воде у пијезометру FP13 и вредности моделиране применом вишеслојног перцептрона. Сл. 6.23. Мерене вредности нивоа воде у пијезометру FP13 и вредности моделиране применом ANFIS-a. На сл. 6.24 и сл. 6.25 приказанe су мерене вредности нивоа воде у пијезометру FP29, као и вредности моделиране применом вишеслојног перцептрона и неуро-фази система. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 125 Сл. 6.24. Мерене вредности нивоа воде у пијезометру FP29 и вредности моделиране применом вишеслојног перцептрона. Сл. 6.25. Мерене вредности нивоа воде у пијезометру FP29 и вредности моделиране применом ANFIS-a. Нивои воде у пијезометрима су нелинеарне, сложене функције узрочних величина па нелинеарни модели базирани на неуронским мрежама и неуро-фази системима имају боље перформансе (табела 6.20) од статистичких модела добијених применом методе вишеструке линеарне регресије. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 126 Добијени резултати могу се упоредити са резултатима приказаним у литератури. Тayfur et al. [23], врше предикцију нивоа воде у пијезометрима коришћењем вишеслојног перцептрона, а као улаз у модел користе коту горње и доње воде. Коефицијенти корелације између измерених и моделираних вредности су 0.9797 и 0.9643 у скуповима података за тренирање и тестирање, респективно. 6.2.4. Брана Првонек - основни подаци о брани. Мерење нивоа воде у пијезометрима Брана Првонек на Бањској реци представља централни објекат система који служи за снадбевање града Врања висококвалитетном водом. Преградно место лоцирано је низводно од ушћа реке Градашнице у Бањску реку, на око 9 km узводно од Врањске Бање, код села Првонек. Изградња бране Првонек почела је 1989. године. Радови на насипању преградне конструкције завршени су средином 2003. године, чиме је реализација овог значајног објекта ушла у завршну фазу. Основни подаци о брани: Кота круне бране: 620 mnm Кота максималног успора: 617.7 mnm Кота нормалног успора: 614.0 mnm Кота минималног радног нивоа: 580.0 mnm Максимална грађевинска висина: 92.9 m Максимална висина бране од терена: 78.0 m Ширина бране у круни: 10.0 m Дужина бране у круни: 250.0 m Нагиб узводне косине: 1:1.7 Нагиб низводне косине: 1:1.7 Укупна запремина акумулације: 20 мил. 3m Детаљном анализом података вишегодишљих мерења установљено је да су подаци у периоду од 15.12.2008. до 11.08.2010. године били валидни и да су могли да се употребе у параметарској идентификацији и моделирању нивоа воде у пијезометрима P07 и P08 на брани Првонек, сл. 6.26. За формирање модела искоришћени су скупови података мерења узрочних величина и нивоа у пијезометрима од 15.12.2008. до 08.04.2010. Тестирање модела је извршено мерним подацима од 08.04.2010 до 11.08.2010. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 127 Сл. 6.26. Положај пијезометара P07 и P08 на брани Првонек. 6.2.5. Неуронске мреже и неуро-фази системи у моделирању и идентификацији нивоа воде у пијезометрима бране Првонек Положај пијезометара P07 и P08 је такав да на њихов одзив има већи утицај ниво у акумулацији од падавина, па се као улази у NARX моделе узимају само предходне измерене вредности нивоа воде у акумулацији. Остали ефекти су узети у обзир преко претходних вредности померања као улаза у модел. Оптимизација димензије регресионог вектора је важан корак у параметарској идентификацији нивоа воде у пијезометрима. Jang-ов ([90]) метод се користи за одређивање најутицајнијих регресора. Ако се при параметарској идентификацији нивоа воде у пијезометрима P07 и P08 регресиони вектори претпоставе у облику:               1 , 2 , 3 , 1 , 2 , 3hp hp hpk y k y k y k h k h k h k       (6.14) тада за одређивање две најутицајније претходне вредности узрочно променљиве и две претходне вредности нивоа у пијезометрима треба креирати 9 модела. Процес учења се зауставља после 100 епоха и модел са најмањом грешком се бира као оптималан. У табели 6.21 је дате су вредности RMSE за моделе са различитим регресионим векторима за Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 128 предикцију нивоа воде у пијезометрима P07 и P08. Из табеле се види да модели за нивое у пијезометрима P07 и P08 са регресионим вектором:           1 , 3 , 1 , 2np npk y k y k h k h k     (6.15) имају најмању вредност корена средње квадратне грешке после 100 епоха процеса учења. Taбела 6.21. Избор регресора NARX модела за предикцију нивоа воде у пијезометрима P07 и P08. Регресори NARX модела за предикцију нивоа воде у пијезометрима RMSE P07 RMSE P08    1 , 2np npy k y k  ,  1h k  ,  2h k  0.10575 0.17743    1 , 2np npy k y k  ,  1h k  ,  3h k  0.10611 0.17824    1 , 2np npy k y k  ,  2h k  ,  3h k  0.10797 0.18078    1 , 3np npy k y k  ,  1h k  ,  2h k  0.10449 0.16823    1 , 3np npy k y k  ,  1h k  ,  3h k  0.10581 0.17266    1 , 3np npy k y k  ,  2h k  ,  3h k  0.10572 0.18171    2 , 3np npy k y k  ,  1h k  ,  2h k  0.13344 0.23596    2 , 3np npy k y k  ,  1h k  ,  3h k  0.13367 0.23182    2 , 3np npy k y k  ,  2h k  ,  3h k  0.14459 0.23824 Фази партиционирање улазног простора обављено је избором 2 функције припадности примарних фази скупова. Параметри Гаусових функција премиса модела за предикцију нивоа воде у пијезометрима P07 и P08 дати су у табелама 6.22. и 6.23. Taбела 6.22. Параметри двостраних Гаусових функција премиса модела добијеног методом параметарске индентификације за предикцију нивоа воде у пијезометру P07. Улазни преди- ктори Функције припадно- сти Параметри функција припадности  1npy k  11 A        11 1 11 1 11 2 11 20.3363; 554.9; 0.731; 556;A A A Ac c     21A        21 1 21 1 21 2 21 20.5896; 556.7; 0.3363; 558.1;A A A Ac c      3npy k  12A        12 1 12 1 12 2 12 20.3363; 554.9; 0.05476; 556.3;A A A Ac c     22A        22 1 22 1 22 2 22 20.4127; 556.9; 0.3363; 558.1;A A A Ac c      1h k  13 A        13 1 13 1 13 2 13 21.269; 605.2; 1.455; 609.8;A A A Ac c     23A        23 1 23 1 23 2 23 21.286; 612.6; 1.269; 617.1;A A A Ac c      2h k  14 A        14 1 14 1 14 2 14 21.269; 605.2; 1.378; 609.7;A A A Ac c     24A        24 1 24 1 24 2 24 21.425; 612.7; 1.269; 617.1;A A A Ac c     Taбела 6.23. Параметри двостраних Гаусових функција премиса модела добијеног методом параметарске индентификације за предикцију нивоа воде у пијезометру P08. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 129 Улазни преди- ктори Функције припадно- сти Параметри функција припадности  1npy k  11 A        11 1 11 1 11 2 11 20.7763; 577.9; 0.8661; 580.6;A A A Ac c     21A        21 1 21 1 21 2 21 21.579; 582.3; 0.7763; 585.2;A A A Ac c      3npy k  12A        12 1 12 1 12 2 12 20.7763; 577.9; 0.6977; 581.5;A A A Ac c     22A        22 1 22 1 22 2 22 20.3612; 582.1; 0.7763; 585.2;A A A Ac c      1h k  13 A        13 1 13 1 13 2 13 21.269; 605.2; 1.888; 610.1;A A A Ac c     23A        23 1 23 1 23 2 23 20.7639; 612.3; 1.269; 617.1;A A A Ac c      2h k  14 A        14 1 14 1 14 2 14 21.269; 605.2; 1.889; 609.9;A A A Ac c     24A        24 1 24 1 24 2 24 20.9453; 612.9; 1.269; 617.1;A A A Ac c     Параметри функција последица фази модела за предикцију нивоа воде у пијезометрима P07 и P08,  1 2 16... T    , дати су у табели 6.24. Taбела 6.24. Параметри функција последица фази идентификационог модела за предикцију нивоа воде у пијезометрима P07 и P08. ANFIS модел пијез. P07  [ 555.4 551.1 562.3 555.5 555.9 556.1 554.3 555.2 557 557.2 554.2 557.4 557.6 556.4 558.9 557.6 ]T ANFIS модел пијез. P08  [578.6 567.1 586.3 589.5 580.2 571.4 581.5 572.2 584.1 592.1 575.2 581.9 581.5 577.9 588.4 583.4] T ANFIS модели за предикцију нивоа воде у пијезометрима P07 и P08 садрже16 правила: 1R : ако  1npy k  је 11A и  3npy k  је 12A и  1h k  је 13A и  2h k  је 14A тада: 1 1f  2R : ако  1npy k  је 11A и  3npy k  је 12A и  1h k  је 13A и  2h k  је 24A тада: 2 2f  3R : ако  1npy k  је 11A и  3npy k  је 12A и  1h k  је 23A и  2h k  је 14A тада: 3 3f  4R : ако  1npy k  је 11A и  3npy k  је 12A и  1h k  је 23A и  2h k  је 24A тада: 4 4f  5R : ако  1npy k  је 11A и  3npy k  је 22A и  1h k  је 13A и  2h k  је 14A тада: 5 5f  6R : ако  1npy k  је 11A и  3npy k  је 22A и  1h k  је 13A и  2h k  је 24A тада: 6 6f  7R : ако  1npy k  је 11A и  3npy k  је 22A и  1h k  је 23A и  2h k  је 14A тада: 7 7f  8R : ако  1npy k  је 11A и  3npy k  је 22A и  1h k  је 23A и  2h k  је 24A тада: 8 8f  9R : ако  1npy k  је 21A и  3npy k  је 12A и  1h k  је 13A и  2h k  је 14A тада: 9 9f  10R : ако  1npy k  је 21A и  3npy k  је 12A и  1h k  је 13A и  2h k  је 24A тада: 10 10f  11R : ако  1npy k  је 21A и  3npy k  је 12A и  1h k  је 23A и  2h k  је 14A тада: 11 11f  12R : ако  1npy k  је 21A и  3npy k  је 12A и  1h k  је 23A и  2h k  је 24A тада: 12 12f  Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 130 13R : ако  1npy k  је 21A и  3npy k  је 22A и  1h k  је 13A и  2h k  је 14A тада: 13 13f  14R : ако  1npy k  је 21A и  3npy k  је 22A и  1h k  је 13A и  2h k  је 24A тада: 14 14f  15R : ако  1npy k  је 21A и  3npy k  је 22A и  1h k  је 23A и  2h k  је 14A тада: 15 15f  16R : ако  1npy k  је 21A и  3npy k  је 22A и  1h k  је 23A и  2h k  је 24A тада: 16 16f  Поред примене ANFIS-а, нивои воде у пијезометрима P07 и P08 су такође моделирани поступком параметарске индентификације нелинеарних система и RBF неуронске мреже. Формирани RBF модели имају по 20 неурона у скривеним слојевима. Укупан број параметара неуронске мреже који се адаптирају у процесу учења је 121, од чега 80 центара и 20 радијуса Гаусових функција, 20 тежина веза између неурона у скривеном слоју и излаза и једног прага активације излазног неурона. Перформансе модела формираних поступком параметарске индентификације за предикцију нивоа воде у пијезометрима P07 и P08 приказане су у табели 6.25. Taбела 6.25. Перформансе модела формираних поступком параметарске индентификације за предикцију нивоа воде у пијезометрима P07 и P08. Нивои воде у пијезометрима r MAE MSE скуп под. за трен. скуп под. за тест. скуп под. за трен. скуп под. за тест. скуп под. за трен. скуп под. за тест. P07 ANFIS модел 0.9769 0.7951 0.0747 0.0870 0.0107 0.0238 P07 RBF модел 0.9746 0.8092 0.0789 0.0910 0.0118 0.0223 P08 ANFIS модел 0.9860 0.9116 0.1095 0.1022 0.0269 0.0450 P08 RBF модел 0.9781 0.9336 0.1298 0.0960 0.0419 0.0344 У приказаним примерима предикције нивоа воде у пијезометрима је показано да RBF мрежа може да се користи, као и вишеслојни перцептрон и ANFIS, у идентификацији сложених нелинеарних веза између улазних и излазних променљивих. Перформансе модела би биле свакако боље да су на располагању стајала дугогодишња мерења разматраних индикатора понашања. Мерене вредности нивоа воде у пијезометрима P07 и P08, као и вредности моделиране методом параметарске индентификације и ANFIS и RBF неуронске мреже за пресликавање регресионог простора у излазни простор модела приказане су на сл. 6.27 и сл. 6.28. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 131 Сл. 6.27. Мерене вредности нивоа воде у пијезометру P07 и вредности моделиране методом параметарске индентификације и ANFIS и RBF неуронске мреже за пресликавање регресионог простора у излазни простор модела. Сл. 6.28. Мерене вредности нивоа воде у пијезометру P08 и вредности моделиране методом параметарске индентификације и ANFIS и RBF неуронске мреже за пресликавање регресионог простора у излазни простор модела. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 132 7. Закључна разматрања Управљање сигурношћу брана подразумева низ поступака чији је циљ да се, употребом физички заснованог и софтверски подржаног система, обезбеди сабирање свих података који се прате преко инсталиране опреме за техничко осматрање, анализу података и њихово коришћење у математичким моделима, као и контролу сигурности бране уз помоћ математичких модела и доношење одговарајућих закључака у погледу мера које је потребно предузимати ради остваривања сигурности. Редовна процедура праћења стања брана у свету подразумева постојање информационог система за техничко осматрање и математичких модела. Математички модели после изградње бране, односно у области анализе сигурности брана примењују се у циљу: континуалног праћења мерења и утврђивања усаглашености измерених величина и очекиваних вредности и утврђивања стања објекта, односно одређивања степена сигурности. Физички засновани модели се формирају уз помоћ геометрије објекта и стварних карактеристика материјала и у пракси се примењују у фази пројектовања објекта, као и код изграђених брана за утврђивања њиховог стања и степена сигурности. Формирање статистичких модела се ослања на напредни систем техничког осматрања тј. временске серије мерења релевантних величина. Контрола понашања објекта се у случају примене статистичких модела заснива на поређењу мерених и израчунатих вредности за сваки индикатор понашања бране. Неке земље (Швајцарска, Француска, Италија, итд.) одступање које се може толерисати, а да се сматра да објекат остаје у нормалном стању понашања, одређују на основу средњег квадратног одступања модела. Дозвољено одступање може да варира у зависности од понашања разматраног индикатора понашања бране. Избор дозвољеног одступања је ствар експертске анализе и ако је нека мерна величина неприхватљива према критеријуму дозвољеног одступања не значи да је сигурност дате бране угрожена. Тада, понашање не одговара очекиваном и неопходне су даље анализе мерених величина и других математичких модела (детерминистичких). Предност статистичких модела у одређивању индикатора понашања бране је што су релативно једноставни за коришћење, не захтевају сложене рачунске процесе и имају неограничену примену у праћењу мерења, без обзира на врсту бране или физичких величина које се њима моделирају. Међутим, методе линеарне идентификације (вишеструка линеарна регресија) често не дају задовољавајуће резултате када се користе у моделирању релевантних индикатора понашања бране који су нелинеарне, сложене функције узрочних величина. Посебно велики проблем код формирања статистичких модела за поједине индикаторе понашања бране (као што су на пример нивои воде у пијезометрима) је узимање у обзир кумулативног дејства и одређивање времена кашњења узрочних променљивих. Научни допринос приказане тезе је у развоју новог концепта за формирање математичких модела бране. У овој дисертацији су предложени различити приступи моделирања и идентификације индикатора понашања бране, као што су хоризонтална померања и нивои у пијезометрима, применом техника рачунарске интелигенције. Један од предложених приступа примене техника рачунарске интелигенције у моделирању индикатора понашања је да се линеарно пресликавање узрочних величина у индикаторе понашања, које се користи код вишеструке линеарне регресије, замени нелинеарним. Други приступ, предложен у овој дисертацији, се базира на примени поступка Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 133 параметарске индентификације нелинеарних система у моделирању индикатора понашања бране. Како су хоризонтална померања и нивои у пијезометрима, нелинеарне, сложене функције узрочних величина, у циљу њиховог моделирања коришћена је улазно-излазна NARX структура, којом је описана широка класа нелинеарних динамичких процеса. Идентификација нелинерних система подразумева да временске серије података које представљају улазне или излазне променљиве модела буду комлетне. Предложен поступак параметарске идентификације индикатора понашања бране са нелинеарним ауто-регресионим моделом са споњашњим улазом, чији су параметри естимирани на основу резултата дугогодишљих мерења релевантних физичких величина на самој брани, на индиректан начин узима у обзир промену карактеристика материјала. Регресиони вектор NАRX модела садржи претходне мерене вредности моделираног индикатора понашања. Избор периода одабирања, тј. временског интервала између два сукцесивна еквидистантна мерења индикатора стања и понашања објекта и узрочних величина у изабраном скупу података за обучавање, утиче на тачност NАRX модела. NАRX моделом могуће је предвидети индикатор понашања, на бази претходних мерења индикатора стања и узрочних величина, онолико дана унапред колики је био период узорковања променљивих на бази којих је формиран модел. То значи да време семпловања у скупу података за обучавање треба да буде што дуже а да модел има што боље перформансе. Присуство недостајућих података може да доведе до озбиљних проблема у оквиру процеса учења и лоших перформанси модела. У овом раду су коришћене технике из домена математичке статистике за попуњавање недостајућих података. Посебно је анализирано присуство аутлајера у посматраном скупу података које проузрокује лоше надомештање података који недостају. Нелинеарни модели базирани на техникама рачунарске интелигенције су имплементирани у програмском језику Јаva и коришћењем програмског пакета Маtlab. Предложени приступ идентификације базиране на неуронским мрежама и неуро-фази системима је примењен за моделирање хоризонталног померања тачака бране Бочац и нивоа воде у пијезометрима брана Ђердап II и Првонек. На основу резултата детаљно приказаних у шестом поглављу може се закључити да је могуће креирати и обучити неуронске мреже и неуро-фази системе који ће са великом прецизношћу предвиђати битне индикаторе понашања бране. Перформансе модела, формираних предложеним концептом, су поређене са резултатима добијеним другим методама моделирања истих индикатора понашања, а који су приказани у релевантој литератури објављеној у последњих неколико година. Одређивање времена узорковања узрочних променљивих и идикатора понашања је веома битно јер репрезентативни скуп података обезбеђује моделе добрих перформанси. Најидеалније би било да постоје свакоднекана мерења улазно-излазних података, а да се накнадно подеси време узорковања и изабере скуп података за формирање одређеног индикатора понашања бране. Време узорковања нивоа у пијезометрима на брани Бочац и на обали бране Ђердап II је било велико и мерења нису била редовна, па основу расположивих података није могао да се примени предложени приступ моделирања и идентификације. У оквиру истраживања такође разматран је проблем оптимизације добијених математичких модела који подразумева одређивање димензије регресионог вектора и број параметара неуро-фази система, односно топологије неуронске мреже. Предложени приступи формирања модела, који се базирају на техникама вештачке интелигенције, се у суштини могу користити за моделирање најразличитијих врста Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 134 индикатора понашања (узгон, деформација стене у темељу и др.), уз услов да постоји довољно велики скуп измерених података. Међутим, овим моделима није могуће утврдити степен сигурности и спровести анализу узрока одступања моделираних од измерених вредности. Формирани модели индикатора понашања бране се заснивају на одређеном скупу мерних података. Уколико се покаже да су у наредном временском периоду одступања мерених вредности од моделираних велика, потребно је формирати нове моделе додавањем новог скупа мерних података. На основу перформанси нових модела може се утврдити да ли проширење или побољшање квалитета скупа података пружа могућност добијања бољих прогнозних модела индикатора понашања бране. Уважавајући значај брана и акумулација, као објеката од посебног друштвеног интереса, те значај и утицај њиховог одржавања на век трајања, функционалност и сигурност објекта, значај овог истраживања се огледа у формирању и оптимизацији математичких модела који су у стању да са великом прецизношћу предвиђају битне индикаторе понашања бране, како би се на изводљив и рационалан начин побољшала њихова сигурност и функционалност. Математички модели бране, базирани на техникама рачунарске интелигенције, могу да се користе као средство за стицање увида у текуће стање бране, али и контролу њеног будућег понашања, односно предвиђања истог. Кроз примере моделирања индикатора понашања на реалним бранама, приказана је примењивост резултата у пракси. На основу изнетих резултата, може се закључити да је предложеним приступима формирања модела могуће превазићи описане недостатке статистичких модела у одређивању идентификатора понашања бране. Посебно у случајевима где на основу серија мерења није било могуће формирати статистичке моделе примена параметарске идентификације нелинеарних система и техника рачунарске интелигенције се показала као веома ефикасан алат за добијање модела задовољавајућих перформанси. На пример, на основу мерења на брани Првонек нису могли да буду формирани статистички модели за нивое воде у пијезометрима, док су поступком параметарске идентификације уз примену ANFIS-а и RBF неуронске мреже добијени задовољавајући модели. Издвајају се два основна правца даљег истраживања и развоја предложене методологије моделирања и идентификације битних показатеља понашања бране. Први jе проширење скупа мерних променљивих које би се моделирале и адекватно итерпретирале техникама вештачке интелигенције као што су на пример ниво воде у узгонским бушотинама, деформација стене у темељу и др. Други правац даљег истраживања представља развој хибридних модела који би били формирани комбинацијом детерминистичких модела и модела базираних на техникама рачунарске интелигенције. Квалитет физички заснованог модела зависи од: квалитета дискретизације мреже, од способности одабраних закона понашања да репродукују стварно понашање, познавања стварних физичких параметара система (као што су на пример: модули еластичности, кофицијенти филтрације и сл), поједностављења која су уведена при моделирању, пре свега у вези са законима понашања и граничним условима, поједностављења која су уведена у процес математичког решавања. Неуронске мреже или неуро фази системи би могли да буду обучени да предвиђају грешке, узимањем у обзир резултате мерења из оскултационог система, ради подешавања детерминистичког модела као би он одговарао стварном понашању конструкције. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 135 ЛИТЕРАТУРА [1] ИНСТИТУТ ЗА ВОДОПРИВРЕДУ "ЈАРОСЛАВ ЧЕРНИ", Завод за бране, хидроенергетику, руднике и саобраћајнице. ОДРЖАВАЊЕ ВЕЛИКИХ БРАНА У РЕПУБЛИЦИ СРБИЈИ. СТУДИЈА, Београд, 2011. [2] ICOLD. Methods of analysis for the prediction and the verification of dam behaviour. Tech. rep. Swiss Committee on Dams; 2003. [3] Szostak-Chrzanowski A, Chrzanowski A, Massiéra M. Use of deformation monitoring results in solving geomechanical problems-case studies. Engineering Geology, 2005; 79:3–12. [4] Zheng H, Liu DF, Lee CF, Tham LG. A new formulation of Signorini’s type for seepage problems with free surfaces. International Journal For Numerical Methods in Engineering, 2005; 64:1–16. [5] Chen Y, Hu R, Zhou C, Li D, Rong G. A new parabolic variational inequality formulation of Signorini’s condition for non-steady seepage problems with complex seepage control systems. International Journal For Numerical and Analytical Methods In Geomechanics, 2011; 35:1034–1058. [6] Chen Y, Zhou C, Zheng H. A numerical solution to seepage problems with complex drainage systems. Computers and Geotechnics, 2008; 35:383–393. [7] Chen Y, Hu R, Lu W, Li D, Zhou C. Modeling coupled processes of non-steady seepage flow and non-linear deformation for a concrete-faced rockfill dam. Computers and Structures, 2011; 89:1333–1351. [8] Divac D, Vučković D, Živković M, Stojkov S, Vulović S. Modeliranje interakcije akumulacionog jezera pregradne konstrukcije i stenske mase na primeru brane “Bogovina”. Monografija “Upravljanje vodnim resursima Srbije 2005”, Institut za vodoprivredu “Jaroslav Černi”, Beograd, 2005, pp. 233–274. [9] Divac D, Vučković D, Živković M. Modeliranje filtracionih i naponsko-deformacijskih procesa u interakciji akumulacionog jezera, brane i stenske mase, na primerima brane “Sv. Petka” u Makedoniji i brane “Prvonek” kod Vranja. Građevinski calendar, Savez građevinskih inženjera i tehničara Jugoslavije, 2004; 36:9-57. [10] De Sortis A, Paoliani P. Statistical analysis and structural identification in concrete dam monitoring, Engineering Structures, 2007; 29:110–120. [11] Perner F, Obernhuber P. Analysis of arch dam deformations, Frontiers of Architecture and Civil Engineering in China, 2010; 4(1):102–108. [12] Hamidian D, Seyedpoor SM. Shape optimal design of arch dams using an adaptive neuro-fuzzy inference system and improved particle swarm optimization. Applied Mathematical Modelling 2010; 34(6):1574–1585. [13] Seyedpoor SM, Salajegheh J, Salajegheh E, Golizadeh S. Optimum shape design of arch dams for earthquake loading using a fuzzy inference system and wavelet neural networks. Engineering Optimization, 2009; 41(5):473–493. [14] Majdi A, Beiki M. Evolving neural network using a genetic algorithm for predicting the deformation modulus of rock masses. International Journal of Rock Mechanics & Mining Sciences, 2010; 47:246–253. [15] Papadrakakis M, Papadopoulos V, Lagaros ND. Structural reliability analysis of elastoplastic structures using neural networks and Monte Carlo simulation. Computer Methods in Applied Mechanics and Engineering, 1996; 136:145–63. [16] Hurtado JE, Alvarez DA. Neural network based reliability analysis: a comparative study. Computer Methods in Applied Mechanics and Engineering, 2001; 191(1–2):113–32. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 136 [17] Adeli H. Neural networks in civil engineering: 1989–2000. Computer-Aided Civil and Infrastructure Engineering, 2001; 16(2):126–42. [18] Papadrakakis M, Papadopoulos V, Lagaros ND, Oliver J, Huespe AE, Sa´nchez P. Vulnerability analysis of large concrete dams using the continuum strong discontinuity approach and neural networks. Structural Safety, 2008; 30:217–235. [19] Fedele R, Maier G, Miller B. Health assessment of concrete dams by overall inverse analyses and neural networks. International Journal of Fracture, 2006; 137:151–172. [20] Yu Y, Zhang B, Yuan H. An intelligent displacement back-analysis method for earth-rockfill dams. Computers and Geotechnics, 2007; 34:423–434. [21] Su HZ, Wu ZR. Identification Model for Dam Behavior Based on Wavelet Network. Computer-Aided Civil and Infrastructure Engineering, 2007; 22:438–448. [22] Demirkaya S. Deformation Analysis of an Arch Dam Using ANFIS. Proceedings of the Second International Workshop on Application of Artificial Intelligence and Innovations in Engineering Geodesy, Braunschweig, Germany, 2010 pp. 21–31. [23] Тayfur G, Swiatek D, Wita A, Singh VP. Case Study: Finite Element Method and Artificial Neural Network Models for Flow through Jeziorsko Earthfill Dam in Poland. Journal of Hydraulic Engineering, 2005; 131(6):431-440. [24] Chen S, Hong X, Harris CJ, Wang X. Identification of Nonlinear Systems Using Generalized Kernel Models. IEEE Transactions on Control Systems Technology, 2005; 13(3):401-411. [25] Park J, Sandberg IW. Universal approximation using radial basis function networks. Neural Computing, 1991; 3(2):246–257. [26] Leonard JA, Kramer MA, Ungar LH. Using Radial Basis Functions to Approximate a Function and Its Error Bounds. IEEE Transactions on Neural Networks, 1992; 3:622–630. [27] Schilling RJ, Carroll JJ, Al-Ajlouni AF. Approximation of nonlinear systems using radial basis function neural networks. IEEE Transactions on Neural Networks, 2001; 12(1):1–14. [28] Hornik K. Approximation capabilities of multilayer feedforward networks. Neural network, 1991; 4(2):251–257. [29] Zeng XJ, Singh MG. Approximation theory for fuzzy systems—SISO case. The IEEE Transactions on Fuzzy Systems 1994; 20(2):162–176. [30] Kosko B. Fuzzy systems as universal approximator. The IEEE Transactions on Computers, 1994; 43(11):1329–1333. [31] Yazdizadeh A, Khorasani K. Adaptive time delay neural network structures for nonlinear system identification. Neurocomputing, 2002; 47(1-4):207–240. [32] Yu W, Li X. Some New Results on System Identification with Dynamic Neural Networks. IEEE Transactions on Neural Networks, 2001; 12(2):412–417. [33] Gao Y, Er MJ. NARMAX time series model prediction: feedforward and recurrent fuzzy neural network approaches. Fuzzy Sets and Systems, 2005; 150(2):331–350. [34] Yu W. Nonlinear system identification using discrete-time recurrent neural networks with stable learning algorithms. Information Sciences, 2004; 158:131–147. [35] Narendra KS, Parthasarthy K. Identification and control of dynamical systems using neural networks. IEEE Transactons on Neural Networks, 1990; 1(1):4–27. [36] Chen CH. Structural identification from field measurement data using a neural network. Smart Materials and Structures, 2005; 14:104–115. [37] Gupta P, Sinha NK. An improved approach for nonlinear system identification using neural networks. Journal of the Franklin Institute, 1999; 336:721–734. [38] Shen C, Cao GY, Zhu XJ. Nonlinear modeling of MCFC stack based on RBF neural networks identification. Simulation Modelling Practice and Theory, 2002; 10:109–119. [39] Babuška R, Verbruggen H. Neuro-fuzzy methods for nonlinear system identification. Annual Reviews in Control, 2003; 27:73–85. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 137 [40] Banakar A, Fazle AM. Parameter identification of TSK neuro-fuzzy models. Fuzzy Sets and Systems, 2011; 179(1):62–82. [41] Cao M, Qiao P, Ren Q. Improved hybrid wavelet neural network methodology for time- varying behavior prediction of engineering structures. Neural Computing and Applications, 2009; 18:821–832. [42] Carvalho V, Gutiérrez JLC, Romanel C. A Neural Network Approach for Seepage Control in Earth Dams. Proceedings of the Seventh International Conference on the Application of Artificial Intelligence to Civil and Structural Engineering, 2003, Paper 57, doi:10.4203/ccp.78.57. [43] Simon G, Verleysen M. High-dimensional delay selection for regression models with mutual information and distance-to-diagonal criteria. Neurocomputing, 2007; 70:1265–1275. [44] May RJ, Maier HR, Dandy GC, Fernando TMKG. Non-linear variable selection for artificial neural networks using partial mutual information. Environmental Modelling & Software, 2008; 23(10-11):1312–1326. [45] Lind I. Regressor and Structure Selection Uses of ANOVA in System Identification. Ph. D. thesis, Linköpings universitet, Sweden, 2006. [46] Lind I, Ljung L. Regressor and structure selection in NARX models using a structured ANOVA approach. Automatica, 2008; 44:383 – 395. [47] Esteban-Díez I, González-Sáiz JM, Pizarro C, Forina M. GA-ACE: Alternating conditional expectations regression with selection of significant predictors by genetic algorithms. Analytica Chimica Acta, 2006; 555:96–106. [48] Lukoseviciute K, Ragulskis M. Evolutionary algorithms for the selection of time lags for time series forecasting by fuzzy inference systems. Neurocomputing, 2010; 73:2077–2088. [49] Hofmann M, Gatu C, Kontoghiorghes EJ. Efficient algorithms for computing the best subset regression models for large-scale problems. Computational Statistics & Data Analysis, 2007; 52:16–29. [50] Gatu C, Kontoghiorghes EJ, Gilli M, Winker P. An efficient branch-and-bound strategy for subset vector autoregressive model selection. Journal of Economic Dynamics & Control, 2008; 32:1949–1963. [51] Fritzke B. Growing cell structures a self-organizing network for unsupervised and supervised learning. Neural Networks, 1994; 7(9):1441–1460. [52] Ma L, Khorasani K. A new strategy for adaptively constructing multilayer feedforward neural networks. Neurocomputing, 2003; 51:361–385. [53] Zhang R, Lan Y, Huang GB, Xu ZB. Universal approximation of extreme learning machine with adaptive growth of hidden nodes. The IEEE Transactions on Neural Networks and Learning Systems, 2012; 23(2):365–371. [54] Huang GB, Chen L. Enhanced random search based incremental extreme learning machine. Neurocomputing, 2008; 71(16–18):3460–3468. [55] Yoan M, Sorjamaa A, Bas P, Simula O, Jutten C, Lendasse A. OP-ELM: optimally pruned extreme learning machine. IEEE Transactions on Neural Networks, 2010; 21(1):158–162. [56] Xu J, Ho DWC. A new training and pruning algorithm based on node dependence and Jacobian rank deficiency. Neurocomputing, 2006; 70(1–3):544–558. [57] Nielsen AB, Hansen LK. Structure learning by pruning in independent component analysis. Neurocomputing, 2008; 71(10–12):2281–2290. [58] Lauret P, Fock E, Mara TA. A node pruning algorithm based on a Fourier amplitude sensitivity test method. IEEE Transactions on Neural Networks, 2006; 17(2):273–293. [59] Narasimha PL, Delashmit WH, Manry MT, Li J, Maldonado F. An integrated growing-pruning method for feedforward network training. Neurocomputing, 2008; 71(13–15):2831–2847. [60] Hsu CF. Adaptive growing-and-pruning neural network control for a linear piezoelectric ceramic motor. Engineering Applications of Artificial Intelligence, 2008; 21(8):1153–1163. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 138 [61] Jeon J, Lee J, Shin D, Park H. Development of dam safety management system. Advances in Engineering Software, 2009; 40:554–563. [62] Bernard J, Meng X. Applications of multiple imputation in medical studies: From AIDS to NHANES. Statistical Methods in Medical Research, 1999; 8(1):17–36. [63] Farhangfar A, Kurgan L, Pedrycz W. A novel framework for imputation of missing values in database. IEEE Transactions on Systems, Man, and Cybernetics, Part A: Systems and Humans, 2007; 37(5):692–709. [64] Little RJA, Rubin DB. Statistical Analysis with Missing Data. John Wiley and Sons (second ed.), NJ, 2002. [65] Lakshminarayan K, Harp SA, Samad T. Imputation of missing data in industrial databases. Applied Intelligence, 1999; 11:259–275. [66] Chan K, Lee TW, Sejnowski TJ. Variational Bayesian learning of ICA with missing data. Neural Computing, 2003; 15(8):1991–2011. [67] Kahl F, Heyden A, Quan L. Minimal projective reconstruction including missing data. IEEE Transactions on Pattern Analysis and Machine Intelligence, 2001; 23(4):418–424. [68] Wang Q, Rao JNK. Empirical likelihood-based inference under imputation for missing response data. The Annals of Statistics, 2002; 30:896–924. [69] Barnett V, Lewis T. Outliers in Statistical Data, 1994, John Wiley & Sons (third ed.), New York, 1994. [70] Cao DS, Liang YZ, Xu QS, Li HD, Chen X. A new strategy of outlier detection for QSAR/QSPR. Journal of Computational Chemistry, 2010; 31(3):592–602. [71] Liu HC, Shah S, Jiang W. On-line outlier detection and data cleaning. Computers and Chemical Engineering, 2004; 28:1635–1647. [72] McCulloch WS, Pitts W. A Logical Calculus of the ideas immanent in the nervous activity. Тhe Bulletin of Mathematical Biophysics, 1943; 5(4):115-133. [73] Hebb DO. The organization of behavior. Wiley & Sons, New York, 1949. [74] Rosenblatt F. The perceptron: A probabilistic model for information storage and organization in the brain. Psychological Review, 1958; 65(6):386-408. [75] Minsky M, Papert S. Perceptron: An introduction to computational geometry. MA: MIT Press, Cambridge, 1969. [76] Kandel EC, Schwartz JH. Principles of Neural Science. Elsevier, Amsterdam, 1985. [77] Sejnowski JT. Skeleton Filters in the Brain. Parallel Models of Associative Memory, Erlbaum, Hillsdale, NJ, 1981, pp. 189-212. [78] Moreira M, Fiesler Е. Neural networks with adaptive learning rate and momentum terms. IDIAP Technique Report 95-04, Martigny, Switzerland, October, 1995. [79] Fahlman SE. Fast-learning variations on back-propagation: an empirical study. Proceedings of the 1988 Connectionist Models Summer School, Pittsberg, 1988, pp. 38-51. [80] Riedmiller M. Advanced supervised learning in multi-layer perceptrons—from backpropagation to adaptive learning algorithms. Computer Standards & Interfaces, 1994; 16(5):265–278. [81] Riedmiller M, Braun H. A direct adaptive method for faster backpropagation learning: the RPROP algorithm. Proceedings of the IEEE International Conference on Neural Networks, New York, 1993, pp. 586–591. [82] Jacobs RA. Increase rates of convergence through learning rate adaptation. Neural networks, 1998; 1:295-307. [83] Haykin S. Neural network: A Compehensive foundation. Macmillan College Publishing Company, New York, 1994. [84] Zadeh LA. Fuzzy sets. Information and Control, 1965; 8:338-353. [85] Zadeh LA. Outline of a new approach to the analzsis of complex systems and decision processes. IEEE Transactions on Systems, Man and Cybernetics, 1973; 3:28-44. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 139 [86] Lee CC. Fuzzy logic in control systems: Fuzzy logic controller. IEEE Transac tions on Systems, Man, and Cybernetics, Part I, 1990; 20(2):404-418. [87] Lee CC. Fuzzy logic in control systems: Fuzzy logic controller. IEEE Transactions on Systems, Man, and Cybernetics, Part 2, 1990; 20(2):419-435. [88] Takagi T, Sugeno M. Fuzzy identification of systems and its applications to modeling and control. IEEE transactions on Systems, Man, and Cybernetics, 1985; 15(1):116-132. [89] Jang JSR. ANFIS: Adaptive-Network-Based Fuzzy Inference Systems. IEEE Transactions on Systems, Man, and Cybernetics, 1993; 23(3):665-685. [90] Jang JSR. Input Selection for ANFIS Learning. Proceedings of IEEE International Conference Fuzzy System, vol. 2, New York, 1996, pp. 1493-1499. [91] Ranković V, Nikolić I. Identification of Nonlinear Models with Feedforward Neural Network and Digital Recurrent Network. FME Transactions, 2008; 36 (2):87–92. [92] Ranković V, Nikolić I. Model Predictive Control Based on the Takagi-Sugeno Fuzzy Model, Journal of Information. Control and Management Systems, 2007; 5:101–110. [93] Van Gorp J. Nonlinear Identification With Neural Networks and Fuzzy Logic. Ph. D. thesis, Vrije Universiteit, Brussel, 2000. [94] Hagan M, Jesus OD, Schultz R. Training Recurrent Networks for Filtering and Control. Recurrent Neural Networks: Design and Applications, CRC Press, 1999. [95] Narendra K, Parthasarathy K. Gradient methods for the optimisation of dynamical systems containing neural networks. IEEE Transactions on Neural Networks, 1991; 2(2):252-262. [96] Han J, Kamber M. Data Mining: Concepts and Techniques (second ed.). Morgan Kaufmann, 2006. [97] Tan PN, Steinbach M, Kumar V. Introduction to Data Mining. Addison-Wesley, 2005. [98] Rousseeuw P, Leroy A. Robust Regression and Outlier Detection. John Wiley & Sons, 1996. [99] Japkowicz N, Myers C, Gluck MA. A Novelty Detection Approach to Classification. Proceedings of the 14th International Conference on Artificial Intelligence, Montreal, Quebec, Canada, August 20-25, 1995, pp. 518–523. [100] Branisavljević N. Metodologija za vrednovanje kvaliteta rezultata merenja u hidrotehnici. Ph. D. Thesis, Univerzitet u Beogradu, Beograd, Srbija 2012. [101] Knorr EM, Ng RT. Algorithms for Mining Distance-Based Outliers in Large Datasets. Proceedings of the VLDB Conference, New York, USA, 1998, pp: 392–403. [102] Laurikkala J, Juhola M, Kentala E. Informal Identification of Outliers in Medical Data. Fifth International Workshop on Intelligent Data Analysis in Medicine and Pharmacology, at the 14th European Conference on Artificial Intelligence, Berlin, Germany, August 22, 2000, pp. 20–24. [103] Ilić ID. Ocenjivanje indeksa repa raspodele korišćenjem nekompletnih uzoraka. Ph. D. Thesis, Univerzitet u Beogradu, Beograd, Srbija, 2012. [104] Sjöberg J, Zhang Q, Ljung L, Benveniste A, Deylon B, Glorennec P, et al. Nonlinear black- box modeling in system identification: a unified overview. Automatica 1995; 31(12):1691– 1724. [105] Maier HR, Dandy GC. Neural networks for prediction and forecasting of water resources variables: a review of modeling issues and applications. Environmental Modelling & Software, 2000; 15:101-124. [106] Kingston GB. Bayesain Artificial Neural Networks in Water Resources Engineering. Ph. D. thesis, University of Adelaide, Australia, 2006. [107] Hecht-Nielsen R. Kolmogorovs mapping neural network existence theorem. Proceedings of the First IEEE International Joint Conference on Neural Networks, San Diego, California, 1987, pp.11–14. Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 140 [108] Rogers LL, Dowla, FU. Optimization of groundwater remediation using artificial neural networks with parallel solute transport modeling. Water Resources Research, 1994; 30(2):457- 481. [109] Heaton J. Introduction to Neural Networks, Second Edition. Heaton Research, St. Louis, 2008. [110] Montgomery DC, Runger GC. Applied statistics and probability for engineers. John Wiley & Sons Inc., 1994. [111] Draper NR, Smith H. Applied regression analysis. John Wiley & Sons Inc., 1981. [112] Rocha M, Serafim J, Silveira a. A method of quantitative interpretation of the results obtained in the observation of the dams. R.84, Q. 21. In: VI ICOLD congress. Vol II. New York. 1958. Pp 927–960. [113] Scheffé H. The Analysis of Variance. Wiley-Interscience, New York, 1999. [114] Reimann C, Filzmoser P, Garett R, Dutter R. Statistical data analysis explained: applied environmental statistics with R. John Wiley & Sons, Ltd., New York, 2008. [115] Rogerson P. Statistical methods for geography. Sage, London, 2001. [116] Pan Y, Jackson RT. Ethnic difference in the relationship between acute inflammation and and serum ferritin in US adult males. Epidemiology and Infection, 2008; 136:421-431. [117] Desai CS. Free surface flow through porous media using a residual procedure. Finite Elements in Fluids, John Wiley & Sons, 1984. [118] Kojić M, Slavković R, Živković M, Grujović N. PAK Program za linearnu i nelinearnu analizu konstrukcija, provodjenje toplote i mehaniku fluida, LIS, Mašinski fakultet u Kragujevcu, Kragujevac. [119] Divac D, Vucković D, Zivković M, Vulović S. Reservoir, dam and rock mass interaction modeling. VI European conference on numerical methods in geotechnical engineering, Graz, Austria, 2006, pp. 7211–726. [120] Kojić M. Computational procedures in inelastic analzsis of solids and structures. Centar of Scientific Research of Serbian Academy of Sciences and Arts, University of Kragujevac, Faculty of Mechanical Enginering in Kragujevac, Kragujevac. [121] Zivković M, Vulović S, Divac D, Slavković R, Grujović N. Numerical Analysis of Dam and Rock Mass Interaction. Proceedings of the Thirteenth International Conference on Civil, Structural and Environmental Engineering Computing, Stirlingshire, Scotland, 2011, pp. 1–8. [122] Mata J. Interpretation of concrete dam behaviour with artificial neural network and multiple linear regression models. Engineering Structures, 2011; 33(3):903–910. [123] Ranković V, Grujović N, Divac D, Milivojević N, Milanović G. Application of Soft Computing Techniques to Dam Safety Monitoring. Proceedings of the Second International Conference on Soft Computing Technology in Civil, Structural and Environmental Engineering, Crete, Greece, September 6-9, 2011, pp. Paper 13. [124] Ranković V, Grujović N, Milanović G, Divac D, Milivojević N. Prediction of dam behaviour using multiple linear regression and radial basis function neural network. 10th Anniversary International Conference on Accomplishments in Electrical, Mechanical Engineering and Information Technology, Banja Luka, Republika Srpska, May 26-28, 2011, pp. 179-185. [125] Jang JSR, Sun CT. Functional Equivalence between Radial Basis Function Networks and Fuzzy Inference Systems. IEEE Transactions on Neural Networks, 1993; 4(1):156-159. [126] Ranković V, Grujović N, Divac D, Milivojević N, Novaković A. Modelling of Dam Behaviour Based on Neuro-Fuzzy Identification. Engineering Structures, 2012; 35(00):107-113. [127] Kao CJ, Loh CH. Monitoring of long-term static deformation data of Fei-Tsui arch dam using artificial neural network-based approaches. Structural Control and Health Monitoring, 2013; 20:282–303. [128] Ranković V, Novaković A, Grujović N, Divac D, Milivojević N. Predicting piezometric water level in dams via artificial neural networks. Neural Computing and Applications, First Александар Б. Новаковић Технике рачунарске интелигенције у моделирању и … 141 published online: January 2013, http://link.springer.com/article/10.1007/s00521-012-1334-2, DOI: 10.1007/s00521-012-1334-2. [129] Crépon O, Lino M. An analytical approach to monitoring. International Water Power & Dam Construction, June, 1999, pp. 52-54. [130] Plancke V. Auscultation des barrages, logiciel de traitement statistique des mesures, mémoire ENITRS, Cemagref, 1986. [131] Bonelli S, Félix H, Tourment R. Interprétation des mesures d'auscultation des barrages par régression linéaire multiple HST. Proc. 2eme Conférence Nationale Fiabilité des matériaux et des structures, Marne la Vallée, Hermes, 1998, pp. 189-198. [132] Bonelli S, Royet P. Delayed response analysis of dam monitoring data. Proceedings of the ICOLD European Symposium on Dams in a European Context, Geiranger, Norvège, June 25- 27, 2001, pp. 91–99. [133] Novaković A, Ranković V, Grujović N, Divac D, Milivojević N. Development of neuro-fuzzy model for dam seepage analysis. 11th International Conference in accomplishments in Electrical and Mechanical Engineering and Information Technology, Banja Luka, Republika Srpska, 2013, pp. 619-624. [134] Honaker J, King G, Blackwell M. AMELIA II: A Program for Missing Data. February 11, 2013, http://gking.harvard.edu/amelia. [135] Kobi A, Gelman A, Levy M. Diagnostics for multivariate imputations. Applied Statistics, 2008; 57(3):273–291.