Sisteme Hibride de Invatare Automata si Aplicatii
Eduard Hogea, Darian Onchis
TL;DR
Paperul compară două paradigme de învățare pentru sarcini de clasificare și regresie în securitate și structurale: rețele neuronale profunde și Logic Tensor Networks (LTN) cu Real Logic. Hybridul neuro-symbolic îmbină capacitatea de învățare a rețelelor cu raționamentul deductiv și explicabilitatea oferită de logica de ordin întâi, demonstrând rezultate competitive pe seturi ca KDD99 și CIC-IDS2017, cu beneficii de interogabilitate și satisfiabilitate a regulilor. Experimentele arată că LTNs pot atinge satisfiabilitate și acuratețe la niveluri comparabile sau superioare DL în anumite cazuri, în timp ce DL poate oferi performanțe brute ridicate, iar combinația lor reduce overfitting și crește interpretabilitatea. În final, lucrarea susține dezvoltarea continuă a sistemelor hibride pentru aplicații din securitate IT și monitorizarea infrastructurilor, evidențiind potențialul LTNs în explicabilitate și deducție pe date reale.
Abstract
In this paper, a deep neural network approach and a neuro-symbolic one are proposed for classification and regression. The neuro-symbolic predictive models based on Logic Tensor Networks are capable of discriminating and in the same time of explaining the characterization of bad connections, called alerts or attacks, and of normal connections. The proposed hybrid systems incorporate both the ability of deep neural networks to improve on their own through experience and the interpretability of the results provided by symbolic artificial intelligence approach. To justify the need for shifting towards hybrid systems, explanation, implementation, and comparison of the dense neural network and the neuro-symbolic network is performed in detail. For the comparison to be relevant, the same datasets were used in training and the metrics resulted have been compared. A review of the resulted metrics shows that while both methods have similar precision in their predictive models, with Logic Tensor Networks being also possible to have interactive accuracy and deductive reasoning over data. Other advantages and disadvantages such as overfitting mitigation and scalability issues are also further discussed.