{"id":2541,"date":"2020-10-27T12:01:04","date_gmt":"2020-10-27T11:01:04","guid":{"rendered":"https:\/\/websites.fraunhofer.de\/stec\/?post_type=projects&p=2541"},"modified":"2023-03-10T13:47:09","modified_gmt":"2023-03-10T12:47:09","slug":"visualisierung-der-entscheidungsfindung-neuronaler-netze","status":"publish","type":"projects","link":"https:\/\/s-tec.de\/en\/projekte\/visualisierung-der-entscheidungsfindung-neuronaler-netze\/","title":{"rendered":"Visualisierung der Entscheidungs­findung Neuronaler Netze"},"content":{"rendered":"\n\n
\n
\n
\n
\"Attention
\u00a9 Fraunhofer IPA<\/figcaption><\/figure>\n<\/div><\/div>\n\n\n\n
\n
Bearbeitungszeitraum:<\/strong> 01.01.2020 – 01.03.2020<\/a><\/div>\n<\/div>\n\n\n\n

Ausgangssituation<\/h4>\n\n\n\n

IDS hat eine Trainingsplattform entwickelt, die es Expert*innen erm\u00f6glicht, durch Hochladen eigener Bilddaten Neuronale Netze zu trainieren. Trotz hoher Genauigkeiten der eingesetzten Neuronalen Netze gestaltet sich eine Diagnose im Fehlerfall oftmals schwierig und hemmt so die Verbreitung der Algorithmen. Eine von IDS entwickelte intuitive Visualisierung in Form sogenannter Attention Maps (Heat Maps) soll es erm\u00f6glichen, kritische Entscheidungen leichter nachzuvollziehen, um damit die Akzeptanz Neuronaler Netze im industriellen Umfeld zu erh\u00f6hen. Um die Leistung des Heat Map-Verfahrens bewerten zu k\u00f6nnen, fehlt ein verl\u00e4ssliches Standardverfahren, welches die Anspr\u00fcche einer industriellen Umgebung repr\u00e4sentiert.<\/p>\n\n\n\n

<\/p>\n\n\n\n

L\u00f6sungsidee<\/h4>\n\n\n\n

Ziel ist es, zu \u00fcberpr\u00fcfen, ob der Einsatz von Attention Maps die Erkennung von Adversarial Attacks sowie verzerrten (engl. biased) Vorhersagen des Neuronalen Netzes erlaubt. Zu diesem Zweck werden verschiedene Methoden zur Erzeugung von Attention Maps anhand zuvor definierter Metriken miteinander verglichen. Um die Pr\u00fcfung durchf\u00fchren zu k\u00f6nnen, m\u00fcssen zudem Techniken zur Erzeugung von Adversarial Attacks und zur Erstellung Neuronaler Netze mit k\u00fcnstlichen Fehlern (Bias) eingesetzt werden. Vielversprechende Techniken und Metriken k\u00f6nnen zu einem Testprozess zusammengef\u00fchrt werden, welcher die G\u00fcte von Heat Map-Verfahren nachvollziehbar quantifiziert.<\/p>\n\n\n\n

<\/p>\n\n\n\n

Projektnutzen<\/h4>\n\n\n\n