{"id":2549,"date":"2021-04-27T09:05:16","date_gmt":"2021-04-27T07:05:16","guid":{"rendered":"https:\/\/websites.fraunhofer.de\/stec\/?post_type=projects&p=2549"},"modified":"2023-03-10T13:51:21","modified_gmt":"2023-03-10T12:51:21","slug":"evidence-based-safety-assurance-of-ai-methods","status":"publish","type":"projects","link":"https:\/\/s-tec.de\/en\/projects\/evidence-based-safety-assurance-of-ai-methods\/","title":{"rendered":"Evidence-based safety assurance of AI methods"},"content":{"rendered":"\n\n
\n
\n
<\/div><\/div>\n\n\n\n

Ausgangssituation<\/h4>\n\n\n\n

Vor der industriellen Marktreife einer neuen Technologie ist es n\u00f6tig, \u00fcberzeugend darstellen zu k\u00f6nnen, dass die Anwendung der Technologie sicher ist. Dies kann durch Assurance Cases geschehen, welche mithilfe von Metriken und Nachweisen eine Argumentationsstruktur aufbauen, um die Sicherheit einer Applikation zu gew\u00e4hrleisten. Das Vertrauen in einen solchen Nachweis h\u00e4ngt stark von den eingesetzten Beweisen und Metriken ab. Eine allgemein akzeptierte Argumentationsstruktur f\u00fcr einen solchen Nachweis im Bereich der K\u00fcnstlichen Intelligenz (KI)<\/a> existiert aktuell noch nicht, unter anderem ist unklar, welche Beweise und Metriken hierf\u00fcr eingesetzt werden k\u00f6nnen. Beispielsweise kann ein akzeptables Restrisiko f\u00fcr den Einsatz von Methoden der KI (z.B. Deep Neural Networks, Bayesian Networks, Support Vector Machines) aktuell in der Sicherheitstechnik nicht nachgewiesen werden. Dies hemmt den Einsatz dieser vielversprechenden Technologie in der Sicherheitstechnik.<\/p>\n\n\n\n

\"\"
\u00a9 SICK AG<\/figcaption><\/figure>\n\n\n\n

Projektablauf<\/h4>\n\n\n\n

Die Beweisf\u00fchrungsmethode der Goal Structuring Notation (GSN) wurde f\u00fcr eine F\u00f6rderbandapplikation untersucht. Die F\u00f6rderbandanwendung wird mithilfe zweier Laserscanner \u00fcberwacht, welche die sicherheitskritische Abschaltung im Falle einer Person auf dem F\u00f6rderband gew\u00e4hrleisten. Grundlage hierf\u00fcr war die Beweisf\u00fchrung f\u00fcr einen Automobil-Anwendungsfall nach Gauerhof 20181. Die GSN wurde f\u00fcr ihre Eignung im station\u00e4ren Bereich angepasst und um neue Zusammenh\u00e4nge erweitert. Hierf\u00fcr wurde die GSN in drei Kategorien unterteilt: <\/p>\n\n\n\n