Solution: Trusted AI by TÜV AUSTRIA
Solution: Trusted AI by TÜV AUSTRIA
Künstliche Intelligenz auf dem Prüfstand
Das weltweit erste Machine Learning Zertifizierungsschema
TRUSTED AI by TÜV AUSTRIA ist das weltweit erste Machine Learning (ML) Zertifizierungsschema. Wir haben uns dabei bewusst für den Start der Zertifizierung bei Supervised Learning Modellen entschieden, da diese bereits in vielen technologische Anwendungen in der Industrie zu finden sind. Sie zeichnen sich durch klar definierte Problemdefinitionen aus und erlauben eine formale Interpretation und Validierung. Das Zertifikat TRUSTED AI by TÜV AUSTRIA bestätigt Robustheit, Sicherheit und Eignung einer zertifizierten AI Anwendung für definierte Verwendungszwecke und Einsatzgebiete. Derzeit beschränkt sich unsere Zertifizierung noch auf Supervised Learning Modelle, weitere ML-Modelle werden sukzessive folgen.
Ablauf Zertifizierungsverfahren "TRUSTRED AI by TÜV AUSTRIA"
- 1.
Überprüfung des Anforderungskatalogs
- 2.
Audit (Dokumentation & Interviews)
- 3.
Technische Inspektion (Machine Learning Artefakte & Schutz gegen Manipulation)
- 4.
Zertifikatsausstellung
- 5.
Jährliches Monitoring-Audit
- 6.
Re-Zertifizierung nach drei Jahren
TRUSTED AI by TÜV AUSTRIA Zertifikat
Sicherheit für Entwickler und Betreiber
TRUSTED AI by TÜV AUSTRIA bestätigt unabhängig den Entwicklern von AI Anwendungen die Güte und Eignung ihrer AI Anwendung für die angegeben Einsatzzwecke.
Nutzern und Betreibern der zertifizierten KI Applikation bietet die unabhängige TÜV AUSTRIA Zertifizierung Orientierung und Gewissheit über die Güte, Sicherheit und Eignung ihrer genutzten Anwendung. Dies bringt Investitionssicherheit auch gerade bei der Auswahl geeigneter Entwicklungspartner und Applikationen.
Sicherheit in der Software-Entwicklung
21 Prüfkategorien für den Schutz gegen Manipulation von außen
- Risikobewertung der Anwendung
- Technische Stabilität und Sicherheit
- Sicherheits-Tests der Software
- Abgesicherte Entwicklungsumgebungen
- Sichere Nutzung von Cloudtechnologien
- Übergabe und Monitoring im Betrieb beim Kunden
Funktionale Anforderungen an KI
12 Prüfkategorien für Daten, Methodik, Modellauswahl & Dokumentation
- Daten: Erfassung, Vorverarbeitung, Analyse
- Modell: Auswahl, Anforderungen, qualitative Inspektion und Bereitstellung
- Fehlerbehandlung
- Dokumentation und Kommunikation
- Erklärbarkeit und Interpretierbarkeit
Verarbeitung von personenbezogener Informationen
9 Prüfkategorien für Ethik-Anforderungen
- Grundrechte
- Priorität des menschlichen Handelns
- Vermeidung objektiv ungerechtfertigter Diskriminierung
- Zugänglichkeit (Barrierefreiheit)
- Berücksichtigung der Interessenträger
Datenschutz
14 Prüfkategorien für den Schutz der Daten
- Datenschutz by design oder by default
- Datenminimierung
- Rechte der betroffenen Personen
- Automatisierte Entscheidungen im Einzelfall einschließlich Profilerstellung
- Prüfungen zu Auftragsdatenverarbeitung
- Erkennung von Datenschutzverletzungen
Whitepaper
Das Whitepaper “Towards Certification of Machine Learning Applications” in Zusammenarbeit von TÜV AUSTRIA und JKU