Der TÜV-Verband, das Bundesamt für Sicherheit in der Informationstechnik (BSI) und das Fraunhofer Heinrich-Hertz-Institut haben ein Konzept für die Prüfbarkeit von Künstlicher Intelligenz (KI) erarbeitet.

In dem zugehörigen Whitepaper zur „Certification Readiness Matrix“ (CRM) sei beschrieben, welche Prüfmethoden und Werkzeuge vorhanden seien, um Sicherheitsaspekte von Künstlicher Intelligenz beurteilen und zertifizieren zu können und in welchen Bereichen noch Forschungs- und Entwicklungsbedarf bestehe, teilen die Beteiligten mit. Das Whitepaper zur Prüfbarkeit wurde auch vor dem Hintergrund erarbeitet, dass die geplante Regulierung von KI-Anwendungen in der Europäischen Union ansteht. „Die Prüfmatrix unterstützt die praktische Umsetzung der KI-Verordnung und zukünftiger Gesetzgebungsprozesse in der EU“, sagt Patrick Gilroy, Referent Künstliche Intelligenz und Bildung beim TÜV-Verband.

Im Rahmen der KI-Verordnung werde geregelt, wie die Sicherheit von besonderes kritischen KI-Anwendungen gewährleistet werden soll. Dazu zählen etwa die Steuerung von Fahrzeugen, medizinische Anwendungen, biometrische Verfahren oder Roboter, die mit Menschen zusammenarbeiten. Je nach Risikoklasse der jeweiligen KI-Systeme sollen unterschiedliche Vorgaben gelten, so der Experte.

Das Whitepaper und die darin abgebildete Certification Readiness Matrix seien im Rahmen einer gemeinsamen Workshop-Reihe von BSI, Fraunhofer HHI und TÜV-Verband entstanden, die jährlich anlässlich der „TÜV AI Conference“ stattfinde. Das Whitepaper ist hier abrufbar.

Der Beitrag Konzept zur Prüfbarkeit von KI vorgestellt erschien zuerst auf Linux-Magazin.