"KI-Regulierung in Europa: Was bedeutet das für die Validierung von KI-Systemen?
Die Veranstaltung “KI-Regulierung in Europa” hat gezeigt, dass die Validierung von KI-Systemen ein wichtiger Bestandteil eines anerkannten Prozessmodells (CRISP-DM) ist. Es ist jedoch nicht genug, KI-Modelle nur vor der Inbetriebnahme zu überprüfen. Aufgrund des Phänomens des so genannten “Model-Drifts” müssen KI-Modelle auch während ihres Einsatzes stetig überwacht werden.
Vortrag verpasst?! Laden Sie den Vortrag hier kostenlos herunter.
Ein weiteres interessantes Thema, das bei der Veranstaltung angesprochen wurde, sind “Modelleinblicke”. Diese können durch Feature Importance oder SHAP Values bereitgestellt werden und ermöglichen eine tiefere Einsicht in die Funktionsweise von KI-Modellen. Obwohl sie aktuell noch Gegenstand der Forschung sind, können sie bereits stabil implementiert werden.
Auch im EU AI Act wird die stetige Überwachung von Modellen im Einsatz vorgeschlagen. Dies beinhaltet eine Vorab-Konformitätsbewertung, um sicherzustellen, dass die Anforderungen erfüllt sind, bevor das Modell auf den Markt eingeführt wird. Außerdem wird eine stetige Überwachung im gesamten Lebenszyklus des Modells empfohlen, um sicherzustellen, dass es auch nach seiner Einführung korrekt funktioniert.
Vortrag verpasst?! Laden Sie den Vortrag hier kostenlos herunter.
UnternehmenDigital GmbH ist eine Spezialagentur für Digitalisierung und Automation von Vertriebs- und Marketingprozessen. Wir entwerfen, konstruieren, bauen und pflegen Automationen für Leadgenerierung, Leadveredelung bis zum After Sales. Von der Kaltakquise bis zum Partnermanagement – voll digital und skalierbar.