Neue Herausforderungen für KI-Validierung
<b
Die Veranstaltung „KI-Regulierung in Europa“ hat gezeigt, dass die Validierung von KI-Systemen ein wichtiger Bestandteil eines anerkannten Prozessmodells (CRISP-DM) ist. Es ist jedoch nicht genug, KI-Modelle nur vor der Inbetriebnahme zu überprüfen. Aufgrund des Phänomens des so genannten „Model-Drifts“ müssen KI-Modelle auch während ihres Einsatzes stetig überwacht werden.
Ein weiteres interessantes Thema, das bei der Veranstaltung angesprochen wurde, sind „Modelleinblicke“. Diese können durch Feature Importance oder SHAP Values bereitgestellt werden und ermöglichen eine tiefere Einsicht in die Funktionsweise von KI-Modellen. Obwohl sie aktuell noch Gegenstand der Forschung sind, können sie bereits stabil implementiert werden.
Auch im EU AI Act wird die stetige Überwachung von Modellen im Einsatz vorgeschlagen. Dies beinhaltet eine Vorab-Konformitätsbewertung, um sicherzustellen, dass die Anforderungen erfüllt sind, bevor das Modell auf den Markt eingeführt wird. Außerdem wird eine stetige Überwachung im gesamten Lebenszyklus des Modells empfohlen, um sicherzustellen, dass es auch nach seiner Einführung korrekt funktioniert.
Insgesamt hat die Veranstaltung „KI-Regulierung in Europa“ gezeigt, dass die Validierung und Überwachung von KI-Systemen ein wichtiger Aspekt für eine sichere und effektive Nutzung von KI ist. Es bleibt abzuwarten, wie die EU diese Themen in ihrem AI Act weiter verfolgen wird, aber es ist klar, dass die Regulierung von KI in Europa immer wichtiger wird.
UnternehmenDigital GmbH ist eine Spezialagentur für Digitalisierung und Automation von Vertriebs- und Marketingprozessen. Wir entwerfen, konstruieren, bauen und pflegen Automationen für Leadgenerierung, Leadveredelung bis zum After Sales. Von der Kaltakquise bis zum Partnermanagement – voll digital und skalierbar.
