Neue Regeln durch KI-Verordnung sind in Kraft
Immer mehr Unternehmen setzen im Unternehmensalltag künstliche Intelligenz (kurz: KI) ein. Seit dem 2. Februar 2025 sind erste Regelungen der vor einem Jahr durch das EU-Parlament verabschiedeten EU-KI-Verordnung in Kraft getreten. Sie stellt Regeln für den sicheren und transparenten Einsatz von Künstlicher Intelligenz auf, die Missbrauch verhindern und Vertrauen in KI-Technologien stärken soll. Die neuen Regeln gelten unabhängig von der Branche und der Unternehmensgröße und sind damit auch im Handwerk von Relevanz.
Hier sind die wichtigsten Punkte der ersten Regelungsstufe, die aktuell alle Unternehmen kennen sollten, wenn sie KI einsetzen:
Nicht jede KI ist gleich riskant – deshalb unterscheidet die EU verschiedene Risikostufen. Je nach Kategorie und Einsatz von KI gelten unterschiedliche Anforderungen an Transparenz, Sicherheit und Dokumentation.
Die Skala der Risikostufen reicht von
- sog. Hochrisiko-KI-Anwendungen (manipulative oder unterschwellige Techniken, um das Verhalten von Personen zu beeinflussen oder das sog. Social Scoring
- KI-Systeme mit begrenztem Risiko (z.B. Interaktionen mit Chatbots oder KI-generierten Texten oder Audio - u. Videoinhalten)
- bis hin zum minimalen Risiko, wie z.B. bei KI-gestützten Spam- Filter.
Hochrisiko-Anwendungen sind verboten; mindestens jedoch gelten strenge Bestimmungen.
Für KI-Systeme mit begrenztem Risiko gelten lediglich Transparenzpflichten.
So sollen alle darüber informiert werden, wenn sie mit einer KI interagieren oder ihr begegnen und über die weitere Nutzung entscheiden oder Informationen einholen können.
Für KI-Systeme mit minimalem Risiko gelten keine Vorschriften.
Doch unabhängig von einer Risikoklassifizierung ist seit dem 2.Februar jedoch von allen Betreibern beim Einsatz von KI-Systemen Folgendes zu beachten:
Es besteht die Pflicht, „nach besten Kräften sicherzustellen“, dass im Betrieb ausreichende KI- Kompetenz bei den Personen vorhanden ist, die KI wie z.B. ChatGPT, DeepL etc. nutzen. Dabei sind technische Vorkenntnisse, Erfahrungen, Qualifikationen zu berücksichtigen, ansonsten aber Schulungen der Mitarbeiter zu organisieren.
Nicht unerwähnt bleiben darf, dass bei Nichteinhaltung dieser Vorgaben nicht unerhebliche Bußgelder drohen.
Unsere Empfehlung:
Zunächst sollte sich jeder Unternehmer einen Überblick über seine jeweils eingesetzten KI-Systeme und deren Risikoklassifizierung verschaffen.
In einem weiteren Schritt sind alle Mitarbeiter und sonstige Anwender der KI- Systeme entsprechend zu informieren und ggfs. zu schulen.
