Table of Contents
Was bedeutet der AI Act für Unternehmen, die KI entwickeln?
Wenn Sie selbst ein KI-System entwerfen, entwickeln oder entwickeln lassen, gelten Sie nach der Verordnung über künstliche Intelligenz (AI Act) als Anbieter. Das bedeutet, dass Sie für die Sicherheit, Qualität und Zuverlässigkeit des Systems verantwortlich sind, bevor es auf den Markt gebracht oder in Betrieb genommen wird. Dies gilt sowohl für Start-ups, die ein neues KI-Produkt entwickeln, als auch für Unternehmen, die ein bestehendes Modell für ihre eigene Anwendung anpassen.
Möchten Sie mehr über Ihre Verantwortung als Anbieter erfahren?
Lesen Sie den Leitfaden zum AI Act (auf Französisch) (PDF, 1.14 MB), um sich einen klaren Überblick zu verschaffen.
Wann gelten Sie nach dem AI Act als Anbieter eines KI-Systems?
Sie sind ein Anbieter eines KI-Systems, wenn Sie:
- das System von Grund auf neu entwickeln
- eine bestehende Vorlage in Ihre Anwendung integrieren
- ein bestehendes System wesentlich verändern (über eine einfache Konfiguration hinaus)
- das System unter Ihrem eigenen Namen vermarkten
Dies gilt sowohl für kommerzielle Tools als auch für Systeme, die ausschließlich intern genutzt werden.
Wie wird festgestellt, ob Ihr KI-System ein hohes Risiko darstellt?
Der AI Act unterscheidet klar zwischen Hochrisiko-KI-Systemen und Systemen mit niedrigem Risiko. Viele professionelle Anwendungen fallen in eine dieser beiden Kategorien:
KI-Systeme mit hohem Risiko
Der AI Act legt Kriterien fest, anhand derer ein KI-System als hochriskant eingestuft wird. Dazu gehören insbesondere:
- KI-Systeme, die in Produkte integriert sind, die den bestehenden europäischen Sicherheitsvorschriften unterliegen, wie z. B. Maschinen oder medizinische Geräte
- KI-Systeme, die in sensiblen Bereichen wie Bildung, Beschäftigung, Kreditwesen, Gesundheitsfürsorge, Strafverfolgung oder Biometrie eingesetzt werden
KI mit geringem Risiko
- Unterstützungswerkzeuge mit begrenztem Risiko, wie generative KI oder Chatbots
- Systeme, die lediglich Empfehlungen geben oder vorbereitende Aufgaben erfüllen
- Systeme, in denen der Mensch die Entscheidungsfindung vollständig beibehält
Laden Sie den Leitfaden zum AI Act „Der AI Act - auch für mich? - Leitfaden für Unternehmer“ herunter (auf Französisch) (PDF, 1.14 MB) und erfahren Sie, wie Sie das Risikoniveau Ihres Systems richtig bestimmen.
Welche Pflichten haben Anbieter von KI-Systemen mit hohem Risiko?
Als Anbieter eines KI-Systems mit hohem Risiko müssen Sie nachweisen können, dass Ihr System sicher, kontrollierbar und transparent funktioniert. Sie müssen insbesondere:
- ein umfassendes Risikomanagementsystem einrichten
- repräsentative, korrekte und aktuelle Trainingsdaten verwenden
- eine vollständige technische Dokumentation verfassen
- ein System der Aufzeichnung und Rückverfolgbarkeit vorsehen
- klare Anweisungen und transparente Informationen bereitstellen
- sicherstellen, dass eine menschliche Kontrolle jederzeit möglich bleibt
- Genauigkeit, Robustheit und Cybersicherheit gewährleisten
- ein Qualitätsmanagementsystem entwickeln
- das System nach der Inbetriebnahme kontinuierlich überwachen
Welche Systeme gelten nicht als Hochrisiko-KI?
Ein KI-System gilt nicht als Hochrisiko-KI-System, wenn es:
- sich auf das Sortieren oder Strukturieren von Daten beschränkt
- Beratung bietet, ohne menschliche Entscheidung zu ersetzen
- ausschließlich für interne Optimierungszwecke (Z. B. Personalplanung oder Dokumentationsverwaltung) verwendet wird
- keine Auswirkungen auf die Rechte, die Sicherheit oder die Handlungsmöglichkeiten von Personen hat
Dennoch ist es weiterhin wichtig, bewährte Praktiken in Bezug auf Datenqualität, Dokumentation und Transparenz zu übernehmen.
Welche Maßnahmen müssen Sie als Anbieter jetzt ergreifen, um die Vorschriften einzuhalten?
Ein strukturierter Ansatz hilft Ihnen dabei, zukünftige Verpflichtungen und Risiken in den Griff zu bekommen. Beginnen Sie mit den folgenden Maßnahmen:
- Erstellen Sie eine Liste aller von Ihnen entwickelten oder integrierten KI-Systeme.
- Nehmen Sie für jedes System eine korrekte Risikoeinstufung vor.
- Definieren Sie Prozesse für Dokumentation, Datenverwaltung und Überwachung.
- Entwickeln Sie ein Qualitäts- und Risikomanagementsystem.
- Treffen Sie klare Vereinbarungen über die Wartung, Aktualisierung und Überwachung der einzelnen Systeme.
Sie möchten sicherstellen, dass Ihr Entwicklungsprozess mit dem AI Act konform ist?
Laden Sie den Leitfaden „Der AI Act - auch für mich? - Leitfaden für Unternehmer“ (auf Französisch) herunter (PDF, 1.14 MB) und sorgen Sie dafür, dass Ihr Unternehmen die Regeln für KI in der EU einhält.
