Der Artificial Intelligence Act: Die Zukunft der KI-Regulierung in Europa und der Schweiz

Welche Verpflichtungen haben Unternehmen?

Unternehmen, die KI-Systeme entwickeln oder nutzen, müssen je nach Risikoklasse verschiedene Anforderungen erfüllen:

• Hochrisiko-KI: Unternehmen müssen umfassende Risikobewertungen durchführen, detaillierte Dokumentationen über den Einsatz der KI führen, Transparenz gewährleisten und sicherstellen, dass menschliche Aufsicht besteht. Zudem müssen sie Mechanismen zur laufenden Überprüfung und Nachbesserung der KI einführen.
• Generative KI (z. B. ChatGPT, DALL·E, Gemini): Anbieter müssen ihre Trainingsdaten offenlegen, sicherstellen, dass keine urheberrechtlich geschützten Werke ohne Genehmigung genutzt wurden, und KI-generierte Inhalte eindeutig kennzeichnen. Dies betrifft insbesondere Text-, Bild- und Video-Generatoren, die in kreativen oder journalistischen Bereichen Anwendung finden.
• Daten- und Transparenzanforderungen: Unternehmen müssen sicherstellen, dass die verwendeten Trainings- und Entscheidungsdaten nicht diskriminierend sind und keine Verzerrungen enthalten, die zu unfairen Ergebnissen führen können.
• Cybersecurity und Datenschutz: KI-Anwendungen müssen so konzipiert sein, dass sie keine Sicherheitslücken aufweisen und die Daten der Nutzer bestmöglich schützen. Gerade im Bereich personenbezogener Daten müssen Unternehmen sicherstellen, dass die Verarbeitung den Datenschutzgesetzen (z. B. DSGVO oder nDSG in der Schweiz) entspricht.
• Meldepflichten und Überwachung: Unternehmen, die Hochrisiko-KI nutzen, müssen sich einer regelmässigen Kontrolle unterziehen und gegebenenfalls Bericht erstatten. Zudem können nationale oder europäische Behörden Stichproben und Audits durchführen.

Strafen bei Nichteinhaltung

Unternehmen, die gegen den AI-Act verstossen, müssen mit erheblichen finanziellen Konsequenzen rechnen. Die Strafen können bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes betragen, je nachdem, welcher Betrag höher ist. Besonders schwerwiegende Verstösse, wie die Nutzung verbotener KI-Systeme, ziehen die höchsten Strafen nach sich. Aber auch Unternehmen, die Hochrisiko-KI ohne die erforderlichen Sicherheitsmassnahmen einsetzen oder Transparenzpflichten missachten, können mit empfindlichen Sanktionen rechnen. Fehlende Kennzeichnungen, beispielsweise bei generativen KI-Modellen oder Deepfakes, stellen ebenfalls eine Verletzung der Vorschriften dar und können zu hohen Bussgeldern führen. Wiederholte Verstösse oder vorsätzliche Umgehungen der gesetzlichen Vorgaben können zusätzliche Sanktionen wie Betriebseinschränkungen oder sogar Verkaufsverbote für bestimmte KI-Anwendungen nach sich ziehen.

Auswirkungen auf Unternehmen und Entwickler

Der AI-Act bringt klare Regeln und rechtliche Sicherheit für den Einsatz von KI in der EU. Unternehmen müssen ihre KI-Technologien sorgfältig überprüfen und anpassen, um sicherzustellen, dass sie den neuen Anforderungen entsprechen. Dies betrifft insbesondere die Transparenz und Nachvollziehbarkeit der eingesetzten Algorithmen sowie die Sicherstellung der Datensicherheit und des Datenschutzes.

Für Unternehmen bedeutet dies, dass sie verstärkt auf die Risikokategorisierung ihrer KI-Systeme achten müssen. Systeme, die als hochriskant eingestuft werden, unterliegen strengeren Auflagen, wie der regelmässigen Überprüfung und der Dokumentation der Entscheidungsprozesse. Unternehmen müssen auch sicherstellen, dass sie angemessene Massnahmen zur Vermeidung von Diskriminierung und Verzerrung in ihren KI-Systemen treffen.

Für Entwickler stellt der AI-Act eine grössere Verantwortung in der Gestaltung von KI-Anwendungen dar. Sie müssen sicherstellen, dass ihre Systeme ethisch vertretbar sind und keine negativen Auswirkungen auf die Gesellschaft oder Einzelpersonen haben. Auch die Zusammenarbeit mit Rechtsabteilungen und Datenschutzexperten wird zunehmend wichtig, um sicherzustellen, dass alle rechtlichen Anforderungen erfüllt werden.

Zusammengefasst bringt der AI-Act für Unternehmen und Entwickler sowohl Chancen als auch Herausforderungen. Während die rechtlichen Klarstellungen die Entwicklung von KI-Technologien in der EU erleichtern, müssen Unternehmen und Entwickler auch in Compliance-Massnahmen investieren, um sich an die neuen Vorschriften anzupassen und Risiken zu minimieren.

Die Situation in der Schweiz

In der Schweiz gibt es kein eigenes KI-Gesetz, das mit dem AI-Act vergleichbar wäre. Allerdings orientiert sich das Schweizer Datenschutzgesetz (nDSG), das seit dem 1. September 2023 in Kraft ist, stark an der EU-DSGVO. Unternehmen, die in der Schweiz KI einsetzen, müssen daher sicherstellen, dass ihre Systeme sowohl den Anforderungen des nDSG als auch internationalen Standards entsprechen. Zudem werden künftige Entwicklungen zeigen, ob die Schweiz eigene spezifische Regelungen für KI erlässt oder sich eng an den EU-Act anlehnt.

Fazit

Der AI-Act ist ein Meilenstein in der Regulierung von Künstlicher Intelligenz. Unternehmen sollten sich frühzeitig mit den neuen Vorschriften auseinandersetzen, um Compliance sicherzustellen und innovative KI-Lösungen weiterhin erfolgreich auf den Markt zu bringen. In der Schweiz bleibt die Entwicklung spannend, und es ist ratsam, sich an den EU-Standards zu orientieren.

Sind Sie auf den AI-Act vorbereitet? Jetzt handeln und KI-Strategien anpassen. Kontaktieren Sie uns für eine unverbindliche Beratung.