Bereits im April 2021 hat die EU-Kommission ein Gesetz zur Regulierung von KI-Systemen vorgeschlagen. Nach intensiven Verhandlungen konnte am 8. Dezember nun endlich eine Einigung erzielt werden. Das Ergebnis, der AI Act, wird weitreichende Auswirkungen auf den globalen Technologiebereich haben. Näheres erfahren Sie hier:
Künstliche Intelligenz (KI) wird seit Jahren in vielen Bereichen eingesetzt. Durch die Veröffentlichung des Chatbots ChatGPT rückte das Thema im letzten Jahr noch weiter in den Vordergrund. Das Thema ist keine Spezialmaterie der rechtlichen und technischen Diskussion mehr, sondern wird in der gesamten Gesellschaft breit diskutiert. Neben den positiven Erscheinungen dieser Entwicklung bringt diese Technoloie aber auch Gefahren mit sich. Die EU hat erkannt, dass aufgrund der rasanten Entwicklungen und den damit verbundenen Risiken ein rechtlicher Rahmen notwendig ist, der einen verantwortungsvollen Einsatz von KI gewährleisten soll.
Durch den AI-Act (deutsch: KI-Verordnung) soll künftig der Einsatz von Künstlicher Intelligenz in der EU streng reguliert werden. Es soll sichergestellt werden, dass KI-Systeme keine Urheberrechte verletzen. Zusätzlich soll gewährleistet werden, dass KI-Tools nicht diskriminierend, manipulativ oder sonst schädlich sind. Ziel ist es, die Sicherheit und Grundrechte der Menschen weitgehend zu schützen.
Hinsichtlich der Anforderungen an die KI-Systeme erfolgt eine Einteilung in verschiedene Risikoklassen und zwar abhängig von den potenziellen Auswirkungen auf die Rechte und Freiheiten von Personen. Für Hochrisiko-KI-Systeme wie etwa autonomes Fahren oder medizinische Diagnosesysteme sind strengere Vorschriften vorgesehen. Derartige Systeme haben weitreichende Transparenz- und Kennzeichnungspflichten und zusätzliche Anforderungen bezüglich Cybersecurity einzuhalten.
Bestimmte KI-Tools werden sogar gänzlich verboten. Dazu zählen etwa die aus Asien bekannten Social-Scoring-Systeme, die Menschen anhand ihres Verhaltens, sozioökonomischen Status oder persönlicher Merkmale einordnen sowie Fernidentifikationssysteme, welche auf Basis biometrischer Daten wie Gesichtserkennung funktionieren. Nicht gelten soll dieses Verbot aber, sofern das Tool zur Verfolgung schwerer Straftaten eingesetzt wird.
Einige Details der nunmehr erfolgten politischen Einigung müssen noch ausgearbeitete werden. In-Krafttreten soll der AI Act erst in zwei Jahren, wobei bestimmte Teile bereits früher gelten sollen.
Für Unternehmen, die KI-Tools entwickeln oder einsetzen, empfiehlt es sich, diese Systeme bereits jetzt entsprechend den Vorgaben anzupassen, um insbesondere den Transparenzerfordernissen gerecht zu werden und die durch den AI-Act normierten Strafen zu vermeiden. Dabei unterstützen wir Sie gerne.