15.06.2023 KI-Verordnung – Innovationsbremse oder erforderlicher Eingriff?
Das Europäische Parlament hat gestern nach rund 18 Monate dauernden Verhandlungen das Gesetzespaket zur geplanten Regulierung Künstlicher Intelligenz verabschiedet. Vorgelegt wurde der Entwurf von der EU-Kommission. Die KI-Regulierung gilt als gesetzgeberisches Novum, denn erstmals werden darin unter anderem Regeln zur Produktsicherheit und zum Schutz von Menschenrechten zusammengeführt. Damit soll auf die Anforderungen in Entwicklung und Anwendung von KI-Systemen reagiert werden. Doch das nun durchgewunkene Gesetzespaket für alle Länder der EU bringt unterschiedliche Abstufungen beim KI-Einsatz mit sich, insbesondere mit Blick auf Verbraucherschutz und Haftung.
Dazu kommentiert Dr. Sebastian Cording, Partner und Fachanwalt für IT-Recht bei der Wirtschaftskanzlei CMS: „Das EU-Parlament hat den risikobasierten Ansatz der Kommission beibehalten, der die tragende Säule der KI-Verordnung darstellt. Maßgeblich für die Einordnung des Risikos soll aber nun nicht mehr allein sein, in welchem Bereich die KI eingesetzt werden soll, sondern auch, was die konkreten Anwendungsgebiete der KI sind und welche Risiken mit diesen verbunden sind.“
Mit Blick auf die angestrebten Transparenzpflichten für Anbieter von KI-Systemen hebt CMS-Partner Cording hervor: „Eines der Grundprobleme des Einsatzes von KI, dass selbst die Entwickler der KI nicht wissen, wie die KI zu bestimmten Ergebnissen oder Entscheidungen kommt, lässt sich durch Regulierung nicht lösen – Unmögliches zu verlangen ist kein erfolgversprechendes Konzept. Ein erster und wichtiger Schritt im Hinblick auf Transparenz ist aber zumindest, dass Verbraucher und andere Nutzer jederzeit wissen, ob sie gerade mit einem Menschen oder einer KI kommunizieren.“
Zudem betont CMS-Anwalt Cording: „Der Wunsch, KI-Systeme sinnvoll zu regulieren, um insbesondere den mit KI verbundenen Gefahren zu begegnen, gleichzeitig aber die EU als führenden Player im Bereich der KI-Entwicklung zu etablieren, ist eine riesige Herausforderung und es ist noch völlig offen, ob die geplante KI-Verordnung diese Ziele auch nur annähernd erreichen wird.“
Unternehmen, die derzeit auf KI-Tools setzen oder planen, diese einzusetzen, rät Dr. Sebastian Cording von CMS: „Bei Inkrafttreten der KI-Verordnung bereits am Markt befindliche KI-Systeme werden voraussichtlich privilegiert, so dass es sinnvoll sein kann, möglichst schnell zu sein. Gleichzeitig sollten die weiteren Schritte des EU-Verordnungsgebers genau beobachtet werden, um auf die regulatorischen Anforderungen vorbereitet zu sein, wenn sie in Kraft treten.“
Dazu kommentiert Dr. Sebastian Cording, Partner und Fachanwalt für IT-Recht bei der Wirtschaftskanzlei CMS: „Das EU-Parlament hat den risikobasierten Ansatz der Kommission beibehalten, der die tragende Säule der KI-Verordnung darstellt. Maßgeblich für die Einordnung des Risikos soll aber nun nicht mehr allein sein, in welchem Bereich die KI eingesetzt werden soll, sondern auch, was die konkreten Anwendungsgebiete der KI sind und welche Risiken mit diesen verbunden sind.“
Mit Blick auf die angestrebten Transparenzpflichten für Anbieter von KI-Systemen hebt CMS-Partner Cording hervor: „Eines der Grundprobleme des Einsatzes von KI, dass selbst die Entwickler der KI nicht wissen, wie die KI zu bestimmten Ergebnissen oder Entscheidungen kommt, lässt sich durch Regulierung nicht lösen – Unmögliches zu verlangen ist kein erfolgversprechendes Konzept. Ein erster und wichtiger Schritt im Hinblick auf Transparenz ist aber zumindest, dass Verbraucher und andere Nutzer jederzeit wissen, ob sie gerade mit einem Menschen oder einer KI kommunizieren.“
Zudem betont CMS-Anwalt Cording: „Der Wunsch, KI-Systeme sinnvoll zu regulieren, um insbesondere den mit KI verbundenen Gefahren zu begegnen, gleichzeitig aber die EU als führenden Player im Bereich der KI-Entwicklung zu etablieren, ist eine riesige Herausforderung und es ist noch völlig offen, ob die geplante KI-Verordnung diese Ziele auch nur annähernd erreichen wird.“
Unternehmen, die derzeit auf KI-Tools setzen oder planen, diese einzusetzen, rät Dr. Sebastian Cording von CMS: „Bei Inkrafttreten der KI-Verordnung bereits am Markt befindliche KI-Systeme werden voraussichtlich privilegiert, so dass es sinnvoll sein kann, möglichst schnell zu sein. Gleichzeitig sollten die weiteren Schritte des EU-Verordnungsgebers genau beobachtet werden, um auf die regulatorischen Anforderungen vorbereitet zu sein, wenn sie in Kraft treten.“
