Das EU-Parlament hat am Mittwoch einen Vorschlag für ein Gesetz zu Künstlicher Intelligenz (KI) beschlossen. Demnach soll KI zur biometrischen Überwachung, Emotionserkennung und vorhersagenden Polizeiarbeit weitgehend verboten werden. Weiterhin sollen generative KI-Systeme wie ChatGPT offenlegen müssen, dass der Inhalt durch KI generiert wurde.
Antwort auf Risiken
Zudem werden Anwendungen, die zur Beeinflussung von Wählern bei Wahlen eingesetzt werden können, als „hochriskant“ eingestuft.
„Alle Augen sind heute auf uns gerichtet. In Zeiten, in denen führende Technologieunternehmen vor den Gefahren ihrer eigenen Schöpfungen warnen, hat Europa die Initiative ergriffen und eine konkrete Lösung für die beginnenden Risiken, die von KI ausgehen, vorgestellt. Wir wollen, dass das positive Potenzial der KI für Kreativität und Produktivität genutzt wird, aber wir werden auch unsere Standpunkte verteidigen und jegliche Bedrohungen für unsere Demokratien und Freiheiten im Zuge der Verhandlungen mit dem Rat abwehren.“
.... kommentierte der italienische Abgeordnete Brando Benifei die Ergebnisse.
Erster Vorschlag vor zwei Jahren
Vor zwei Jahren hatte die EU-Kommission einen Vorschlag für ein weltweit erstes Gesetz zur Regulierung von KI vorgelegt. Nach der Einigung im Parlament können nun die Verhandlungen mit den Mitgliedsstaaten und der Kommission über den endgültigen Wortlaut des Gesetzes beginnen.
Ausnahmen für Forschung und Open Source
Das Parlament integrierte Sonderbestimmungen, um KI-Innovationen anzukurbeln und kleine sowie mittlere Unternehmen zu begünstigen. Diese Ausnahmen beziehen sich auf Forschungsaktivitäten und KI-Komponenten, die unter Open-Source-Lizenzen verfügbar gemacht werden. Des Weiteren unterstützen die neu eingeführten Regelungen die Schaffung von sogenannten "Reallaboren", in welchen Behörden die Möglichkeit haben, KI-Anwendungen unter praxisnahen Bedingungen zu erproben, bevor diese zum Einsatz kommen.
Pflichten für ChatGPT & Co.
Anbieter, die sich auf Basismodelle spezialisieren, müssen in Zukunft potenzielle Risiken - in Bezug auf Gesundheit, Sicherheit, Grundrechte von Einzelpersonen, Umweltschutz sowie Demokratie und Rechtsstaatlichkeit - evaluieren und reduzieren.
Zudem müssen sie ihre Modelle in der entsprechenden EU-Datenbank eintragen, bevor diese auf dem EU-Markt eingeführt werden.
KI-Systeme mit generativen Fähigkeiten, die auf diesen Basismodellen basieren - wie etwa ChatGPT – sind verpflichtet, Transparenzstandards einzuhalten. Dies bedeutet, dass sie kenntlich machen müssen, dass die erstellten Inhalte von KI generiert wurden, was auch dabei helfen soll, sogenannte Deepfake-Bilder von authentischen Darstellungen zu unterscheiden.
Weiterhin müssen sie sicherstellen, dass keine gesetzeswidrigen Inhalte produziert werden und sie sind verpflichtet, ausführliche Zusammenfassungen der urheberrechtlich geschützten Daten zu veröffentlichen, die für Trainingszwecke eingesetzt wurden.
Rigorose Verbote
Komplett verboten werden:
- biometrische Systeme, die es ermöglichen, Personen in Echtzeit oder nachträglich an öffentlich zugänglichen Orten aus der Ferne zu identifizieren
- Systeme zur biometrischen Kategorisierung anhand sensibler Merkmale (z. B. Geschlecht, Rasse, ethnische Zugehörigkeit, Staatsbürgerschaft, Religion oder politische Orientierung),
- vorausschauende Polizeiarbeit (die mit Profilerstellung und Standortermittlung arbeitet und aufgrund früheren kriminellen Verhaltens abschätzt, inwieweit eine Person Gefahr läuft, straffällig zu werden),
- in der Strafverfolgung, beim Grenzschutz, am Arbeitsplatz und in Bildungseinrichtungen verwendete Emotionserkennungssysteme und
- das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder von Überwachungsaufnahmen zur Erstellung von Gesichtserkennungsdatenbanken (Verletzung der Menschenrechte und des Rechts auf Privatsphäre).
EU sieht sich in Vorreiterrolle
„Das KI-Gesetz wird weltweit den Ton bei der Entwicklung und Regulierung von künstlicher Intelligenz angeben und sicherstellen, dass diese Technologie, die unsere Gesellschaft durch die enormen Vorteile, die sie bieten kann, grundlegend verändern wird, sich im Einklang mit den europäischen Werten der Demokratie, der Grundrechte und der Rechtsstaatlichkeit entwickelt und genutzt wird.“
... fasst der rumänische Abgeordnete Dragos Tudorache die Initiative zusammen.
So geht es weiter
Noch heute werden die Verhandlungen mit dem Rat bezüglich der endgültigen Ausgestaltung der Regulierungen anlaufen.
mit Material der dts Nachrichtenagentur
