Die weitreichende Verordnung wurde mit Unterstützung von 523 Abgeordneten im Europäischen Parlament in Straßburg, Frankreich, bei 46 Gegenstimmen verabschiedet. Es wird erwartet, dass die 27 EU-Staaten den Text im April billigen, bevor das Gesetz im Mai oder Juni im Amtsblatt der EU veröffentlicht wird. "Heute ist erneut ein historischer Tag auf unserem langen Weg zur Regulierung der KI", sagte Brando Benifei, ein italienischer Gesetzgeber, der den Text gemeinsam mit dem rumänischen Europaabgeordneten Dragos Tudorache durch das Parlament brachte.

"Dies ist die erste Verordnung der Welt, die einen klaren Weg zu einer sicheren und menschenzentrierten Entwicklung der KI vorgibt", fügte Benifei kurz vor der Abstimmung hinzu. "Es ist uns gelungen, dieses sehr empfindliche Gleichgewicht zwischen dem Interesse an Innovation und dem Interesse am Schutz zu finden", sagte Tudorache vor der Abstimmung gegenüber Journalisten.

Die als "KI-Gesetz" bekannten EU-Regeln verfolgen einen risikobasierten Ansatz: Je riskanter das System, desto strenger die Anforderungen – mit völligen Verboten der KI-Tools, die als die größte Bedrohung gelten. Beispielsweise müssen KI-Anbieter mit hohem Risiko Risikobewertungen durchführen und sicherstellen, dass ihre Produkte den gesetzlichen Bestimmungen entsprechen, bevor sie der Öffentlichkeit zugänglich gemacht werden. "Wir regulieren so wenig wie möglich und so viel wie nötig, mit verhältnismäßigen Maßnahmen für KI-Modelle", sagte Breton gegenüber AFP.

Bei Verstößen können Unternehmen mit Geldstrafen zwischen 7,5 und 35 Millionen Euro (8,2 bis 38,2 Millionen US-Dollar) belegt werden, abhängig von der Art des Verstoßes und der Größe des Unternehmens. Es gibt strenge Verbote für den Einsatz von KI für vorausschauende Polizeiarbeit und für Systeme, die biometrische Informationen verwenden, um auf die Rasse, Religion oder exuelle Orientierung einer Person zu schließen. Die Regeln verbieten auch die Echtzeit-Gesichtserkennung im öffentlichen Raum, allerdings mit einigen Ausnahmen für die Strafverfolgung, obwohl die Polizei vor jedem KI-Einsatz die Genehmigung einer Justizbehörde einholen muss.

Künstliche Intelligenz bezeichnet meist Anwendungen auf Basis maschinellen Lernens, bei denen eine Software große Datenmengen nach Übereinstimmungen durchforstet und daraus Schlussfolgerungen zieht. Sie werden schon jetzt in vielen Bereichen eingesetzt. Zum Beispiel können solche Programme Aufnahmen von Computertomografen schneller und mit einer höheren Genauigkeit als Menschen auswerten. Auch selbstfahrende Autos versuchen so, das Verhalten anderer Verkehrsteilnehmer vorherzusagen. Und Chatbots oder automatische Playlists von Streaming-Diensten arbeiten ebenfalls mit KI.

Seit das von Microsoft unterstützte ChatGPT von OpenAI Ende 2022 auf den Markt kam und einen globalen KI-Wettlauf auslöste, hat Brüssel die Verabschiedung des neuen Gesetzes vorangetrieben . Die Begeisterung für generative KI war groß, als ChatGPT die Welt mit seinen menschenähnlichen Fähigkeiten begeisterte – vom Verdauen komplexer Texte über das Verfassen von Gedichten innerhalb von Sekunden bis hin zum Bestehen medizinischer Untersuchungen.

Seit das von Microsoft unterstützte ChatGPT von OpenAI Ende 2022 auf den Markt kam und einen globalen KI-Wettlauf auslöste, hat Brüssel die Verabschiedung des neuen Gesetzes vorangetrieben. Die Begeisterung für generative KI war groß, als ChatGPT die Welt mit seinen menschenähnlichen Fähigkeiten begeisterte – vom Verdauen komplexer Texte über das Verfassen von Gedichten innerhalb von Sekunden bis hin zum Bestehen medizinischer Untersuchungen.

Es gibt einige Arten von KI, die von der EU verboten wurden, weil die von ihnen ausgehenden Risiken als zu groß angesehen werden. Dazu gehören prädiktive Polizeiarbeit, Emotionserkennungssysteme am Arbeitsplatz oder in Schulen sowie soziale Bewertungssysteme, die Einzelpersonen anhand ihres Verhaltens bewerten.

Das Gesetz verbietet Polizeibeamten außerdem den Einsatz von Echtzeit-Gesichtserkennungstechnologie, mit Ausnahmen für Strafverfolgungsbehörden, wenn sie nach einer Person suchen, die wegen eines schweren Verbrechens wie Vergewaltigung oder Terrorismus verurteilt oder verdächtigt wird. Die Polizei kann verlangen, die Technologie zur Suche nach Opfern von Entführungen oder Menschenhandel einzusetzen – vorbehaltlich der Genehmigung eines Richters oder einer anderen Justizbehörde und für eine zeitlich und örtlich begrenzte Nutzung.