EU-AI-Act

Der Einsatz von Künstlicher Intelligenz greift immer weiter um sich, doch es gibt auch Warnungen über die Gefahren durch unkontrollierte KI. Mit dem EU-AI-Act will das Europäische Parlament einheitliche Regeln schaffen.

Was das neue europäische Gesetz besagt, wer betroffen ist und ob sich KI dadurch beherrschen lässt, erfahren Sie hier.

Europa und KI

Die EU hat in Sachen Digitalisierung und Datenschutz einiges zu tun, denn in regelmäßigen Abständen kommen neue sogenannte Acts heraus, die den Umgang mit Daten, den Datentransfer, Online-Dienste oder den Wettbewerb betreffen. Aktuell beschäftigt sich die EU mit Künstlicher Intelligenz, denn neben dem unbestreitbaren Nutzen gibt es auch immer mehr Stimmen, die vor unkontrollierter KI warnen.

Künstliche Intelligenz, im Englischen artifical intelligence, umfasst laut Wikipedia „alle Anstrengungen, deren Ziel es ist, Maschinen intelligent zu machen“. Ursprünglich wurde der Begriff bereits 1955 vom US-amerikanischen Informatiker John McCarthy im Rahmen eines Förderantrags für ein Forschungsprojekt geprägt. Je nach Blick auf die wissenschaftlichen Grundlagen gibt es unterschiedliche Definitionen:

• „Künstliche Intelligenz ist die Eigenschaft eines IT-Systems, ‚menschenähnliche‘, intelligente Verhaltensweisen zu zeigen“ sagen Bitkom und Deutsches Forschungszentrum für künstliche Intelligenz.
• „Die künstliche Intelligenz […] ist ein Teilgebiet der Informatik, welches sich mit der Erforschung von Mechanismen des intelligenten menschlichen Verhaltens befasst […]“, heißt es bei Spektrum der Wissenschaft und dem Lexikon der Neurowissenschaften.
• „Unter künstlicher Intelligenz (KI) verstehen wir Technologien, die menschliche Fähigkeiten im Sehen, Hören, Analysieren, Entscheiden und Handeln ergänzen und stärken“, äußert sich Microsoft.
• „Künstliche Intelligenz ist die Fähigkeit einer Maschine, menschliche Fähigkeiten wie logisches Denken, Lernen, Planen und Kreativität zu imitieren“, heißt es im Europäischen Parlament.

Damit der Umgang mit künstlicher Intelligenz innerhalb der Europäischen Union geregelt ist, hat das EU-Parlament den EU-AI-Act ins Leben gerufen. Er ist Teil der EU-Digitalstrategie und wird auch Artificial Intelligence Act (AIA) genannt.

Mit dem EU-AI-Act, dem Artficial Intelligence Act der EU, soll der Umgang mit KI innerhalt Europas geregelt werden. Bild: Pexels/Dušan Cvetanović

Der EU-AI-Act

Das Gesetz zum Umgang der EU mit Künstlicher Intelligenz wurde am 14. Juni 2023 beschlossen. Es sieht eine Klassifizierung der verschiedenen Systeme in verschiedene Risikostufen vor. Wichtig: Künstliche Intelligenz und ihre Weiterentwicklung sollen nicht eingeschränkt, sondern grundsätzlich gefördert werden. Dafür ist aber eine stärkere Überwachung des Einsatzes von Künstlicher Intelligenz sowie mehr Transparenz nötig.

Der EU-AI-Act, auch Artifical Intelligence Act, soll für alle Mitglieder der Europäischen Union bindend sein, bietet aber eine Übergangsfrist von zwei Jahren. Verlaufen die Verhandlungen über den AI-Act, die jetzt beginnen, erfolgreich, sodass noch vor der Europawahl 2024 eine Einigung erzielt wird, kann das Gesetz frühestens 2026 in Kraft treten.

Von dem neuen Gesetz betroffen sind:

• Anbieter, die KI-Systeme in Verkehr bringen oder in Betrieb nehmen. Gemeint sind alle juristischen Personen, Behörden, Einrichtungen oder sonstige Stellen, die ein KI-System entwickeln oder entwickeln lassen.
• Nutzer von KI-Systemen, die sich in der Union befinden. Dabei handelt es sich um natürliche, und somit Privatpersonen.

Das neue Gesetz soll auch dann gelten, wenn Nutzer oder Anbieter sich in einem Drittland befinden, die KI aber innerhalb der Europäischen Union eingesetzt wird. Damit hält die EU an dem aus der DSGVO bekannten Marktortprinzip fest.

Was gehört zur Künstlichen Intelligenz?

Die EU fasst den Begriff der Künstlichen Intelligenz recht weit. Nachzulesen im Anhang des Gesetzentwurfs, in dem auf betroffene Techniken verwiesen wird. Wenn eine Software

• „Konzepte des maschinellen Lernens oder tiefen Lernens (Deep Learning),
• Logik- und wissensgestützte Konzepte, einschließlich Wissensrepräsentation, induktiver (logischer) Programmierung, Inferenz- und Deduktionsmaschinen, Schlussfolgerungs- und Expertensysteme oder
• Statistische Ansätze, Bayessche Schätz-, Such- und Optimierungsmethoden“

nutzt und sie außerdem

• „Ziele, die vom Menschen festgelegt werden, verfolgt,
• Ergebnisse oder Inhalte vorhersagt, empfiehlt oder entscheidet und
• das Umfeld, mit dem sie interagiert, beeinflusst,“

spricht der Gesetzgeber von Künstlicher Intelligenz. Somit fallen auch IT-Unternehmen in den Anwendungsbereich der Verordnung.

Welche Risiken KI wirklich birgt, wird wohl erst die Zukunft zeigen. Bild: Pexels/cottonbro studio

Gefahren durch Künstliche Intelligenz

Welche Gefahren Künstliche Intelligenz mit sich bringt, ist noch völlig unklar. Sicher ist aber, dass sie uns in vielen Bereichen bereits begegnet, wie etwa bei biometrischen Verfahren wie der Gesichtserkennung, dem Fingerprinting oder dem Iris-Scan zum Entsperren des Smartphones, bei der Nutzung von Streaming Diensten oder Smart-Home-Produkten. Und auch die Nutzung von Chatbots wie ChatGPT erfährt aktuell einen Hype.

Experten schätzen das Potenzial von KI als sehr mächtig ein, was ein Grund sein mag, warum die EU den EU-AI-Act  in Angriff genommen hat. Eine Aussage zur KI lautet beispielweise: „Das Risiko einer Vernichtung durch KI zu verringern, sollte eine globale Priorität neben anderen Risiken gesellschaftlichen Ausmaßes sein, wie etwa Pandemien und Atomkrieg.“

Und Non-Profit-Organisationen nennen als mögliche Gefahren von Künstlicher Intelligenz ihren Einsatz in der Kriegsführung. Sie warnen zudem vor der Verbreitung von Falschinformationen sowie vor einer Zukunft, in der die Menschheit komplett von Maschinen abhängig werden könnte.

EU-AI-Act und die Risikogruppen

Oberstes Ziel der europäischen Gesetzgeber ist die Achtung der Werte innerhalb der EU sowie klare und umfassende Regeln im Umgang mit KI. Dafür wurden vier Risikogruppen entwickelt, wobei der EU-AI-Act (AIA) dem bestehenden Weißbuchs zur Künstlichen Intelligenz der EU-Kommission folgt.

In dem Weißbuch sind die Anwendungen der KI in vier Kategorien eingeteilt. Und zwar nach ihrem möglichen Risiko, das mit dem Einsatz der Künstlichen Intelligenz einhergeht. Die Risikogruppen sind:

1. risikoarme Systeme
2. begrenzt riskante Systeme
3. Hochrisiko-Systeme
4. Verbotene Systeme mit unannehmbarem Risiko

Ein Verbot soll für solche KI-Anwendungen gelten, die Menschen manipulieren, schaden oder unterdrücken können. Dazu gehören Überwachungssysteme auf Basis biometrischer Daten wie die Gesichtserkennung in Echtzeit, die automatisierte Erkennung von Emotionen (außer zur Terrorabwendung) und Social-Scoring-Systeme.

Übrigens: Auch Chatbots wie ChatGPT sind von dem neuen Gesetz betroffen. Für sie gelten zukünftig strengere Transparenzanforderungen. Und Inhalte, die mittels KI erzeugt werden, müssen mit Inkrafttreten des Gesetzes als solche gekennzeichnet werden.

Wer künftig Chatbots wie ChatGPT nutzt, muss die Verwendung kennzeichnen. Bild: Pexels/Hatice Baran

AIA-Ziel: Regulierung von IT

Die IT nimmt im täglichen Leben genauso wie auf EU-Ebene einen immer größeren Stellenwert ein. Zwar soll einerseits die Digitalisierung voran getrieben werden, andererseits müssen aber die Gesetzgeber verhindern, dass Menschen durch den Einsatz von IT zu Schaden kommen. Deshalb verfolgt der AIA, der Artifical Intelligence Act, wie andere Gesetzgebungen der EU-Digitalstrategie auch, einen Ansatz zur Regulierung von IT.

Der Gefahr, dass KI-Anwendungen zur Beeinflussung oder Überwachung von Menschen missbraucht werden kann, ist sich die EU bewusst und macht dieses Wissen in dem Entwurf zum EU-AI-Act deutlich, die auf den Grundlagen der DSGVO fußt.

Wenn Sie für Ihren Betrieb eine DSGVO-Beratung oder anderweitige IT-Hilfe benötigen, wenden Sie sich gern an PC-SPEZIALIST in Ihrer Nähe. Wir sind Ihre Experten für Ihre IT-Sicherheit, Ihre IT-Ausstattung und kümmern uns selbstverständlich auch um die IT-Wartung und Betreuung. Kontaktieren Sie uns!

Update, 14.03.2024: EU stimmt für AI-Gesetz

Das Europäische Parlament hat neue, strengere Vorschriften für den Einsatz künstlicher Intelligenz (KI) innerhalb der EU gebilligt. In einer Abstimmung am Mittwoch in Straßburg sprach sich eine Mehrheit der Abgeordneten für das AI-Gesetz aus, das als das erste seiner Art weltweit gilt. Dieses Gesetz sieht vor, dass KI-Systeme basierend auf dem Risikograd ihrer Anwendungen klassifiziert werden. Je gravierender das potenzielle Risiko, desto strenger die erforderlichen Standards.

KI-Lösungen, die in sensiblen Bereichen wie kritischen Infrastrukturen, Bildung oder Gesundheitswesen zum Einsatz kommen und als hochriskant eingestuft werden, müssen hohen Anforderungen genügen. Darüber hinaus werden bestimmte Anwendungen, die gegen die Werte der EU verstoßen, komplett untersagt.

Dies umfasst unter anderem Social Scoring-Systeme, wie sie in China zur Kategorisierung der Bürger nach ihrem Verhalten genutzt werden, sowie die Erkennung von Emotionen am Arbeitsplatz oder in Bildungseinrichtungen. Die generelle Nutzung von Gesichtserkennungstechnologie in öffentlichen Räumen wird verboten, wobei Ausnahmen für Polizei und Sicherheitsdienste gelten, um schwerwiegende Verbrechen wie Menschenhandel und Terrorismus aufzuklären.

_______________________________________________

Quellen: Wikipedia, europarl, European Commission, Deutschlandfunk, IT-Business, EU-Digitalstrategie, Weißbuch zu KI, Spiegel, Pexels/Cottonbro Studio (Header-Bild)