Rio Grande do Sul (csr-news) – Am 14. Juni 2023 nahm das Europäische Parlament seine Verhandlungsposition zum Gesetz über künstliche Intelligenz (KI) an. Damit wird nach langen Beratungen ein Gesetzesentwurf vorgelegt, der es sich zur Aufgabe macht, den Bereich der Künstlichen Intelligenz zu regeln. Die Herausforderung dieses Gesetzeswerkes liegt nicht nur in der Tatsache, dass hier unterschiedliche und gegensätzliche Interessen aufeinandertreffen, sondern auch dass es sich bei einer umfassenden Reglementierung von KI um juristisches Neuland handelt.
Tatsächlich ist künstliche Intelligenz ein sehr weiter Begriff, der Anwendungen in vielfältigen Bereichen beschreibt. Dabei werden aus einer Vielzahl von Daten Strukturen und Muster herausgelesen, die ausgehend von dabei entwickelten Modellen Informations- und Handlungsoptionen anbieten. Beim maschinellen Lernen führt dieser Prozess durch Wiederholungen zu immer besseren Ergebnissen, der Computer lernt dabei selbständig, die Struktur der Daten zu erkennen. Wichtige Bereiche, in denen KI Anwendung erfährt, sind unter anderen so unterschiedliche Felder wie wissenschaftliche Forschung, Gesundheitsbereich, Landwirtschaft, Finanzdienstleistungen und Marketing und Werbung.
Aus meiner Sicht als Hochschullehrer an einer Erziehungswissenschaftlichen Fakultät, der sich vor allem mit Fragen von Bildung und Altern beschäftigt, möchte ich hier kurz auf zwei Themen eingehen, die aufzeigen, wie wichtig dieser European Artificial Intelligence Act ist.
Im November 2022 brachte OpenAI einen frei zugänglichen ChatGPT heraus, der es ermöglicht, nach gewissen Vorgaben recht komplexe Texte zu verfassen. Dies bedeutet nun natürlich gerade für den Bildungs- und Hochschulbereich eine starke Herausforderung, denn bei eingereichten Texten stellt sich nun die Frage nach dem eigentlichen Autor, die betreffenden Verfasser oder das ChatGPT. Dieses Problem betrifft Prüfungs- und Seminararbeiten, bezieht sich aber auch auf allgemeine wissenschaftliche und journalistische Publikationen. In diesem Bereich ist die vom Gesetzesentwurf geforderte Transparenz ein wichtiges Kriterium, wenn bei veröffentlichten Texten darauf hinzuweisen ist, dass der Inhalt unter Zuhilfenahme von KI produziert wurde. Natürlich lassen sich damit Täuschungsversuche nicht ausschließen, aber diese Gefahr bestand schon immer, und mit dem Gesetzesentwurf wird zumindest eine gesetzliche Regelung dieser bisher kaum erfassten Situation vorgegeben.
Ein anderer Bereich, der durch den Einsatz von KI noch problematischer werden kann, ist der Verbraucherschutz, vor allem in Bezug auf Marketing und Werbung. Schon heute hat eine ausgefeilte Kundenforschung dazu geführt, dass für bestimmte Produkte und in Bezug auf besonders sensible Gruppen wie Kinder und ältere Menschen gesetzliche Einschränkungen nötig sind, um Verbraucher vor einer unangemessenen Beeinflussung zu schützen. Die Möglichkeiten, auf das Verbraucherverhalten, aber auch Wählerverhalten einzuwirken, werden durch den Einsatz von KI noch enorm gesteigert.
In diesem Sinne hat der Gesetzesentwurf zur KI einen wichtigen Ansatz gewählt, indem er zum einen die Reglementierung von KI nach seinem Gefährdungspotential strukturiert, von verbotenen über hochriskante hin zu alltäglichen Anwendungen. Zum anderen liegt in dem Gesetzesentwurf der zentrale Fokus auf der Wahrung von Grund- und Menschenrechten, was ermöglicht, neben einem allgemeinen Gesetz zur Künstlichen Intelligenz auch komplementäre Gesetze wie z.B. Verbraucherschutzrecht heranzuziehen. In einem bisher rechtlich kaum strukturierten Bereich bedeutet der European Artifical Intelligence Act einen wichtigen Schritt.
Prof. Dr. Johannes Doll
lehrt an der Erziehungswissenschaftliche Fakultät der Bundesuniversität von Rio Grande do Sul, Brasilien.