AI Act – oder wie man die Sicherheit erhöht und gleichzeitig die Innovation aufrechterhält
Die dynamische Entwicklung der Künstlichen Intelligenz (KI) weckt sowohl große Hoffnungen als auch viele Sorgen. Experten betonen, dass die Menschheit an der Schwelle einer weiteren technologischen Revolution steht, die tiefgreifende und unvorhersehbare Auswirkungen auf die Funktionsweise des Menschen in vielen Bereichen haben wird.
Auf KI-Algorithmen basierende Lösungen sind bereits weit verbreitet, und auch das Interesse an den sogenannten KI-generierte Inhalte, d. h. Inhalte, die von Computeralgorithmen wie Chat GPT erstellt wurden. Daher stellen sich Fragen im Zusammenhang mit den Folgen des Einsatzes künstlicher Intelligenz, der Möglichkeit ihrer Kontrolle, der Verantwortung für die Ergebnisse ihres Einsatzes sowie dem Schutz der Integrität und Würde des Einzelnen durch den Schutz vor übermäßigen Eingriffen in den persönlichen Bereich . Aus betriebswirtschaftlicher Sicht sind insbesondere die Konsequenzen und Einschränkungen im Zusammenhang mit dem Einsatz künstlicher Intelligenz im Geschäftsbetrieb von Bedeutung.
Die Sitzung des Ausschusses für Digitalisierung und Industrie 4.0 und des Ausschusses für Legal Tech der Polnisch-Deutschen Industrie- und Handelskammer (AHK Polska) widmete sich Regulierungsfragen auf nationaler und EU-Ebene im Zusammenhang mit dem Einsatz von Technologien unter Einsatz künstlicher Intelligenz . 6. Dezember dieses Jahres Anlass für das Treffen war die sogenannte AI Act, also ein Entwurf einer zukunftsweisenden Verordnung zur künstlichen Intelligenz. Der Grund für die Schaffung transnationaler Vorschriften bestand darin, die Anforderungen festzulegen, die KI erfüllen sollte, um sicher zu sein, und bestehende Vorschriften zu harmonisieren. Letztlich will der EU-Gesetzgeber die neuen Regelungen zu einem Gemeinschaftsstandard ähnlich der DSGVO werden lassen, der in den EU-Ländern einheitlich gilt. Die eingeladenen Rechtsexperten Sebastian Zieliński und Katarzyna Witkowska von der Anwaltskanzlei Crido Legal J. Ziółek i Wspólnicy hielten einen Vortrag zum Thema „Was das Gesetz über künstliche Intelligenz Managern über die Implementierung von KI sagt“. Die an der Sitzung teilnehmenden Ausschussmitglieder diskutierten die Annahmen des Verordnungsentwurfs und Fragen im Zusammenhang mit dem gewünschten Umfang der Regulierung künstlicher Intelligenz sowie deren mögliche Auswirkungen auf die Geschäftsentwicklung.
Trotz der laufenden Arbeit auf der Ebene der europäischen Regulierungsbehörde gibt es immer noch Punkte, über die man sich nicht vollständig einig ist, beispielsweise eine so grundlegende Frage wie die Definition von künstlicher Intelligenz. Zu den grundlegenden gesetzgeberischen Zielen der Verordnungen gehören die Gewährleistung der Sicherheit künstlicher Intelligenzsysteme, insbesondere in Bezug auf die in der EU geltenden Grundrechte und EU-Werte, die Gewährleistung der Rechtssicherheit für Investitionen und Innovationen im Bereich der KI und deren Möglichkeit wirksame Durchsetzung sowie Gewährleistung einer einheitlichen Marktentwicklung.
Die in Entwicklung befindliche Verordnung wird verbotene KI-Praktiken definieren, spezifische Anforderungen für Hochrisikosysteme einführen und Fragen im Zusammenhang mit der Interaktion künstlicher Intelligenz mit natürlichen Personen regeln. Insbesondere unterschwellige Systeme, die Schwächen einer bestimmten Personengruppe ausnutzen und (insbesondere von staatlichen Stellen) zum Zweck der Beurteilung oder Qualifizierung der Glaubwürdigkeit natürlicher Personen eingesetzt werden, sowie biometrische Identifikationssysteme im öffentlichen Raum und sog soziales Scoring. Zu den kritischen Bereichen gehörten Gerichtsentscheidungen, Fragen der Kriminalitätsvorhersage, einige Anwendungen in Bildung und Medizin, aber auch solche im Zusammenhang mit der Beurteilung von Mitarbeitern und Studenten sowie Einstellungsprozessen.
Die allgemeinen Grundsätze, die die gesamte Verordnung leiten, sind in erster Linie die Sicherheit, die durch die Transparenz und Erklärbarkeit der von KI durchgeführten Entscheidungsprozesse gewährleistet wird, sowie die Möglichkeit der menschlichen Überwachung in jeder Phase dieser Prozesse. Systeme sollten daher für Benutzer einfach zu verstehen und zu verwalten sein. Sie dürfen durch ihr Handeln nicht die Menschenwürde verletzen, sie sollen Diversität fördern und den Grundsatz der Nichtdiskriminierung berücksichtigen. Neben dem sozialen Wohlbefinden sollte bei der Implementierung künstlicher Intelligenz auch das Wohlbefinden der Umwelt berücksichtigt werden.
Eine der zentralen Fragen aus Sicht der Führungskräfte im Zusammenhang mit der Implementierung von Systemen auf Basis künstlicher Intelligenz war die Frage der Verantwortung, insbesondere der Verantwortung des Vorstands. Es wurde darauf hingewiesen, dass Systeme, die KI nutzen, schon seit Jahren im Einsatz sind und die Technologie die gesetzlichen Vorschriften überholt hat. Die Teilnehmer des Treffens betonten jedoch, dass es im Bürgerlichen Gesetzbuch, im Strafgesetzbuch, im Handelsgesetzbuch sowie in Gesetzen, beispielsweise zum Schutz personenbezogener Daten, zum Urheberrecht und zur Antidiskriminierungsgesetzgebung, eine Reihe von Bestimmungen gibt, die dies bewirken kann erfolgreich zur Regulierung des Einsatzes von KI eingesetzt werden.
Den Diskussionsteilnehmern zufolge wurde zudem darauf hingewiesen, dass die Kosten für die Umsetzung der vorgeschlagenen Regelungen insbesondere bei risikoreichen Anwendungen unterschätzt würden. In einer solchen Situation ist die verantwortliche Stelle verpflichtet, während des gesamten Lebenszyklus der künstlichen Intelligenz eine kontinuierliche Überwachung durchzuführen. Bei der Entwicklung eines Risikominderungsmechanismus sollten Sie das technische Wissen, die vom Benutzer erwartete Schulung und die Zielumgebung, in der die Software betrieben werden soll, berücksichtigen. In der Praxis bedeutet dies, dass die Software einigermaßen zugänglich und gut getestet sein sollte, was mit erheblichen Kosten verbunden ist. Dies kann insbesondere für kleinere Unternehmen eine Hürde darstellen und dadurch deren Wettbewerbsfähigkeit beeinträchtigen.
Eine andere Frage ist der Umfang der Herstellerverantwortung bei autonomen Systemen der künstlichen Intelligenz, die, zunächst mit Daten versorgt, selbst „lernen“ und im Laufe der Nutzung Änderungen unterliegen. Ein Produkt, das nach einiger Zeit verwendet wird, ist daher ein anderes Produkt als das gekaufte. Ist der Hersteller also bei generativer KI von der Haftung befreit? Inwieweit? Der Schlüssel liegt hier darin, diese Probleme ordnungsgemäß mit dem Hersteller oder Lösungsanbieter zu regeln. Klauseln wie „nimm es oder lass es“ sollen nach der Verordnung verboten sein.
Die Teilnehmer des Treffens betonten, dass Regelungen verhältnismäßig sein sollten – anwendbare Regelungen sollten dort eingeführt werden, wo ein hohes Risiko besteht, während für den verbleibenden Anwendungsbereich künstlicher Intelligenz wünschenswerte Standards geschaffen und Richtlinien anstelle von Vorschriften umgesetzt werden sollten. Es wurde auch darauf hingewiesen, dass sich eine „vorausschauende“ Regulierung angesichts einer so dynamischen Materie wie der sich ständig weiterentwickelnden künstlichen Intelligenz als kontraproduktiv erweisen und zu einer „Überregulierung“ dieses Bereichs führen könnte. Auf Europa entfallen etwa 3-4 % des Marktes für künstliche Intelligenz, es ist also kein weltweiter Marktführer in diesem Bereich, und eine übermäßige Regulierung in diesem Bereich kann sich negativ auf die Entscheidungen der Anleger auswirken und zu einem Kapitalabfluss in die USA führen China. Diese Länder erlegen der KI keine ähnlichen Beschränkungen auf. Daraus ergeben sich möglicherweise eine Reihe weiterer negativer Konsequenzen, z. B. im Zusammenhang mit der Schwierigkeit, mögliche Ansprüche geltend zu machen oder die Zuständigkeit für die Beilegung eines Streits bei Produkten aus diesen Ländern zu bestimmen. Es wäre wünschenswert, diesen Bereich global zu regulieren.
Die Teilnehmer des Treffens waren sich einig, dass es sich um ein umfassendes und interdisziplinäres Thema handelt, und äußerten ihre Bereitschaft, auch in Zukunft ausführliche Treffen zu Fragen der KI-Implementierung fortzusetzen.
٭ Die Sitzung der Kommission für Digitalisierung und Industrie 4.0 der AHK Polska fand am 6. Dezember kurz vor dem Ende der Verhandlungen zwischen Rat, Kommission und Europäischem Parlament zum KI-Gesetz statt und basierte auf dem bekannten Rechtsstand in diesem Moment. Unten im Formular
Die nach Abschluss der Verhandlungen veröffentlichte Pressemitteilung des Europäischen Parlaments finden Sie hier: