Snapchat

Staatssekretär Gerd Billen (BMJV) antwortet auf Jugendagenda der WebDays 2019

Vom 29. November  bis 01. Dezember 2019 diskutierte bei der Jugendkonferenz „WebDays 2019“ in Berlin eine Gruppe junger Menschen über digitalisierten Verbraucherschutz unter dem Schwerpunktthema „Künstliche Intelligenz“ und erarbeitete eine Agenda an die Politik. Jetzt hat Gerd Billen, Staatssekretär im Bundesministerium der Justiz und für Verbraucherschutz, auf die Forderungen der Jugendlichen geantwortet.

 

Liebe Teilnehmerinnen und Teilnehmer der Jugendkonferenz „WebDays 2019″,

ganz herzlich möchte ich mich für die Übersendung Ihrer Agenda für jugendgerechten Daten- und Verbraucherschutz in der digitalen Welt bedanken, welche ich mit großem Interesse gelesen habe. Viele der von Ihnen aufgegriffenen Themen beschäftigen mich in der täglichen Arbeit.

Gerne gehe ich auf die von Ihnen diskutierten Forderungen der Workshops ein:

 

Workshop „Don’t be evil — Welche ethischen Prinzipien brauchen KI”

Ethische Prinzipien bilden eine wichtige Grundlage für unser gesellschaftliches Zusammenleben. Das gilt sowohl in der „analogen” als auch in der „digitalen” Welt. Systeme, die algorithmische Entscheidungen treffen, müssen solche ethischen Prinzipien beachten. Auch die von der Bundesregierung eingesetzte Datenethikkommission hat sich in ihren am 23. Oktober 2019 vorgestellten Empfehlungen mit den ethischen Fragen des Einsatzes algorithmischer Systeme auseinandergesetzt (abrufbar unter https://www.bmi.bund.de/DE/themen/it-und-digitalpolitik/datenethikkommission/arbeitsergebnisse-der-dek/arbeitsergebnisse-der-dek-node.html).

Darauf aufbauend schlägt die Kommission konkrete Optionen für einen (primär europäischen) Rechtsrahmen vor, der abhängig vom Risiko- bzw. Schädigungspotential der algorithmischen Systeme verschiedene Anforderungen umfassen würde, die bei der Entwicklung und dem Einsatz vor allem risikobehafteter algorithmischer Systeme zu beachten wären. Darunter fällt beispielsweise eine Marktzulassung bei einem besonders risikobehafteten System. Bei Systemen mit geringem/geringerem Risikopotential empfiehlt die Datenethikkommission beispielsweise die Vorlage von Folgenabschätzungen, Pflichten zur Dokumentation von Tests, und angemessene Aufklärung der Öffentlichkeit über den Einsatz. Der Bundesregierung ist es wichtig, die Chancen dieser Technologien zum Wohle der Gesellschaft zu nutzen; sie ist sich aber auch der Risiken dieser Systeme bewusst. Im aktuellen Koalitionsvertrag ist das Ziel vereinbart, algorithmische Entscheidungen überprüfbar zu machen, um insbesondere ungerechtfertigte Diskriminierungen verhindern zu können. Gerade in diesem Feld bedarf es gesetzlich abgesicherter Maßnahmen, um die Bürgerinnen und Bürger angemessen zu schützen, so dass auch Vertrauen in die neuen Technologien entstehen kann. Die Empfehlungen der Datenethikkommission zu algorithmischen Systemen sind ein wertvoller Beitrag für eine zukünftige Regulierung; das von der EU-Kommission im Februar veröffentlichte Weißbuch Künstliche Intelligenz geht auf einige dieser Empfehlungen bereits ein; die Kommission hat zu ihrem Weißbuch übrigens eine öffentliche Konsultation bis Mitte Mai gestartet (abrufbar unter https://ec.europa.eu/eusurvey/runner/AIConsult2020)[1].

Auch die Europäische Kommission weiß um die Bedeutung der Frage, wie wir als Gesellschaft mit KI umgehen sollen. Daher hat sie am 19. Februar 2020 das Weißbuch „Zur Künstlichen Intelligenz – ein europäisches Konzept für Exzellenz und Vertrauen” veröffentlicht (https://ec.europa.eu/info/files/white-paper-artificial-intelligence-european-approach-excellence-and-trust_de). Darin sind viele interessante Vorschläge für einen zukünftigen Kl-Regulierungsrahmen, der auch Ihre Forderungen, Diskriminierung zu verhindern und KI transparenter zu machen, aufgreift. Aktuell läuft ein öffentlicher Konsultationsprozess. Bis zum 19. Mai 2020 haben nicht nur die Mitgliedsstaaten, sondern auch Sie als zivilgesellschaftlicher Akteur die Gelegenheit, sich zum Weißbuch der Europäischen Kommission zu äußern https://ec.europa.eu/eusurvey/runner/AIConsult2020). Es würde mich sehr freuen, wenn Sie dieser Einladung nachkommen. Gerade die Zivilgesellschaft muss bei diesem so wichtigen Thema zur Sprache kommen.

Ich weiß um Ihre Sorgen und Ängste hinsichtlich der Vorratsdatenspeicherung. Diesen wird jedoch bereits Rechnung getragen. Im Rahmen der Vorratsdatenspeicherung finden keine Abhörmaßnahmen statt. Es werden nur die in § 113b Absatz 3 Telekommunikationsgesetz genannten Daten gespeichert. Inhaltsdaten werden hierbei nicht erfasst. Die Speicherverpflichtung ist von dem eigentlichen Zugriff der Ermittlungsbehörden getrennt. Die gespeicherten Daten sind nur in Fällen schwerer Kriminalität abrufbar.

Die Vorratsdatenspeicherung ist gleichzeitig ein wichtiges Instrument für die Ermittlungsbehörden. Während in der Vergangenheit von den Telekommunikationsanbietern Daten zu geschäftlichen Zwecken noch flächendeckend gespeichert wurden, ist dies aufgrund einer gestiegenen Anzahl an Flatrate-Angeboten immer seltener der Fall. Bei Online-Straftaten stellen Daten jedoch häufig den ersten und – insbesondere im Fall von IP-Adressen – manchmal sogar einzigen Ermittlungsansatz dar. Ohne gesetzlich vorgeschriebene Vorratsdatenspeicherung hinge es vom Zufall ab, ob in einem bestimmten Fall Daten bei einem Anbieter vorhanden sind, die für strafrechtliche Ermittlungen genutzt werden können. Auch das Bundesverfassungsgericht sieht keine grundsätzlichen Bedenken hinsichtlich einer Vorratsdatenspeicherung (vgl. Urteil vom 2. März 2010, 1 BvR 256/08 u.a.). Aktuell sind die deutschen Regelungen zur Vorratsdatenspeicherung Gegenstand von mehreren Verfassungsbeschwerden sowie Vorlageverfahren vor dem europäischen Gerichtshof. Bis zum rechtskräftigen Abschluss der Verfahren wird die Bundesnetzagentur von Anordnungen und sonstigen Maßnahmen zur Durchsetzung der in § 113b TKG geregelten Speicherverpflichtungen gegenüber allen verpflichteten Unternehmen absehen.

  

Workshop „Open Data & Machine-Learning”

Das Potenzial von Open Data ist groß. Daher freue ich mich, dass Sie sich für eine Zurverfügungstellung von nicht-personenbezogenen Daten aussprechen. Die Bundesregierung hat in den am 18. November 2019 verabschiedeten Eckpunkten seiner Datenstrategie unter anderem das Ziel formuliert, die verantwortungsvolle Bereitstellung und Nutzung von Daten durch Institutionen in (Zivil-)Gesellschaft, Wirtschaft, Wissenschaft und Bundesverwaltung in Deutschland signifikant zu steigern. Dabei sollen neue Datenmonopole verhindert, eine gerechte Teilhabe gesichert und zugleich Datenmissbrauch konsequent begegnet werden. Die endgültige Datenstrategie soll im Sommer 2020 beschlossen werden. Aktuell läuft hierzu ein öffentlicher Beteiligungsprozess, an dem auch Sie sich bis zum 3. April 2020 beteiligen können (abrufbar unter https://d171.keyingress.de/?i_survey=81__ed010e7dc5f8bb4f9c0b090bf0fe60e7).

Dabei muss dafür gesorgt werden — wie Sie auch zutreffend anmerken —, dass keine Daten diskriminierenden Inhalts zur Verfügung gestellt werden. Ein Schlüssel hierzu ist, die Datenqualität zu verbessern und bereits Trainingsdaten daraufhin zu durchleuchten, ob diese repräsentativ sind (z.B. ob sie Frauen berücksichtigen). Umso wichtiger ist es unter anderem, die algorithmischen Systeme, die mit den Daten „gefüttert” werden, im Hinblick auf mögliche unzulässige Diskriminierungen und Benachteiligungen überprüfbar zu machen.

Dies ist auch eine der Zielsetzungen der KI-Strategie der Bundesregierung, um die Transparenz, Nachvollziehbarkeit und Überprüfbarkeit von Kl-Systemen herzustellen.

 

Workshop „Kl, unsere Daten & Du [Big Data]”

Im Ergebnis teile ich Ihre Bedenken und die Bewertung hinsichtlich des aktuellen Diskussionsstands. KI-Systeme und die mit ihnen verbundene Datenverarbeitung betreffen die informationelle Selbstbestimmung, die individuelle Handlungsfreiheit und die Persönlichkeitsrechte und damit zentrale Grundrechte. Die Datenverarbeitung im Zusammenhang mit KI-Systemen ist dabei – soweit personenbezogene Daten betroffen sind – in den Datenschutzgesetzen geregelt. Mit der seit dem 25. Mai 2018 unmittelbar anwendbaren Datenschutz-Grundverordnung (DSGVO) wurden EU-weit einheitliche, hohe Datenschutzstandards gesetzt – auch für die Nutzung von KI-Systemen. Die DSGVO hat in Sachen Transparenz und hinsichtlich der Stärkung der Betroffenenrechte zu vielen Verbesserungen für Verbraucherinnen und Verbraucher geführt: So sind u. a. alle datenverarbeitenden Stellen verpflichtet, den betroffenen Personen im Zuge der Informationspflichten zu beantworten, wer welche personenbezogenen Daten wofür und wie lange verarbeitet. Im Falle einer automatisierten Entscheidungsfindung einschließlich Profiling besteht eine Informationspflicht des Datenverarbeiters und ein Auskunftsrecht des Bürgers über aussagekräftige Informationen über die involvierte Logik sowie die Tragweite und die angestrebten Auswirkungen der Verarbeitung für die betroffene Person. Dies sind schon gute Rechte, es muss nur auch in der Praxis wirksam gelebt werden und müssen die Datenverarbeiter auch bereit sein, fair, transparent und in einer verständlichen Weise über den Algorithmus und das Kl-System zu informieren. Ein Problem ist dabei, dass der Anwendungsbereich dieser DSGVO-Regelungen zu eng ist: Diese Informationspflichten sollten auch bei teilautomatisierten Entscheidungen und bei jeder Kl-Entscheidung gelten, die sich auf die Rechte des Betroffenen auswirkt.

Bei der DSGVO insgesamt ist besonders wichtig die effektive Anwendung und Beachtung durch die datenverarbeitenden Stellen. Wir müssen den Rechtsrahmen der DSGVO für den Bereich der elektronischen Kommunikation ergänzen und zeitnah auch hier auf EU-Ebene die hohen Daten- und Privatsphärenschutzstandards mit einer neuen E-Privacy-Verordnung aktualisieren und fortschreiben.

Ich kann schließlich auch Ihrer Forderung nach einer stetigen Überprüfung eines rechtlichen Rahmens von Kl zustimmen. In die Kl-Strategie der Bundesregierung ist daher auch ein Abschnitt zur Anpassung des Ordnungsrahmens eingeflossen. Die Empfehlungen der Datenethikkommission und beispielsweise das Kl-Weißbuch der Europäischen Kommission, auf die ich bereits eingegangen bin, sind wertvolle Impulse für den zukünftigen rechtlichen Rahmen von Kl.

Sie benennen ein aktuelles Problemfeld: Deepfakes. Die Gefahren dieses Phänomens für die Demokratie und für Einzelne im Falle eines Identitätsdiebstahls dürfen nicht unterschätzt werden. Wenn man bedenkt, wie schnell ein gefälschtes Video, das einmal im Internet auftaucht, viral werden kann, so halte ich die Stärkung der Medienkompetenz, insbesondere der Nachrichten- und der digitalen Informationskompetenz, für entscheidend, um gegen Desinformation im Allgemeinen und Deepfakes im Besonderen gewappnet zu sein. Dies beinhaltet auch aus staatlicher Sicht unter anderem den Fähigkeitenausbau zur Identifizierung von Deepfakes. Zusammenarbeit mit der Privatwirtschaft, der Zivilgesellschaft und unabhängigen Medien sowie die Stärkung von Resilienz gegenüber Desinformation.

Ich bin der Ansicht, dass die geltenden Gesetze bereits heute gut für die Herausforderungen von Deepfakes gerüstet sind. Das Zivil- und Strafrecht bietet uns eine Vielzahl an möglichen Mitteln, mit denen sich der Staat und die Bürgerinnen und Bürger gegen Deepfakes zur Wehr setzen können. Allerdings ist auch hier eine konsequente Rechtsdurchsetzung erforderlich, bei der es noch Verbesserungsbedarf gibt.

Ich teile Ihre Ansicht, dass bezüglich Kl in der Gesellschaft große Unsicherheit und vielleicht auch Unwissenheit herrscht. Um dem zu begegnen, sieht die Bundesregierung in ihrer Kl-Strategie (siehe Abschnitt „Dialoge in der Gesellschaft führen und den politischen Handlungsrahmen weiterentwickeln”, abzurufen unter https://www.ki-strategie-deutschland.de/home.html) Informationskampagnen und den Dialog mit Bildungs- und Wissenschaftsinstitutionen vor.

 

Workshop „Was bedeutet der Hype um Kl für Schulen? — Bildung unter Bedingungen der Digitalität”

Für die Schulpolitik sind grundsätzlich die Bundesländer verantwortlich. Der Bund darf nur in sehr engen Grenzen in die Bildungshoheit der Länder eingreifen. Das legt das Grundgesetz fest. Für Bildungsinhalte sowie die Ausbildung von Lehrkräften liegt die Zuständigkeit bei den Kultus- und Wissenschaftsministerien der einzelnen Bundesländer. Doch heißt das nicht, dass wir Fragen der schulischen Bildung nicht im Blick haben. So werden die Länder im Rahmen der KI-Strategie der Bundesregierung dazu aufgerufen, sich an der Umsetzung der Strategie zu beteiligen. Denn auch die Bildungsangebote müssen in Zeiten von Digitalisierung und KI für die Zukunft fit gemacht werden.

Im sogenannten DigitalPakt Schule hat der Bund gemeinsam mit den Ländern den Ausbau digitaler Infrastruktur an Schulen vereinbart. Hierzu leistet der Bund einen finanziellen Beitrag von fünf Milliarden Euro. Die Schulträger können sich um Fördermittel aus dem DigitalPakt bei den Ländern bewerben. Dies beinhaltet auch die von Ihnen angesprochene PC-Infrastruktur.

Im Rahmen des DigitalPakts haben sich die Bundesländer verpflichtet, die von Ihnen angesprochenen Themen Lehrerausbildung und -fortbildung und technische Umsetzung in den Schulen anzugehen. Außerdem haben sich die Länder verpflichtet, didaktische Konzepte zum Einsatz von digitalen Technologien im Lehralltag zu entwickeln. Das betrifft auch den von Ihnen geforderten fächerübergreifenden Unterricht und Ihre Forderung, die Lehrpläne an die aktuellen Lebenswelten junger Menschen anzupassen. Hier teile ich Ihre Ansicht, dass Künstliche Intelligenz ein großes Potenzial für neue Lernformen, individuelle Förderung und Teilhabe bietet. Die Umsetzung obliegt allerdings den Ländern, den Schulträgern bzw. den Schulen. Gleiches gilt für die Qualitätssicherung von Kl-basierten Unterrichtsmaterialien und -techniken.

 

Workshop „Zukunftsnarrative: wie wollen wir mit digitalen Technologien leben?”

Die derzeitige ältere Generation nutzt im Durchschnitt digitale Medien weniger als Angehörige jüngerer Altersgruppen. Viele Seniorinnen und Senioren sind zwar neugierig, ihnen ist aber der Nutzen neuer Technologien häufig nicht klar und einige fühlen sich auch überfordert. Dies ist bedauerlich, weil viele Technologien bzw. darauf gestützte Dienste gezielt auf die Bedürfnisse des Alters ausgerichtet sind. Durch ihre Nutzung können beispielsweise Wege zu räumlich entfernten Bankfilialen oder Supermärkten entfallen. Der Kontakt zu Freunden, Kindern oder Enkeln kann über große Distanzen hinweg intensiv gehalten werden. Für ältere Nutzer spielen die Möglichkeiten moderner Kommunikation eine wichtige Rolle in Notfällen. Um älteren Menschen den digitalen Zugang zu erleichtern, werden Angebote vor Ort und in vertrauter Umgebung benötigt. Das Gefühl, von der Nutzung digitaler Medien und Technologie persönlich profitieren zu können, kann vorhandene Hemmschwellen abbauen. Hierzu können auch Gleichaltrige als Vorbilder beitragen, die digitale Medien bereits sinnvoll nutzen.

In dem von meinem Haus geförderten Verbundprojekt »Digital-Kompass plus” der BAGSO

Service GmbH (BAGSO – Bundesarbeitsgemeinschaft der Seniorenorganisationen) und

Deutschland sicher im Netz e.V. (DsiN) begleiten beispielsweise engagierte Ältere als Internetlotsen andere Seniorinnen und Senioren auf ihrem Weg ins und im Netz. Digital-Kompass-Standorte – vor allem im ländlichen Raum und in strukturschwachen Regionen – bieten vielfältige informations- und Dialogangebote für mehr Lebensqualität, Selbstbestimmung und Partizipation im Alter durch Digitalisierung. So erleben ältere Menschen eine Stärkung bei der souveränen Nutzung digitaler Chancen.

Aber auch das Engagement junger Menschen ist gefragt. Gerade im Hinblick auf die digitalen Technologien sehen wir in generationenübergreifenden Aktivitäten ein großes Potenzial.

Mit dem Einsatz von KI gehen natürlich auch große Veränderungen für die Ausbildung und das Berufsleben einher. Daher begrüße ich Ihre Ideen für ein staatlich gefördertes Bildungsprogramm. Ein Baustein hierfür kann die in der Kl-Strategie der Bundesregierung vorgeschlagene Nationale Weiterbildungsstrategie sein, um ein breitenwirksames Instrumentarium zur Förderung der Kompetenzen von Erwerbstätigen zu entwickeln. Um für die digitalen Herausforderungen gewappnet zu sein, müssen wir in Deutschland eine Weiterbildungskultur etablieren, die sich am Konzept des lebensbegleitenden Lernens orientiert.

Antwortschreiben des Staatssekretärs Gerd Billen (BMJV) vom 30.03.2020

[1] Anm. d. Red.: Erstellung eines Nutzerkontos erforderlich.