Saarland.de - Startseite
   Benutzerhinweise    Inhalt    Suche
Ministerium der Justiz
 

Justizminister Stephan Toscani: „Der Staat muss eine digitale Infrastruktur schaffen, die auch im Internet einen pluralen öffentlichen Raum und Grundrechtsschutz gewährleistet – Einsatz von Algorithmen und Social Bots regulieren.“

Justizminister Stephan Toscani spricht sich beim Sommergespräch in der Staatskanzlei am 13. Juli 2017 für eine Regulierung des Einsatzes von Algorithmen im Internet aus. Der Einsatz von Algorithmen bestimme die politische Meinungsbildung sowie die faktische Marktmacht und Datenhoheit im Netz stark.

Er erläutert: „Der Einsatz von Algorithmen kann die freiheitlich-demokratische Grundordnung verändern. So kann bei der politischen Meinungsbildung eine verdeckt-manipulierende, maschinelle Zensur erfolgen. In sozialen Netzwerken und Foren werden Daten oft derart gefiltert, dass sich die Nutzerinnen und Nutzer regelmäßig in ihrer Meinung bestätigt sehen, ohne dass sie mit anderen Sichtweisen konfrontiert werden (sog. Filterblase). Das bedeutet einen Verlust von Pluralismus und kann zu Intoleranz und gesellschaftlicher Polarisierung führen.“

Von Bürgerinnen und Bürgern werden genaue Profile angelegt (Profiling). Dies geschieht dadurch, dass Unternehmen in nie gekanntem Ausmaß Daten sammeln und sie durch den Einsatz von Algorithmen verknüpfen. Unternehmen setzen dieses Profiling bei der Erstellung von Angeboten – seien es Meinungen, politische Überzeugungen oder Produkte – ein. Für die Nutzerinnen und Nutzer ist dabei oft nicht erkennbar, auf welchen Daten und Kriterien mittels Algorithmen entstandene Meinungs-, Werbe- oder Vertragsangebote beruhen. Dies bewirkt strukturell ein informationelles Ungleichgewicht zwischen Nutzer- und Anbieterseite. Der automatisierten Diskriminierung im Alltag werden so Tür und Tor geöffnet. Dies kann auch den selbstbestimmten politischen Willensbildungsprozess in einer Demokratie gefährden.

Dem Einfluss von Algorithmen kann sich kaum jemand entziehen, ihre Auswirkungen sind in unserem Alltag bereits heute gegenwärtig: Algorithmen entscheiden teilweise darüber, ob jemand einen Kredit bekommt. Sie schlagen vor, welche Bewerber zu einem Vorstellungsgespräch eingeladen werden. Computer entscheiden anhand von Algorithmen zunehmend selbst, ob etwa im Internethandel auf Rechnung oder nur gegen Vorauskasse gezahlt werden kann. Nutzer bestimmter Endgeräte müssen damit rechnen, für ihre Internetbestellungen mehr zu bezahlen als die Verwender anderer Computersysteme.

„Echte Meinungsvielfalt, wahre Privatautonomie und Gleichbehandlung sehen anders aus. Es geht hierbei nicht um Technologiefeindlichkeit, sondern darum, die missbräuchliche Nutzung neuer Technologien zu begrenzen und transparent zu machen. Der Staat muss die Infrastruktur des Internets human mitgestalten. Auch der digitale Raum muss offen gehalten werden und den Nutzern eine echte, manipulationsfreie Auswahl ermöglichen. Wir müssen strukturelle Voraussetzungen schaffen, um auch dort die Pluralität sowie die Meinungs- und Angebotsvielfalt zu bewahren“, sagt Stephan Toscani.

1)   Daher will sich der Minister für Algorithmentransparenz in Foren und bei Vertragsbeziehungen im Internet einsetzen: „Um unseren Bürgerinnen und Bürgern informierte und selbstbestimmte Entscheidungen zu ermöglichen, müssen die wesentlichen Kriterien, aufgrund derer Algorithmen entscheiden, überprüfbar und für Nutzerinnen und Nutzer besser erkennbar gemacht werden“, fordert Stephan Toscani. In Betracht komme etwa die Verpflichtung von Unternehmen, auf ihrer Internetseite für jedermann leicht auffindbar und verständlich grundlegende Informationen über den von ihnen verwendeten Algorithmus vorzuhalten, wenn dieser konkrete Auswirkungen auf die Nutzer habe. Dadurch wird eine Überprüfung durch unabhängige Stellen möglich.

2)   Auch bei neuen Technologien und der Entwicklung künstlicher Intelligenz müsse eine Risikofolgenabschätzung erfolgen, damit der Staat die Einhaltung der Rechtsordnung im digitalen Raum ebenso gewährleisten kann wie in der analogen Welt. Für derartige Risiko- und Gefährdungsanalysen sowie Zertifizierungen könnte künftig z. B. eine staatliche Agentur eingerichtet werden – eine Art „TÜV für Algorithmen“.

Stephan Toscani will diese Überlegungen in eine von der Justizministerkonferenz eingesetzte Arbeitsgruppe einbringen. Diese prüfe derzeit, ob und gegebenenfalls welche rechtlichen Anpassungen geboten sind. Ein erster Zwischenbericht der Bund-Länder-Arbeitsgruppe wird bis zur Justizministerkonferenz im Frühjahr 2018 vorliegen.

Auch der Beeinflussung durch sog. Social Bots sollen nach Ansicht des Justizministers rechtliche Grenzen gezogen werden. In sozialen Netzwerken sowie im politischen und wirtschaftlichen Bereich werden zunehmend Computerprogramme eingesetzt, die vorspiegelten, menschliche Nutzer zu sein. Damit könne unlauter und gravierend Einfluss auf die Willensbildung genommen werden. Zudem würden über Social Bots massenhaft Falschnachrichten („Fake News“) verbreitet.

„Social Bots erlauben ihrem Verwender, einer Einzelmeinung höheres Gewicht zu verschaffen. Bürgerinnen und Bürger werden so gezielt über Sachverhalte und Meinungen getäuscht, Diskussionen systematisch manipuliert. Social Bots sind geeignet, den demokratischen Meinungsbildungsprozess zu gefährden.“

Dies haben auch die Justizministerinnen und Justizminister auf ihrer Frühjahrskonferenz bemängelt und sich zum Ziel gesetzt, bis zur Herbstkonferenz eine gemeinsame Position zu erarbeiten.

„Es bedarf ergänzender Regelungen: Insbesondere im EU-Recht wäre eine Regulierung wünschenswert und sehr effektiv. Ich bin dafür, die Betreiber von Plattformen sozialer Netzwerke zu verpflichten, Beiträge, die von Social Bots erstellt und versandt wurden, zu kennzeichnen. Dies muss mit einer Regelung zur effektiven Durchsetzbarkeit flankiert werden“, äußert Stephan Toscani.

Er ist überzeugt: „Eine derartige Regulierung könnte auch dem Einsatz von Social Bots in Wahlkämpfen entgegenwirken.“