Gegen Fake-News und Hetze in den Sozialen Medien
Digitalministerin Gerlach für Kennzeichnungspflicht von KI
Um Fake-News, Onlinehetze und Meinungsmanipulation einzudämmen hat Bayerns Staatsministerin für Digitales, Judith Gerlach, eine Kennzeichnungspflicht für Künstliche Intelligenz (KI) in sozialen Netzwerken gefordert. Plattformen und Netzwerke müssten mehr Transparenz schaffen und durch KI und sogenannte Bots erstellte Beiträge klar als solche kennzeichnen.
Technologien sind inzwischen so ausgereift, dass durch KI erstellte Beiträge selbst von Experten kaum noch als solche zu erkennen sind. Insbesondere gilt das für sogenannte Deep Fakes. Diese mit KI-Methoden manipulierten Videos oder Audiomitschnitte sind nur schwer als Fälschungen zu erkennen. Teilen dann reale Personen diese oftmals hetzerischen Inhalte, verbreiten sich diese in sozialen Netzwerken. Am Rande einer Israel-Reise forderte Bayerns Staatsministerin für Digitales, Judith Gerlach, nun eine Kennzeichnungspflicht für Künstliche Intelligenz.
Gerlach sieht die Verantwortung für manipulierte Inhalte bei den Plattform-Betreibern. „Während der Corona-Pandemie und ebenso durch den Angriffskrieg gegen die Ukraine erleben wir eine Zunahme von Desinformation und Hetze. Wir müssen jetzt handeln.“
Sicher könne jede Nutzerin und jeder Nutzer im Rahmen geltender Gesetze die eigene Meinung frei über die Sozialen Plattformen kundtun. Doch diese Gesetze gelten exklusiv für reale Personen. „Meinungsfreiheit gilt für Menschen, nicht für Maschinen“, so Gerlach.
Praktiken zum Schutz vor Hass und Manipulation
Der Kampf gegen Antisemitismus, Desinformation und Hass im Netz steht thematisch im Mittelpunkt der Israelreise der Digitalministerin. Am Dienstag besuchte Gerlach das Antisemitism Research Center in Tel Aviv und tauschte sich mit der Direktorin Tal-Or Cohen über bewährte Praktiken zum Schutz vor Hass und Manipulation im Netz aus.
Tal-Or Cohen sagte: „Ich war schockiert über die Epidemie des Hasses gegen Juden besonders auf Social-Media-Plattformen wie Facebook. Ich fühlte mich dadurch angetrieben, eine Technologie zu entwickeln, die Minderheiten, die von diesem Online-Hass betroffen sind, ihre Macht zurückgibt. Soziale Plattformen streiten ihre Verantwortung, hasserfüllte Inhalte zu löschen, immer noch ab. Berichten zufolge bleiben Beiträge, die den Holocaust leugnen, zu 80 Prozent online.“
Gerlach sieht hierin eine der größten Herausforderungen der Gegenwart. „Kommunikation basiert auf Vertrauen. Das ist der Wesenskern der Demokratie. Jeder muss wissen, ob er online gerade mit einem Menschen oder einer Maschine kommuniziert. Die Plattformen können sich hier nicht länger der Verantwortung entziehen.”
Entsprechend sollen Plattformen wie Facebook, Twitter, Instagram oder Telegram Nutzerinnen und Nutzern niedrigschwellige Filtermöglichkeiten für KI-Inhalte anbieten. Technisch sind solche Kennzeichnungen laut den Plattformbetreibern grundsätzlich bereits möglich. Dies liege auch im Interesse der Plattformen. Denn wenn die Nutzerinnen und Nutzer einer Quelle vertrauen können, werden sie diese auch häufiger und guten Gewissens verwenden. Google selbst habe bereits geäußert, dass KI-erstellte Inhalte gegen die eigenen Richtlinien verstießen.
Darüber hinaus müsse aber auch der Staat tätig werden. „Wir brauchen klare Regeln. Europa geht hier wie schon beim Datenschutz voran“, so Gerlach.
Das könnte Sie auch interessieren...
Jugendliche und Soziale Medien
„Soziale Medien sind aus dem Alltag der Jugendlichen nicht mehr wegzudenken“
Soziale Medien sind annähernd allgegenwärtig und kaum mehr aus dem gesellschaftlichen Gefüge wegzudenken. Zumindest was jüngere Altersgruppen angeht. Seitens der älteren und Eltern-Generation herrschen allerdings oft Unkenntnis und Unverständnis bezüglich Facebook, Instagram, YouTube und Co. Julia Grewe und Benedikt Martin haben sich mit ihrer Medienagentur 2Wort der Aufklärung von Eltern und Großeltern über Soziale Medien verschrieben. Im Webecho-Interview sprechen sie über generationelle Unterschiede im Umgang mit und Gefahren und Chancen von Sozialen Medien.
Welche Erkenntnisse gibt es über das Nutzungsverhalten von Kindern und Jugendlichen in den Sozialen Medien? Wie lange sind sie täglich online, auf welchen Plattformen, um dort was zu tun?
Benedikt Martin: Laut einer aktuellen Studie sind Jugendliche durchschnittlich etwa 205 Minuten am Tag online und die meiste Zeit davon verbringen sie mit Social-Media-Plattformen. Die beiden Stichworte sind hier vor allem Unterhaltung und Kommunikation.
Welchen Stellenwert haben Soziale Medien im täglichen Leben der Kinder und Jugendlichen?
Julia Grewe: Einen sehr hohen. Soziale Medien sind aus dem Alltag der Jugendlichen nicht mehr wegzudenken. Das macht dieses Thema im Familienalltag ja auch so wichtig, weil es jeden Tag präsent ist.
Gibt es Kinder oder Jugendliche, die keine Soziale Medien nutzen? Was sind die Gründe dafür?
Julia Grewe: Natürlich gibt es das, aber das liegt dann wohl eher an den Eltern, die das nicht erlauben.
Benedikt Martin: Erfahrungsgemäß sind das sehr, sehr wenige und dafür gibt es wahrscheinlich auch individuelle Gründe. Das Alter spielt da auf jeden Fall eine Rolle und hier gibt es eine Kurve nach oben. Mit jedem Jahr steigen die Nutzungszahlen.
Ab wann ist die Nutzung der Soziale Medien übermäßig?
Benedikt Martin: Es gibt definitiv übermäßige Nutzung. Wann dieser Punkt erreicht ist, hängt von mehreren Faktoren ab. Da gibt es leider kein Patentrezept – deswegen bieten wir Workshops zu dem Thema an, damit Eltern und Lehrer kompetente Entscheidungen in dieser Hinsicht treffen können.
Kann sich eine Sucht entwickeln? Was sind Anzeichen dafür?
Benedikt Martin: Die kurze Antwort ist ja. Die lange Antwort: Es ist gar nicht so einfach. Vielleicht so viel: Es gibt Anzeichen für Suchtverhalten und es wird noch diskutiert, ob dieses Verhalten in das Glossar der ICD, die Internationale statistische Klassifikation der Krankheiten und verwandter Gesundheitsprobleme, aufgenommen werden sollte oder einem anderen Suchtverhalten zugeordnet wird. Dafür sind wir nicht die richtigen Ansprechpartner.
Welche Gefahren bestehen im Umgang mit den Sozialen Medien?
Benedikt Martin: Eine Gefahr ist auf jeden Fall der Kontrast der Lebenswelten zwischen den Generationen. Wir haben gerade eine Elterngeneration, die ohne Smartphones und soziale Medien aufgewachsen ist, während diese Dinge für deren Kinder völlig selbstverständlich sind. Damit haben die Eltern keine Erfahrungswerte, wie sie damit umgehen sollen und haben außerdem ein Wissensdefizit gegenüber ihren Kindern. Die Gefahr ist also, dass Kinder und Jugendliche mehr oder weniger ohne Kontrolle im Netz agieren können.
Soziale Medien sind voll von rassistischen und sexistischen Inhalten. Was können Eltern tun, um zu verhindern, dass ihre Kinder damit nicht allzu sehr in Kontakt geraten, beziehungsweise wie können Eltern verhindern, dass ihre Kinder sich von diesen Inhalten beeinflussen lassen?
Benedikt Martin: Nun ja, die Welt ist voller solcher Inhalte. Die sind ja nicht erst mit den Sozialen Medien aufgetaucht. Sie sind jetzt nur schneller verfügbar. Aber der Ansatz ist: Darüber reden und Werte vermitteln. Im Umgang mit sozialen Medien braucht es Grenzen und klare Absprachen. Allerdings ist es ja nicht so, dass man Instagram öffnet und wird mit Rassismus und sexistischen Anspielungen zugeschüttet. Auch da hilft es wieder sich auszukennen, um bestimmte Plattformen einschätzen zu können.
Wo liegen die Chancen der Nutzung Sozialer Medien?
Benedikt Martin: In der Vernetzung. Noch nie war Kommunikation so einfach über Ländergrenzen hinweg. Es bringt Menschen zusammen mit gemeinsamen Interessen, die sich sonst wahrscheinlich nie treffen würden. Auch für gesellschaftliche Akteure macht es vieles einfacher. Sei es für Künstler, die es als Plattform nutzen oder ganze Bewegungen, um sich zu organisieren.
Julia Grewe: Soziale Medien bietet eine Plattform für Austausch, für Kontakt, für Informationsvermittlung und für Kommunikation. Die meisten von uns haben ja online auch schonmal eine Buchrezension gelesen oder eine Restaurantbewertung gemacht – das sind auch Soziale Medien.
Was müssen Eltern bezüglich des Umgangs ihrer Kinder mit Sozialen Medien wissen, worauf müssen sie achten?
Benedikt Martin: Das klingt ein bisschen nach der Suche eines Regelkatalogs. Das ist allerdings nicht so einfach. Soziale Medien sind vielfältig und komplex. Das kann man mit keinem anderen Medium so einfach vergleichen. Es ist schwer, da allgemeingültige Aussagen zu treffen. Ein guter Start ist zum Beispiel einen Mediennutzungsvertrag mit seinem Kind zu besprechen, also auszumachen, wie lange und in welchem Umfang Kinder Soziale Medien nutzen dürfen.
Ab welchem Alter ist es sinnvoll, Kindern die Nutzung von Soziale Medien zu erlauben?
Benedikt Martin: Das kann man pauschal nicht sagen, Instagram und Facebook haben selbst ein Mindestalter von 13 festgelegt. Am besten ist, wenn man die Plattformen selbst kennt und weiß, was auf seine Kinder zukommt, dann kann man das selbst entscheiden.
Julia Grewe: Da wir, also die Elterngeneration, nicht mit Sozialen Medien aufgewachsen sind, ist das meistens nicht so unsere Welt. Wir verstehen die Mechanismen nicht, es gibt keinen wirklichen ‚Social-Media-Knigge‘, wir sind uns der Auswirkungen auf die Persönlichkeitsentwicklung und der möglichen Gefahren nicht bewusst. Das ist es, worüber wir aufklären möchten. Denn nur wenn man eine Situation – ich möchte hier gar nicht nur von Problemen sprechen – versteht, kann man sie auch einordnen und gegebenenfalls reagieren.
Sie schreiben, dass Eltern, die sich mit Sozialen Medien auskennen, ihre Kinder im Umgang damit unterstützen und verantwortungsvoll lenken können. Was heißt das?
Benedikt Martin: Wie mit anderen Erziehungsthemen auch, greifen Eltern ja in der Regel auf ihre eigenen Erfahrungen und Erkenntnisse zurück. Das ist beim Thema Soziale Medien allerdings schwierig, da dies ein neues Phänomen ist, bei dem die Eltern keine eigenen Erfahrungen besitzen, auf deren Basis sie Entscheidungen treffen können. Das heißt für Eltern, sich auf das Thema Soziale Medien einzulassen und sich in ihrem eigenen Medienverhalten zu reflektieren.
Haben sie Rückmeldung der Kinder und Jugendlichen, die ihren Eltern aufgrund der von Ihnen gegebenen Kompetenz plötzlich in den Sozialen Medien begegnen? Herrscht da eher Freude oder Ablehnung?
Benedikt Martin: Vermutlich kommt das ganz darauf an, wie alt die Kinder sind. Es gab schon den Fall, dass die 13-jährige Tochter es gar nicht toll fand, dass ihre Mutter sich bei uns angemeldet hat.
Auf der anderen Seite sind wir fest davon überzeugt, dass es medienkompetente Eltern braucht, um medienkompetente Kinder zu erziehen.
Julia Grewe: Kinder und Jugendliche wollen sich ja immer ihre eigenen Räume schaffen, sich auch abgrenzen von den Eltern. Und wenn diese Bereiche dann plötzlich von den Eltern erobert werden, sind sie nur noch halb so interessant. Dann müssen eben neue Räume geschaffen werden. Das merken wir ja auch bei den Sozialen Medien: Es kommen ständig neue Kanäle dazu.
In Ihren Workshops klären Sie Eltern, Großeltern und Lehrkräfte über den Umgang von Kindern und Jugendlichen mit Sozialen Medien auf. Wie hoch ist der Wissenstand der Teilnehmerinnen und Teilnehmer? Kennen sie sich grundlegend aus oder müssen bei manchen erst noch Grundlagen geschaffen werden?
Benedikt Martin: Die meisten unserer Teilnehmer kennen sich kaum aus und deswegen startet unser Workshop auch mit den Grundlagen. Wir zeigen erstmal die unterschiedlichen Kanäle und wofür sie genutzt werden.
Julia Grewe: Wie gesagt, das ist nicht unbedingt die Lebenswelt der Eltern. Wir schaffen deshalb die Grundlagen und bringen alle auf einen Stand. Keine Frage ist zu einfach, niemand muss Angst haben, etwas nicht zu wissen oder zu kennen. Wir klären über die relevanten Kanäle auf, fassen Studien zu dem Thema zusammen, erarbeiten verschiedene Sachverhalte gemeinsam – es ist ja ein Workshop, da geht es auch immer ums Ausprobieren und Anwenden. Und natürlich geben wir Ratschläge, was die Eltern dann mit diesem Wissen auch konkret tun können, wie es also zuhause weitergehen kann.
Weitere Informationen unter:
Das könnte Sie auch interessieren...
