GELEAKTE DOKUMENTE – #Querdenken: #Facebook machte aus deutschen #Corona-Skeptikern ein #Experiment

Wie geht man mit Gemeinschaften um, die immer wieder Falschmeldungen verbreiten? Mit dieser Frage hadert Facebook nach wie vor. Nun kommt heraus: Die deutsche Querdenken-Bewegung wurde vom Konzern als “Experiment” behandelt. Jahrelang gab es bei Facebook und der Tochter Instagram nur eine Währung: Wurde ein Artikel, Post oder Video besonders intensiv diskutiert, geteilt und kommentiert, landete er im Feed ganz oben. Doch in den letzten Jahren wurde es immer offensichtlicher, dass der Konzern in seinen sozialen Netzwerken ein Problem mit Falschmeldungen und extremistischen Gruppen hat. Um derer Herr zu werden, versuchte man teilweise sehr unterschiedliche Ansätze. Einer davon: das “Querdenken Experiment”. Das geht aus einem eigentlich nur intern genutzten Dokumente zur deutschen Bewegung der Covid-Skeptiker hervor, das auf den 29. April diesen Jahres datiert ist. (…) Denn Querdenken war von Facebook als Testobjekt für seinen größeren Kampf gegen die immer offensichtlicheren Probleme erkoren worden. Das Experiment sei ein “Proof of Concept”, also eine Machbarkeitsstudie, heißt es in den Dokumenten. “Es handelt sich hier um einen guten Zwischenschritt zwischen Nichtstun und einer Eskalation bis zu einem Punkt, an dem wir hart vorgehen müssen”, heißt es. Die Problematik der Querdenken-Bewegung war Facebook durchaus bewusst. Die Bewegung habe eine “robuste Präsenz” auf der eigene Plattform, erfolgreiche Seiten und entsprechende Reichweite, analysiert das Papier. Gleichzeitig war dem Konzern bewusst, dass es Überschneidungen mit anderen Problem-Bewegungen wie QAnon und den Reichsbürgern gibt. Auch die Gewalt, die auf einigen Demonstrationen gab und die Beobachtung durch den deutschen Staat waren Facebook bei Anfang des Experimentes bekannt. Sowohl die tief verwurzelten Verschwörungs-Ideologien als auch die “Offline-Gewalt” wurden als konkrete Gefahren gelistet. Gleichzeitig wären die Verbindung zur Gewalt noch nicht weitreichend genug, um eine konkrete Sperre zu rechtfertigen, wie sie bei anderen radikalen politischen Gruppierungen im Netzwerk erfolgt war, glaubte Facebook. Querdenken sei geradezu ein Paradebeispiel für die im Konzern neu definierte “Harmful Topic Community” (Gemeinschaft um ein schädliches Thema), kurz HTC. Bei diesen gehe es anders als bei politischen Gruppierungen weniger darum, konkrete Ziele zu erreichen, auch der Organisationsgrad sei niedriger. Es handle sich vielmehr um organisch um ein problematisches Thema herum gewachsene Gemeinschaften. Das ändere auch den Umgang mit den Gruppen. Statt hart gegen Einzelne vorzugehen, solle man in erster Linie das Wachstum unterbinden und eine Normalisierung der Problem-Bereiche unter den Nutzern zu unterbinden. Dazu wollte man gezielt die Sichtbarkeit senken. Konkret bedeutete das: Wird eine Interessengemeinschaft als HTC definiert, erscheinen die Posts der Gruppen seltener in Feeds, werden die Gruppen weniger vorgeschlagen und auch die Mitglieder tauchen weniger häufig als Freundesvorschläge auf. So sollten die Themen nicht von Facebook beim Wachsen unterstützt werden. Und Querdenken sollte Facebooks Experiment werden, ob das möglich ist.

via stern: GELEAKTE DOKUMENTE – Querdenken: Facebook machte aus deutschen Corona-Skeptikern ein Experiment

London will soziale Netzwerke bei Online-Hass in die Pflicht nehmen

Ein neues Gesetz soll die Verbreitung von Hass-Inhalten durch Algorithmen verhindern. Im Kampf gegen Hass im Netz will die britische Regierung die sozialen Netzwerke stärker in die Pflicht nehmen. “Social-Media-Unternehmen müssen viel schneller Daten herausgeben und die Inhalte selbst schnell entfernen”, schrieb die britische Kulturministerin Nadine Dorries am Samstag in der “Daily Mail”. Außerdem soll ein geplantes Gesetz verbieten, dass Algorithmen Hass-Inhalte weiter verbreiten. “Wenn Social-Media-Konzerne bei diesen Pflichten versagen, droht ihnen ein finanzieller Schlag.” Die britische Regulierungsbehörde solle Strafen in Höhe von zehn Prozent des jeweiligen weltweiten Umsatzes des Unternehmens verhängen können.

via standard: London will soziale Netzwerke bei Online-Hass in die Pflicht nehmen

Trumps “Truth Social” wird Ultimatum gestellt, um Lizenzverstöße zu beenden

Software Freedom Conservancy droht mit rechtlichen Schritten, sollten die Truth-Entwickler weiter Code des Open Source-Projekts Mastodon missbräuchlich nutzen. Im November will Trump sein lange angedeutetes und zuletzt offiziell angekündigtes Social Network an den Start bringen. Es trägt – ironischerweise – den Namen “Truth Social”. Noch bevor der erste Nutzer ein Posting auf der fertigen Seite abgesetzt hat, steht dem Projekt Ärger ins Haus, berichtet The Verge. Denn wie es aussieht haben sich die Entwickler kräftig beim dezentralen, quelloffenen Netzwerk Mastodon bedient. Davon zeigen sich jedenfalls dessen Macher überzeugt. Wenngleich der Quellcode von Mastodon prinzipiell für jeden kostenfrei zugänglich ist, unterliegt seine Nutzung bestimmten Bedingungen. Im konkreten Fall jenen der GNU Affero General Public License v3 (AGPL v3). (…) Die Software Freedom Conservacy (SFC) hat nun der Trump Media & Technology Group per 22. Oktober ein 30-tägiges Ultimatum gesetzt. Sollte Truth bis dahin nicht allen Nutzern seinen Quellcode zugänglich machen oder auf nachweislich eigenen Code umrüsten, so will man der Plattform den Zugang zum Quellcode entziehen und rechtliche Schritte einleiten. Die SFC spricht davon, dass Trumps Firma die zum Wohle aller aufgestellten Regeln ignoriert.

via standard: Trumps “Truth Social” wird Ultimatum gestellt, um Lizenzverstöße zu beenden

siehe auch: Trump’s social network has 30 days to stop breaking the rules of its software license. Truth Social ripped off open-source platform Mastodon. The Software Freedom Conservancy (SFC) says former President Donald Trump’s new social network violated a free and open-source software licensing agreement by ripping off decentralized social network Mastodon. The Trump Media and Technology Group (TMTG) has 30 days to comply with the terms of the license before its access is terminated — forcing it to rebuild the platform or face legal action; Trumps eigenes soziales Medium soll Programmcode geklaut haben. Dieser soll von der Open-Source-Plattform Mastodon übernommen worden sein – ohne Einhaltung von Vorgaben, weshalb rechtliche Schritte erwogen werden. Donald Trump ist nicht gut auf die Betreiber von sozialen Medien zu sprechen. Aus seiner Sicht wird er unfair behandelt, speziell seine Sperre nach dem Sturm auf das US-Kapitol sei ungerechtfertigt. Mit “The Truth Social” – der Name ist kein Scherz – will der ehemalige US-Präsident nun ein alternatives soziales Netzwerk aufbauen, das sich gegen die “Tyrannei von Big Tech” wehre und ähnlich funktioniert wie der Kurznachrichtendienst Twitter. So ähnlich, dass Postings “Truths” heißen – vergleichbar mit Tweets –, geteilte Beiträge “Re-Truths” – wie Retweets – und die Startseite “Truth Feed” wie der Twitter Feed. Doch “Vice News” zufolge ist nicht nur das Konzept einer anderen Plattform verdächtig ähnlich, sondern auch der Code der Webseite. So dürfte dieser in Teilen von dem Open-Source-Netzwerk Mastodon übernommen worden sein. Twitter-User erstellten sogar Screenshots von “The Truth”, die zeigen, dass Mastodon noch im HTML-Code der Seite genannt wird. Und auch auf der Oberfläche der Plattform selbst sind Ähnlichkeiten zu finden. Mastodon machte sich auf Twitter selbst darüber lustig und schrieb, dass es nun keine Ausreden mehr dafür gebe, dass die eigene Plattform zu kompliziert sei, wenn sie doch auch von Trump bedient werde.

Nazi-Ideologie und Kinderpornos – Hessenweite Razzia gegen Rechtsextreme

Es geht um Volksverhetzung, Nazi-Symbole, Kinderpornographie: An mehreren Orten in Hessen hat die Polizei Wohnungen von Rechtsextremen durchsucht und Beweismaterial sichergestellt. Am frühen Mittwochmorgen hat es eine groß angelegte, hessenweite Razzia gegen Rechtsextremismus gegeben. Wie das Landeskriminalamt (LKA) am Donnerstag mitteilte, durchsuchten Polizei und Staatsanwaltschaft insgesamt acht Wohnungen an mehreren Orten: in den Kreisen Marburg-Biedenkopf, Darmstadt-Dieburg, Kassel und im Odenwaldkreis. Neun Männer und drei Frauen tatverdächtig Dabei habe es sich um Ermittlungen der Staatsanwaltschaften Darmstadt, Frankfurt, Kassel und Marburg im Kampf gegen Rechtsextremismus gehandelt – unter Federführung des LKA. Zwölf Tatverdächtige hatten die Ermittler dabei im Visier: neun Männer und drei Frauen im Alter von 14 bis 54 Jahren – alle sind deutsche Staatsangehörige. Ihnen werde unter anderem die Verwendung von Kennzeichen verfassungswidriger und terroristischer Organisationen, sowie Volksverhetzung vorgeworfen, teilte das LKA mit. Im Laufe der Ermittlungen sei außerdem der Vorwurf Verbreitung, Erwerb und Besitz kinderpornographischer Inhalte hinzugekommen. Die Staatsanwaltschaft Marburg erklärte auf hr-Anfrage, Anlass der Dursuchungen seien WhatsApp-Gruppen mit möglicherweise nationalsozialistischen Inhalten gewesen – unter anderem könnten dort Hakenkreuz-Bilder geteilt worden seien. Die Beschuldigten stünden im Verdacht, volksverhetzende Posts geteilt zu haben

via hessenschau: Nazi-Ideologie und Kinderpornos – Hessenweite Razzia gegen Rechtsextreme

A whistleblower’s power: Key takeaways from the Facebook Papers

Interviews with dozens of current and former employees and a trove of internal documents show how the social media company inflamed real-world harms. A personal decision by Facebook CEO Mark Zuckerberg leads to a crackdown on dissent in Vietnam. Measures to suppress hateful, deceptive content are lifted after the American presidential election in 2020, as pro-Trump groups disputing the legitimacy of the election experience “meteoric” growth. A dummy test account on Facebook in India is flooded with violent anti-Muslim propaganda — which remains visible for weeks on the real account of a frightened Muslim college student in northern India. A trove of internal Facebook documents reveals that the social media giant has privately and meticulously tracked real-world harms exacerbated by its platforms, ignored warnings from its employees about the risks of their design decisions and exposed vulnerable communities around the world to a cocktail of dangerous content. (…) For all Facebook’s troubles in North America, its problems with hate speech and misinformation are dramatically worse in the developing world. Documents show that Facebook has meticulously studied its approach abroad, and is well aware that weaker moderation in non-English-speaking countries leaves the platform vulnerable to abuse by bad actors and authoritarian regimes. According to one 2020 summary, the vast majority of its efforts against misinformation — 84 percent — went toward the United States, the documents show, with just 16 percent going to the “Rest of World,” including India, France and Italy. Though Facebook considers India a top priority, activating large teams to engage with civil society groups and protect elections, the documents show that Indian users experience Facebook without critical guardrails common in English-speaking countries.

via washington post: A whistleblower’s power: Key takeaways from the Facebook Papers

Lawmakers will grill Snap, TikTok and YouTube on kids and safety tomorrow

After dragging in the same companies and their reticent, overtrained executives time and time again, Congress is turning its attention to two of the tech industry’s fresh but important faces: TikTok and Snap. On Tuesday, lawmakers on the Senate Subcommittee on Consumer Protection, Product Safety, and Data Security will question policy leads from those two companies and YouTube on how their platforms affect vulnerable young users. Facebook whistleblower Frances Haugen testified before the same committee on parallel issues in early October, shortly after revealing her identity. The hearing will air on Tuesday at 7AM PT, featuring testimony from Snap VP of Global Public Policy Jennifer Stout, TikTok’s VP and Head of Public Policy Michael Beckerman and Leslie Miller, who leads government affairs and public policy at YouTube. Subcommittee chair Senator Richard Blumenthal (D-CT) will lead the hearing, which will focus on social media’s detrimental effects on children and teens. “The bombshell reports about Facebook and Instagram—their toxic impacts on young users and lack of truth or transparency—raise serious concerns about Big Tech’s approach toward kids across the board,” Blumenthal said, connecting reports about Instagram’s dangers for teens to social media more broadly. The subcommittee’s ranking Republican Marsha Blackburn (R-TN) has signaled that she’s particularly interested in privacy concerns around TikTok.

via techcrunch: Lawmakers will grill Snap, TikTok and YouTube on kids and safety tomorrow

Not stopping ‘Stop the Steal:’ #FacebookPapers paint damning picture of company’s role in #insurrection

Just days after insurrectionists stormed the Capitol on January 6th, Facebook’s Chief Operational Officer Sheryl Sandberg downplayed her company’s role in what had happened. “We know this was organized online. We know that,” she said in an interview with Reuters. “We… took down QAnon, Proud Boys, Stop the Steal, anything that was talking about possible violence last week. Our enforcement’s never perfect so I’m sure there were still things on Facebook. I think these events were largely organized on platforms that don’t have our abilities to stop hate and don’t have our standards and don’t have our transparency.” But internal Facebook (FB) documents reviewed by CNN suggest otherwise. The documents, including an internal post-mortem and one document showing in real time countermeasures Facebook employees were belatedly implementing, paint a picture of a company that was in fact fundamentally unprepared for how the Stop the Steal movement used its platform to organize, and that only truly swung into action after the movement, which played a pivotal role in the insurrection, had turned violent. Asked by CNN about Sandberg’s quote and whether she stood by it, a Facebook spokesperson pointed to the greater context around Sandberg’s quote. She had been noting that Jan. 6 organization happened largely online, including but not limited to on Facebook’s platforms, the spokesperson said. The documents were provided by Facebook whistleblower Frances Haugen as evidence to support disclosures she made to the Securities and Exchange Commission and provided to Congress in redacted form by Haugen’s legal counsel. The redacted versions were obtained by a consortium of 17 US news organizations, including CNN.

via cnn: Not stopping ‘Stop the Steal:’ Facebook Papers paint damning picture of company’s role in insurrection