{"id":36878,"date":"2017-02-06T08:49:45","date_gmt":"2017-02-06T07:49:45","guid":{"rendered":"http:\/\/www.nachdenkseiten.de\/?p=36878"},"modified":"2017-02-06T09:42:01","modified_gmt":"2017-02-06T08:42:01","slug":"die-meinungsroboter-kommen-die-naechste-eskalationsstufe-im-propagandakrieg-um-unsere-koepfe-ist-erreicht","status":"publish","type":"post","link":"https:\/\/www.nachdenkseiten.de\/?p=36878","title":{"rendered":"Die Meinungsroboter kommen \u2013 die n\u00e4chste Eskalationsstufe im Propagandakrieg um unsere K\u00f6pfe ist erreicht"},"content":{"rendered":"<p>Wussten Sie eigentlich, dass ein gro&szlig;er Teil der fremdenfeindlichen Beitr&auml;ge in den Sozialen Netzwerken w&auml;hrend der Fl&uuml;chtlingskrise von sogenannten Social Bots kam? Und wussten Sie, dass w&auml;hrend des ersten Phase des B&uuml;rgerkriegs in der Ost-Ukraine Social Bots aus dem Umfeld des &bdquo;Rechten Sektors&ldquo; &uuml;ber rund 15.000 Twitter-Accounts t&auml;glich rund 60.000 Meldungen abgesetzt haben? Im US-Wahlkampf waren diese Bots genauso aktiv wie <a href=\"http:\/\/www.kas.de\/wf\/doc\/kas_46486-544-1-30.pdf?161222122757\">beim Brexit-Referendum<\/a>. Wer hinter diesen Bots steht, ist unbekannt. Interessant ist in diesem Zusammenhang jedoch, dass die US-Regierung bereits 2010 eine Spezialsoftware entwickeln lie&szlig;, mit der man ein ganzes Heer von Social Bots steuern kann und amerikanische Softwaredienstleister aus dem Umfeld der Geheimdienste laut geleakten Mails offenbar seit Jahren diese Technologien beherrschen. Und da regen wir uns &uuml;ber vermeintliche Putin-Trolle auf? Das Thema Social Bots wird uns noch h&auml;ufig besch&auml;ftigen. Von <strong>Jens Berger<\/strong>.<\/p><p><em>Dieser Beitrag ist auch als Audio-Podcast verf&uuml;gbar.<\/em><br>\n<!--more--><br>\n<\/p><div class=\"powerpress_player\" id=\"powerpress_player_7891\"><!--[if lt IE 9]><script>document.createElement('audio');<\/script><![endif]-->\n<audio class=\"wp-audio-shortcode\" id=\"audio-36878-1\" preload=\"none\" style=\"width: 100%;\" controls=\"controls\"><source type=\"audio\/mpeg\" src=\"http:\/\/www.nachdenkseiten.de\/upload\/podcast\/170203_Die_Meinungsroboter_kommen_NDS.mp3?_=1\"><\/source><a href=\"http:\/\/www.nachdenkseiten.de\/upload\/podcast\/170203_Die_Meinungsroboter_kommen_NDS.mp3\">http:\/\/www.nachdenkseiten.de\/upload\/podcast\/170203_Die_Meinungsroboter_kommen_NDS.mp3<\/a><\/audio><\/div><p class=\"powerpress_links powerpress_links_mp3\">Podcast: <a href=\"http:\/\/www.nachdenkseiten.de\/upload\/podcast\/170203_Die_Meinungsroboter_kommen_NDS.mp3\" class=\"powerpress_link_pinw\" target=\"_blank\" title=\"Play in new window\" onclick=\"return powerpress_pinw('https:\/\/www.nachdenkseiten.de\/?powerpress_pinw=36878-podcast');\" rel=\"nofollow\">Play in new window<\/a> | <a href=\"http:\/\/www.nachdenkseiten.de\/upload\/podcast\/170203_Die_Meinungsroboter_kommen_NDS.mp3\" class=\"powerpress_link_d\" title=\"Download\" rel=\"nofollow\" download=\"170203_Die_Meinungsroboter_kommen_NDS.mp3\">Download<\/a><\/p><p>Nach der ersten TV-Debatte zwischen Donald Trump und Hillary Clinton <a href=\"https:\/\/www.tagesschau.de\/inland\/social-bots-afd-101.html\">wurde<\/a> mehr als jeder dritte Tweet zur Unterst&uuml;tzung von Trump und auch mehr als jeder f&uuml;nfte Tweet zur Unterst&uuml;tzung von Clinton nicht von einem Menschen, sondern von einer Maschine, einem Social Bot abgesetzt. Social Bots, die in den Netzen gegen Trump eingesetzt wurden, <a href=\"http:\/\/www.ndr.de\/kultur\/Social-Bots-als-Meinungsmacher,socialbots102.html\">gingen dabei<\/a> besonders phantasievoll vor: zun&auml;chst posteten sie frauen- und fremdenfeindliche Spr&uuml;che, um erst einmal in die &bdquo;<a href=\"http:\/\/www.nachdenkseiten.de\/?p=28235\">Filterblase<\/a>&ldquo; der Trump-Sympathisanten vorzudringen, nur um dann Trump zu kritisieren und zur Wahl seiner Konkurrenten aufzurufen. <\/p><p>Eine &auml;hnliche, aber noch professionellere Methode wendeten die Bots an, die 2014\/2015 im Ukraine-Konflikt auf Seiten des rechten Sektors in den sozialen Netzwerken <a href=\"http:\/\/www.aaai.org\/ocs\/index.php\/ICWSM\/ICWSM16\/paper\/view\/13015\">ihr Unwesen trieben<\/a>. Die Bots posteten in der ersten Phase vor allem unverf&auml;ngliche Inhalte, die vor allem die Zielgruppe der jungen M&auml;nner ansprechen sollten &ndash; also Fu&szlig;ball, Frauen und Raubkopien. Als die Lage im Osten des Landes eskalierte, streuten die Bots auf einmal politische Botschaften in Beitr&auml;ge ein &ndash; und diese Botschaften kamen von ganz rechts au&szlig;en, vom <a href=\"https:\/\/de.wikipedia.org\/wiki\/Prawyj_Sektor\">Rechten Sektor<\/a>. Schon w&auml;hrend des Euromaidans waren Bots f&uuml;r den Rechten Sektor im Einsatz. Unter anderem versuchte man damals, die Algorithmen von Twitter zu manipulieren.<\/p><p>Dass auch in Deutschland bereits Social Bots aktiv sind, belegt eine sehr sehenswerte <a href=\"https:\/\/www.zdf.de\/dokumentation\/zdfzoom\/zdfzoom-alles-nur-luege-100.html\">Reportage<\/a> von ZDFzoom mit dem Titel &bdquo;Alles nur L&uuml;ge?&ldquo;[<a href=\"#foot_1\" name=\"note_1\">*<\/a>]<\/p><p><div class=\"external-2click\" data-provider=\"Youtube\" data-provider-slug=\"youtube\"><div class=\"external-placeholder\"><p><strong>Externer Inhalt<\/strong><\/p><p>Beim Laden des Videos werden Daten an Youtube &uuml;bertragen.<\/p><button type=\"button\" class=\"external-load\">Inhalt von Youtube zulassen<\/button><\/div><div class=\"external-content\"><iframe loading=\"lazy\" width=\"500\" height=\"315\" src=\"\" frameborder=\"0\" allowfullscreen class=\"external-2click-target \" data-src=\"https:\/\/www.youtube-nocookie.com\/embed\/U2ox-IBE2v8\"><\/iframe><\/div><div class=\"external-optout\"><a href=\"#\" data-revoke=\"youtube\">Inhalte von Youtube nicht mehr zulassen<\/a><\/div><\/div><\/p><p>Dem Social-Media-Forensiker <a href=\"https:\/\/politicaldatascience.blogspot.de\">Simon Hegelich von der TU M&uuml;nchen<\/a> zufolge waren die Seiten der CSU w&auml;hrend der Fl&uuml;chtlingskrise <a href=\"http:\/\/www.netzpiloten.de\/social-media-bots-trolle-trends\/\">offenbar<\/a> eine der Epizentren f&uuml;r Social Bots. Rein professionell macht dies nat&uuml;rlich gleich doppelt Sinn: Einerseits holen Pegida, AfD und Co. ihre k&uuml;nftigen Anh&auml;nger da ab, wo sie sind, und andererseits erzeugt der konzertierte Angriff auf die CSU-Netzwerke eine manipulierte &bdquo;Basis-Meinung&ldquo;, die auch in die Auswertung der CSU-Analytiker eingeht und sicher mitverantwortlich f&uuml;r den neuerlichen Rechtsdrall der Bayern ist. &Uuml;berhaupt ist es auff&auml;llig, dass Social Bots immer wieder vor allem im Umfeld der politischen Rechten auftauchen. Da passt es dann auch ins Bild, dass die AfD als einzige Partei im Bundestagswahlkampf Social Bots aktiv <a href=\"http:\/\/www.zeit.de\/digital\/internet\/2016-10\/bundestagswahlkampf-2017-afd-social-bots\">einsetzen will<\/a>. Das Thema wird uns also in diesem Jahr noch besch&auml;ftigen. Da lohnt es sich, dem Ph&auml;nomen Social Bots ein wenig auf den Zahn zu f&uuml;hlen.<\/p><p><strong>Der klassische Troll als Opfer der Rationalisierung<\/strong><\/p><p>1965 erblickte <a href=\"https:\/\/de.wikipedia.org\/wiki\/ELIZA\">ELIZA<\/a> die Welt. ELIZA ist das Kind des deutschen IT-Experten Joseph Weizenbaum. Doch ELIZA ist nat&uuml;rlich kein normales Kind. ELIZA war vielmehr die erste Software, die &ndash; wenn auch rudiment&auml;r &ndash; auf Basis k&uuml;nstlicher Intelligenz mit einem echten Menschen kommunizieren konnte. Im Fachjargon werden solche textbasierten Dialogsysteme Chatbots genannt. Seit 1965 hat sich auf dem Gebiet nat&uuml;rlich viel getan. Heute werden Chatbots vor allem bei Hotlines und Kundendialogsystemen eingesetzt. Kundenbetreuer und Telefonisten kosten schlie&szlig;lich selbst dann viel Geld, wenn die Stellen nach Rum&auml;nien oder Indien outgesourct wurden; Software ist dagegen vergleichsweise g&uuml;nstig. <\/p><p>Auch im letzten Jahr eroberten mal wieder die &bdquo;<a href=\"https:\/\/en.wikipedia.org\/wiki\/Trolls_from_Olgino\">Trolls aus Olgino<\/a>&ldquo; die Schlagzeilen &ndash; Mitarbeiter einer regierungsnahen russischen PR-Agentur, die offenbar auch daf&uuml;r eingesetzt wurden, um in den sozialen Netzwerken und den Kommentarspalten von Online-Medien Einfluss auf Debatten zu nehmen. Auch wenn die von deutschen Medien gestreuten Erz&auml;hlungen, nach denen fast jeder russlandfreundliche Kommentar von einem &bdquo;Putin-Troll&ldquo; stammen soll, nat&uuml;rlich Unsinn sind, kann man es als gegeben betrachten, dass derlei politische PR-Aktivit&auml;ten keine Seltenheit sind. Israel bezahlt <a href=\"https:\/\/electronicintifada.net\/content\/internet-users-paid-spread-israeli-propaganda\/8355\">Agenturen<\/a> f&uuml;r PR-Arbeit in Internetforen, Gro&szlig;britannien und die USA ebenfalls, wie wir sp&auml;testens seit Edward Snowdens <a href=\"https:\/\/theintercept.com\/2014\/02\/24\/jtrig-manipulation\/\">Enth&uuml;llungen<\/a> wissen sollten. Derlei &bdquo;h&auml;ndische&ldquo; Meinungsmache hat jedoch einen entscheidenden Nachteil: Sie ist teuer! Vor allem, wenn es darum geht, im ganz gro&szlig;en Stil aktiv zu werden, um z.B. im Wahlkampf die Zustimmungswerte eines Kandidaten zu manipulieren. Sobald eine gro&szlig;e Anzahl von Akteuren ben&ouml;tigt wird, scheidet die &bdquo;manuelle&ldquo; Manipulation schnell aus finanziellen und auch logistischen Gr&uuml;nden aus. Es ist ja nicht damit getan, einfach irgendwo ein paar vorgefertigte Satzfragmente zu posten. Die Accounts m&uuml;ssen zun&auml;chst einmal registriert, miteinander vernetzt und &uuml;ber l&auml;ngere Zeit gepflegt werden, bevor sie einsatzbereit sind. Ansonsten fliegen derlei &bdquo;Trollereien&ldquo; n&auml;mlich ziemlich schnell auf.<\/p><p>Die KI-Forschung (KI = K&uuml;nstliche Intelligenz) hat daher daf&uuml;r gesorgt, dass wohl die meisten dieser bezahlten &bdquo;Trolle&ldquo; durch Chatbots ersetzt wurden. Wenn es um den Einsatz von Chatsbots in sozialen Netzwerken geht, spricht man von Social Bots. Die sind wiederum eine vergleichsweise neue Entwicklung, die immer noch in den Kinderschuhen steckt. <\/p><p><strong>Was ist ein Social Bot?<\/strong><\/p><p>Es gibt die unterschiedlichsten Formen von Social Bots. Angefangen bei sehr einfach strukturierten Programmroutinen, die &bdquo;auf Zuruf&ldquo; auf Twitter oder Facebook einfache Aktionen durchf&uuml;hren &ndash; wie z.B. Facebook-Beitr&auml;ge zu teilen und Twitter-Nachrichten zu &bdquo;retweeten&ldquo; (also weiterzuverbreiten) oder Beitr&auml;gen in diesen Netzwerken ein &bdquo;gef&auml;llt mir&ldquo; zu verpassen oder sie zu &bdquo;favorisieren&ldquo;. Die n&auml;chste Stufe sind autonome Bots, die mit ausgefeilteren Routinen selbst Meldungen absetzen und sogar mit anderen realen oder virtuellen Nutzern diskutieren; die besseren Bots variieren dabei sogar ihre Formulierungen, sodass es f&uuml;r Au&szlig;enstehende nicht immer einfach ist, sie &uuml;berhaupt als Bots zu erkennen. Die K&ouml;nigsklasse &ndash; zumindest unter den Bots, die bislang entdeckt wurden &ndash; versteht sich sogar meisterhaft in der Kunst der T&auml;uschung und postet &uuml;ber lange Strecken erst einmal normale Beitr&auml;ge, bevor sie zwischendurch politisch wird. <\/p><p>W&auml;hrend die einfachen Formen meist als Schadsoftware auf tausenden fremden Rechnern (sogenannte Botnets) laufen, werden die fortschrittlicheren Programme sorgsam in abgeschotteten Rechenzentren vor neugierigen Blicken verwahrt. Ein ausgekl&uuml;geltes IP-Adressen-Management geh&ouml;rt ebenso dazu, wie &bdquo;echte&ldquo; Mail-Accounts und &bdquo;Legenden&ldquo; (also ausgedachte Lebensl&auml;ufe in den sozialen Netzwerken, inkl. gef&auml;lschter Familienfotos, Freunde usw. usf.). In der Fachsprache werden solche virtuellen Identit&auml;ten &bdquo;Personas&ldquo; genannt. <\/p><p>Wie ein Modell f&uuml;r eine ganze Armee von Meinungsrobotern auszusehen hat, umrei&szlig;t eine interne Mail des IT-Sicherheitsdienstleisters HB Gary Federal, die 2011 vom bekannten US-Blog &bdquo;Daily Kos&ldquo; ver&ouml;ffentlich <a href=\"http:\/\/www.dailykos.com\/story\/2011\/02\/16\/945768\/-UPDATED:-The-HB-Gary-Email-That-Should-Concern-Us-All\">wurde<\/a>. In dieser von realen Hackern geleakten Mail diskutieren ranghohe Mitarbeiter von HB Gary &uuml;ber die Konzeption eines IT-Projekts, mit dem Kunden zahlreiche Personas zentral verwalten k&ouml;nnen.<\/p><p>Diese Personas sind dabei nicht nur einzelne Nutzer, sondern ausgefeilte Komplettl&ouml;sungen mit dazugeh&ouml;rigen Identit&auml;ten in sozialen Netzwerken wie Facebook und Twitter und simulierter Interaktivit&auml;t untereinander und mit anderen &ndash; realen &ndash; Nutzern. Feinheiten, wie unauff&auml;llige statische und dynamische IP-Nummern und &ldquo;echte&rdquo; Mail-Accounts geh&ouml;ren ebenfalls zum Konzept von HB Gary. Ein solches Konzept erlaubt es beispielsweise dem Kunden, ein ganzes Heer von virtuellen Identit&auml;ten zentral zu steuern, sie in Foren, Blogs und sozialen Netzwerken interagieren zu lassen und so den Eindruck zu erwecken, es handele sich um eine ganze Schar von Nutzern, die eine bestimmte Meinung vertreten.<\/p><p>Besonders heikel ist in diesem Zusammenhang, dass HB Gary Federal eine 100%-Tochter des IT-Dienstleisters HB Gary ist, die sich ausschlie&szlig;lich mit Dienstleistungen f&uuml;r die &ouml;ffentliche Hand besch&auml;ftigt und in enger Verbindung zu den Geheimdiensten, dem Verteidigungsministerium und diesbez&uuml;glich spezialisierten Anwaltskanzleien und PR-Unternehmen steht. Vermeintlicher Auftraggeber des &ldquo;Persona-Projekts&rdquo; ist die Firma Mantech, die ihrerseits ausschlie&szlig;lich f&uuml;r das US-Milit&auml;r, die US-Geheimdienste und verschiedene Ministerien arbeitet. Die Ausrichtung des Projekts ist damit klar: Der amerikanische Staat will das Netz zur Verbreitung von Regierungspropaganda nutzen, ohne dass der Urheber ermittelt werden kann.<\/p><p>Dass die USA Interesse an solchen Dienstleistungen haben, wird bereits durch eine Ausschreibung der <a href=\"http:\/\/www.spiegel.de\/netzwelt\/web\/us-sicherheitsfirma-hbgary-computerknacker-im-staatsauftrag-a-746969.html\">US Air Force aus dem Juni 2010<\/a> deutlich. In der Ausschreibung mit der <a href=\"http:\/\/www.rawstory.com\/wp-content\/uploads\/2011\/03\/personamanagementcontract.pdf\">Nummer RTB220610<\/a> sucht die Air Force nach einer &ldquo;Persona-Management-Software&rdquo;, mit der 50 Nutzer ein kleines Heer von 500 virtuellen Online-Kriegern verwalten und steuern k&ouml;nnen &ndash; Extras, wie beispielsweise ein VPN, IP-Management und virtuelle Server inklusive. Die Vermutung, dass HB Gary damals die Ausschreibung gewonnen hat, liegt auf der Hand. Wir k&ouml;nnen also davon ausgehen, dass die amerikanischen Dienste in Besitz einer sehr hochentwickelten Technik sind, mit der sie virtuelle Meinungsroboter einsetzen kann, ohne dabei Spuren zu hinterlassen, die auf den ersten Blick erkennbar sind.<\/p><p>Zum Weiterlesen: Simon Hegelich &ndash; <a href=\"http:\/\/www.kas.de\/wf\/doc\/kas_46486-544-1-30.pdf?161222122757%20\">Invasion der Meinungs-Roboter<\/a><\/p><p><img loading=\"lazy\" decoding=\"async\" src=\"http:\/\/vg04.met.vgwort.de\/na\/8046a5b2ef8945009617e7d35a1ba231\" width=\"1\" height=\"1\" alt=\"\"><\/p><div class=\"hr_wrap\">\n<hr>\n<\/div><div class=\"footnote\">\n<p>[<a href=\"#note_1\" name=\"foot_1\">&laquo;*<\/a>] Die in der Reportage angesprochene &bdquo;<a href=\"http:\/\/www.vaal.ru\/show.php?id=257\">Twitter-Studie<\/a>&ldquo; des russischen Philosophie-Professors Wladimir Schalack sollte mit &auml;u&szlig;erster Vorsicht aufgenommen werden, da sie methodisch sehr schwach ist. Schalack hat seine Analyse ausschlie&szlig;lich mit englischsprachigen Suchw&ouml;rtern vorgenommen. Wusste er nicht, dass deutsche Twitter-Nutzer fast ausschlie&szlig;lich in ihrer Muttersprache twittern? So sind die Ergebnisse wissenschaftlich unbrauchbar.<\/p>\n<\/div>\n","protected":false},"excerpt":{"rendered":"<p>Wussten Sie eigentlich, dass ein gro&szlig;er Teil der fremdenfeindlichen Beitr&auml;ge in den Sozialen Netzwerken w&auml;hrend der Fl&uuml;chtlingskrise von sogenannten Social Bots kam? Und wussten Sie, dass w&auml;hrend des ersten Phase des B&uuml;rgerkriegs in der Ost-Ukraine Social Bots aus dem Umfeld des &bdquo;Rechten Sektors&ldquo; &uuml;ber rund 15.000 Twitter-Accounts t&auml;glich rund 60.000 Meldungen abgesetzt haben? Im US-Wahlkampf<\/p>\n<div class=\"readMore\"><a class=\"moretag\" href=\"https:\/\/www.nachdenkseiten.de\/?p=36878\">Weiterlesen<\/a><\/div>\n","protected":false},"author":8,"featured_media":0,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"spay_email":"","footnotes":""},"categories":[126,11],"tags":[1090,1055,1805,1352,1111,2048,1113,1800,260],"class_list":["post-36878","post","type-post","status-publish","format-standard","hentry","category-erosion-der-demokratie","category-strategien-der-meinungsmache","tag-clinton-hillary","tag-fluechtlinge","tag-kuenstliche-intelligenz","tag-rechtsruck","tag-snowden-edward","tag-social-bots","tag-soziale-medien","tag-trump-donald","tag-ukraine"],"jetpack_featured_media_url":"","_links":{"self":[{"href":"https:\/\/www.nachdenkseiten.de\/index.php?rest_route=\/wp\/v2\/posts\/36878","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.nachdenkseiten.de\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.nachdenkseiten.de\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.nachdenkseiten.de\/index.php?rest_route=\/wp\/v2\/users\/8"}],"replies":[{"embeddable":true,"href":"https:\/\/www.nachdenkseiten.de\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=36878"}],"version-history":[{"count":1,"href":"https:\/\/www.nachdenkseiten.de\/index.php?rest_route=\/wp\/v2\/posts\/36878\/revisions"}],"predecessor-version":[{"id":36879,"href":"https:\/\/www.nachdenkseiten.de\/index.php?rest_route=\/wp\/v2\/posts\/36878\/revisions\/36879"}],"wp:attachment":[{"href":"https:\/\/www.nachdenkseiten.de\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=36878"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.nachdenkseiten.de\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=36878"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.nachdenkseiten.de\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=36878"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}