Tumblelog by Soup.io
Newer posts are loading.
You are at the newest post.
Click here to check if anything new just came in.

November 07 2019

Die Maschinen zähmen….

Die Vorlesungreihe “Taming the Machines” an der Uni Hamburg ist in diesem Wintersemester ein echter Tipp. Das Programm verspricht viele interessante und wirklich spannende Vorträge rund um die Themen, KI, Algorithmen, Überwachung, Daten. Außerdem wird die Preisverleihung des Surveillance-Studies-Preises 2020 auch in diesem Rahmen stattfinden.

Die Surveilance Studies-Lecture wird gehalten von Dr. Pak-Hang Wong, Universität Hamburg zum Thema: Three Arguments for “Responsible Users”. AI Ethics for Ordinary People. 

October 28 2019

Filmreihe: Zukunft, Gesellschaft, Technologien

Die Filmreihe Zukunft, Gesellschaft, Technologien bringt im Wintersemester ein interessantes Programm ins Abaton-Kino, jeweils begleitet durch eine anschließende Diskussion mit Experten, Wissenschaftlern u.a. Ich selbst bin am 19.11. mit dabei, gezeigt wird dann der Film “Anon”.

Die Veranstaltung wird von den Projekten „SciFiVisions“ und „tekethics“ der Hamburg Open Online University organisiert und dort auch digital begleitet.

Hierzu können Interessierte online die Themen vertiefen und ergänzende Texte mittels Annotation diskutieren.

Die digitale, technische Welt, in der wir leben, ist voller Herausforderungen, Chancen und Risiken für uns alle. Für viele ist sie aber auch eine Welt vieler Mysterien: intelligente Maschinen, Biotechnologie, das Internet der Dinge, Globalisierung, Roboter, Drohnen, Social Media und soziale Kreditsysteme: Was bedeutet das alles? Und vor allem, wie gehen wir damit um?

October 23 2019

Interview mit Gary T. Marx

Gary Marx ist bestimmt einer der einfallsreichsten Forscher, wenn es um Überwachung geht, anderen ist er vor allem durch seine Arbeiten zu Polizei bekannt (siehe z.B. Rezension von Windows into the Soul). Womit auch immer er auf sich aufmerksam gemacht hat, er kann gut erzählen und ist, soweit ich das von meinen Begegnungen mit ihm sagen kann, ein großartiger Mensch und Kollege.

Nun gibt es ein Interview von Fran Morente in der Oktober-Ausgabe von Societyhttps://link.springer.com/article/10.1007/s12115-019-00396-z . Darin redet Gary Marx über seine Arbeit, seine Vorbilder, sein Forschen und Schreiben in der Soziologie und den Surveillance Studies.

Wer bei Springer keinen Zugang hat 8z.B: über eine Uni), kann eine sich nur wenig unterscheidende Vorab-Version auf seiner eigenen Webseite lesen – http://web.mit.edu/gtmarx/www/morente-marx.html (die auch sonst voll mit Texten von ihm ist).

October 21 2019

Rezension: Speichern und Strafen

Rezension: zusammen mit   Criminologia-LogoKopie

Adrian Lobe: Speichern und Strafen. Die Gesellschaft im Datengefängnis. Verlag C.H. Beck, 2019.

von Peter Schaar (Berlin).

In den letzten zehn Jahren ist eine Vielzahl von Publikationen erschienen, die vor einer Überwachungsgesellschaft warnen. Eine Besonderheit des vorliegenden Buchs besteht darin, dass der Autor in den Fußstapfen des französischen Sozialphilosophen Michel Foucault das auf Jeremy Bentham zurückgehende Gefängnis-Modell auf die moderne Gesellschaft überträgt. Dies wird schon durch den Titel deutlich: In Anlehnung an Faucaults 1975 erschienenes Werk „Überwachen und Strafen“ trägt das hier besprochene Buch den Obertitel „Speichern und Strafen“, wobei sich Lobe ganz auf die modernen digitalen Techniken und Methoden konzentriert: Allgegenwärtige Datensammlung, algorithmische Entscheidungsfindung, augmented Reality, künstliche Intelligenz…

Im anbrechenden „Datapozän“ dominiere eine „algorithmische Regulierung“, die sich auf Nutzereingaben stütze. Angesichts der Digitalisierung werde traditionelles, durch Gesetze verbrieftes Recht durch die Herrschaft des Codes verdrängt. Entsprechend der von Lawrence Lessig formulierten These „code is law“ werde menschliches Handeln durch unerbittliche Technik determiniert. Da sich die Programmierung demokratischer Kontrolle entziehe, verlagere sich die gesellschaftliche Entscheidungsgewalt von Parlamenten und Regierungen weg zu Unternehmen wie Google oder Facebook, die über riesige Datenmengen verfügen und die mittels „Arkanformeln“ die Gesellschaft steuern. Deren Herrschaft reiche von der Kontrolle des Freizeitverhaltens bis zum Sammeln und Bereitstellen von Beweisen im Strafverfahren. Die ständige Überwachung des „Datenkörpers“ folge dabei dem Modell des Benthemschen Panoptikon: Das Smart Home sei letztlich nichts anderes als ein elektronischer Hausarrest; Alexa, Siri und Cortana fungierten dabei als elektronische Gefängniswärter.

Anders als frühere Computertechniken zielten moderne algorithmische Systeme darauf ab, unter Verwendung statistischer Verfahren Prognosen zu erstellen, die den Entscheidungsprozess determinieren. Verbleibende Unsicherheiten und Restrisiken suggerierten dabei einen permanenten Ausnahmezustand, der sich allein durch immer weitere Freiheitseinschränkungen beherrschen lasse. Dabei würden die Restriktionen für menschliches Handeln durch Technik verkörpert und damit die individuelle Wahlfreiheit praktisch auf null reduziert. In Anlehnung an die Carl Schmittsche These von der Herrschaft über den Ausnahmezustand formuliert Lobe, souverän sei, „wer die Algorithmen beherrscht“. Im Unterschied zum geschriebenen Recht sei der Code selbstexekutierend und damit inhärent totalitär. Dem einzelnen werde damit sogar die Möglichkeit genommen, gegen die in Code integrierten Vorschriften zu verstoßen. Dies geschehe nicht nur im chinesischen Social Credit System, sondern überall, wo entsprechende Technologien zum Einsatz kommen. Die kybernetische Verhaltenskontrolle sei auch deshalb perfide, weil sie den Nutzern gegenüber Freiheit simuliere, die sie tatsächlich gar nicht ausüben können.

Im Datengefängnis könne regelmäßig auf die Inhaftierung der physischen Körper verzichtet werden. Dagegen würden die „Datenkörper“ gefangen und gefoltert, etwa durch Fitnesstracker oder Suchmaschinen. Sie produzierten vordergründig freiwillige „Geständnisse“ der Nutzer, die gegen sie verwendet werden könnten und unterliefen damit das rechtsstaatliche Selbstbezichtigungsverbot. Genetische Auswertungen und biometrische Verfahren bewirkten eine „Formatiesierung des Datenkörpers“ und objektivierten Diskriminierung. Die Stigmatisierung von Menschen, bei denen biometrische Verfahren nicht angewendet werden könnten (etwa bei fehlenden Fingerabdrücken) sei „faschistoid“. Angesichts omnipräsenter Überwachung entstehe ein „technologischer Totalitarismus“.

Durch die maschinelle Zerlegung des Datenkörpers in Datenpunkte werde die äußere Schutzhülle des Körpers aufgelöst, der Sterblichkeit des physischen Körpers stehe ein unterblicher Datenkörper gegenüber. Die Datenkörper würden durch Facebook, Google usw. interniert, wobei die Nutzer sich mittels Smartphone und Fittnesstracker  freiwillig der Selbstbstüberwachung aussetzten. Technische Geräte würden zu „Identitätsprothesen“ und führten in einen technologischen „Psycho-Knast“, in dem sie durch opake Disziplinierungstechniken gesteuert werden. Die Anwender unterlägen dabei der Illusion von Freiheit. In Wirklichkeit befänden sie sich jedoch in digitaler isolationshaft. Das Kerkerprinzip sei in jeder Mobilfunkzelle implementiert: „Wer einmal Daten von sich preisgibt, ist lebenslänglich auf Bewährung verurteilt“.

Die mit der „Metrisierung der Gesellschaft“ einhergehende „Mathematisierung der Macht“ erweise sich als zunehmend totalitäres Regime, wobei das Internet der Dinge letztlich als „gigantische Normalisierungsanlage“ fungiere. Entsprechend dem Weltbild von Sozialingenieuren diene das technisch gewonnene Wissen dem Macht- und Profitzuwachs und werde dazu eingesetzt, das regulierte Gemeinwesen auf „Wohlfühltemperatur“ zu halten. Digitale Assistenten manipulierten die Wahrnehmung und folgten einer „Apartheitslogik“. Die Menschen würden fremdbestimmt, wobei die mit Daten aus der Vergangenheit gefütterten Algorithmen dem Menschen die Möglichkeit nähmen, sich umzuorientieren. Die Gesellschaft werde so gegen Systemkritik immunisiert. Sie wandele sich zu einer smarten Diktatur, in der „das Politische zu Tode technisiert“ sei: „Wo alles determiniert ist, ist nichts veränderbar.“ Die Zukunftsgesellschaft sei eine „Post-Wahl-Gesellschaft“, in der die Menschen algorithmisch gesteuert werden, denn „für Algorithmen ist alles alternativlos“.

Kritik

Gerade weil viele der im Buch dargestellten dystopischen Tendenzen einer zumehmend durch digitale Technik durchdrungenen Gesellschaft nicht von der Hand zu weisen sind, würde man sich wünschen, dass der Autor nicht nur die seine schwarzen Thesen unterstützenden Argumente und Fakten aufzeigt, sondern sich auch mit den Ambivalenzen des Technologieeinsatzes und durchaus ernstzunehmenden Gegenargumenten auseinandersetzt. Er verzichtet darauf fast gänzlich und er ignoriert jegliche Versuche, mittels Regulierung steuernd in den technischen Selbstlauf einzugreifen. Ansätze zur Inkorporation ethischer Werte und verfassungsrechtlicher Vorgaben in technische Syteme (privacy by design, ethics by design) widmet er kein Wort. Auch lässt er – bis auf wiederholte Hinweise auf Machtgewinn und Profitinteressen – im Dunkeln, wer die treibenden Kräfte hinter der von ihm gesehenen totalitären Weltbeherrschung sind. An einer Stelle bedient er sich des Terminus „militärisch-industrieller Komplex“, ohne dies jedoch weiter auszuführen. Die von ihm formulierte – durchaus hinterfragbaren – Prognose einer durch Technologie produzierten „Alternativlosigkeit“ in einer totalitären „Post-Wahl-Gesellschaft“ ist selbst deterministisch, also alternativlos. In der digitalen Gefängniswelt gibt es kein Licht und keine Hoffnung.

October 08 2019

Warum Künstliche Intelligenz?

Wie kam es von der Idee eines “complex information processing” zum Begriff der Künstlichen Intelligenz? Und was hat das mit ihrer Kontrolle zu tun?

Eine Rezension des Buches Human Compatible: Artificial Intelligence and the Problem of Control von Stuart Russell Viking (2019) in Nature gibt dazu ein paar Einblicke.

David Leslie: Raging robots, hapless humans: the AI dystopia  (2.Okt. 2019, Nature)

September 25 2019

Biometric Selfies

Ein schönes Fundstück.

Alle Inhalte und Daten von pirati sind unter der Creative Commons Attribution 3.0 Lizenz verfügbar.

cfp: Podcasts und die neue Audiokultur

Nur weil es inzwischen mit den Berichten aus Panoptopia auch einen Podcast der Surveillance Studies gibt, verlinke ich hier auch den folgenden Call for Papers für das Journal Kommunikation@Gesellschaft (und auch weil ich sowohl das Journal mitherausgebe, als auch für den Call mitverantwortlich bin).

cfp: “Senden, Hören, Teilen: Podcasts und digitale Audiokultur[en]”.

Einreichungsfrist für Abstracts ist der 15.11.2019

September 24 2019

Kontrollverlust

Die Sendereihe Radiokolleg von Ö1 entwickelt sich zu einer Lieblingsserie. Neulich 4 Teile zum Gesicht, nun mehrere Teile zum Kontrollverlust mit dem Titel “Fäden in der Hand”. Autorin ist in diesem Fall Sarah Kriesche, u.a. Preisträgerin des Surveillance Studies-Journalistenpreises.

Was passiert, wenn man die Fäden in der Hand hat und alle Stricke reißen? Das Bedürfnis nach Kontrolle und Selbstbestimmung zählt zu den psychischen Grundbedürfnissen des Menschen. Sowohl für das individuelle, als auch das gesamtgesellschaftliche Wohlbefinden zählt nicht nur, Kontrolle zum Beispiel über eine Situation zu erlangen, sondern auch, Kontrolle abgeben zu können.
Doch inwieweit ist es in einer datengetriebenen Welt noch möglich, Situationen zu kontrollieren? Technische Hilfsmittel, wie zum Beispiel das Smartphone, sollen das Leben angenehmer gestalten; die wahren Absichten der Architektinnen und Architekten der Hard- und Software, scheinen oft im Verborgenen zu liegen.

Radiokolleg – Fäden in der Hand? Über Frust und Lust beim Kontrollverlust (1) 23.9.2019

Radiokolleg – Fäden in der Hand? Über Frust und Lust beim Kontrollverlust (2) 24.9.2019

Radiokolleg – Fäden in der Hand? Über Frust und Lust beim Kontrollverlust (3) 25.9.2019

Studie: Polizeigewalt

Zu der von der Uni Bochum durchgeführte Studie “Körperverletzung im Amt durch Polizeibeamte” wurde jetzt ein Zwischenbericht veröffentlicht. Dieser betrifft zunächst vor allem die statistischen Daten und erklärt die Dunkelfeldstruktur sowie die Erhebung selbst. Das ist alles sehr lesenswert. Mich persönlich interessiert allerdings die im Bericht avisierten Ergebnisse bzw. die Studieninhalte des 2ten Teils viel mehr, denn da geht es um die Eskalationsverläufe, und um eher qualitative Ergebnisse. Dennoch, der Zwischenbericht lohnt einen Blick.

Zwischenbericht.

In der Zeit gab es dazu eine ebenfalls lesenswerte Besprechung und Einordnung: Die falsche Staatsgewalt (17.9.2019)

September 12 2019

Die vielen Seiten des Gesichts

Die Gesichtserkennung ist gerade das heiße Thema in vielen Medien, auch gestellt mit der unvermeidlichen (und leider sehr verkürzenden) Frage “Was macht das mit uns?”. Daphne Hruby von Ö1 hat sich des Themas einmal anders angekommen und die Bedeutung des Gesichtes in der Kultur angeschaut. In 4 Beiträgen erkundet sie die vielen Facetten des Themas von den Ideen des Johann Kaspar Lavater bis hin zum chinesischen Social Scoring-System, welches eben mit Gesichtserkennung arbeitet.

Eine Zehntelsekunde – nur so lange brauchen wir, um vom Gegenüber einen ersten Eindruck zu bekommen. Ist er attraktiv, ist sie sympathisch, ist der Mensch interessant oder gefährlich – gewonnen wird diese Information vor allem aus unserem Gesicht. Treue, Intelligenz, soziale Herkunft – die Palette, was Studien alles aus unserem Antlitz zu lesen glauben, ist breit.

Die vier sehr kurzweiligen Stücke kann man hier hören – oder sich auch als Podcast abonnieren.

Die vielen Seiten des Gesichts (1)

Die vielen Seiten des Gesichts (2)

Die vielen Seiten des Gesichts (3)

Die vielen Seiten des Gesichts (4)

High-Rise und das neue Wohnen in Hamburg

Über meine Beigeisterung des Buches High Rise von JG Ballard habe ich in den vergangenen Wochen ja schon öfter berichtet.

Bei einem Stadtspaziergang in der von mir koordinierten Sommerschule “Stadt und Konflikt” waren wir auch in der so genannten “(Neue) Mitte Altona” und beim Anblick einiger der neuen Häuser, war ich doch sehr an das Buch erinnert.

Vor allem die Balkone eines Bauabschnittes haben es mir dabei angetan.

© 2019 Nils Zurawski © 2019 Nils Zurawski © 2019 Nils Zurawski © 2019 Nils Zurawski © 2019 Nils Zurawski

September 09 2019

Journal: Visibilities and New Models of Policing

Die neuese Ausgabe des Journals Surveillance & Society widmet sich der Polizei: Visibilities and New Models of Policing, Vol 17 No 3/4 (2019).

This special issue, guest edited by Keith Spiller and Xavier L’Hoiry, investigates the blurring of boundaries between police and publics, particularly with respect to citizen-based policing schemes. In addition to an editorial introduction and nine curated articles, the issue includes nine regular articles and a number of book reviews.

Die Artikel reichen von BodyCams zu protest policing, von der Rolle sozialer Medien für vigilante Nachbarschaftswachen, bis hin zur Idee einer Ordnung ohne Polizei und einige mehr.

Konferenz: Quo vadis Überwachung

Ich hätte einen Titel besser gefunden, der fragt wohin die Gesellschaft geht, nicht die Überwachung, denn so könnte man auch annehmen, dass das eine nichts mit dem anderen zu tun hat, aber das ist nur mein soziologisch gefärbter Blick. Ansonsten empfehlenswert, wenn die Kollegen von netzpolitik.org eine Konferenz abhalten.

Preview #15np: Quo vadis, Überwachung?

 

August 30 2019

Richard Sennett “Die offene Stadt”

Für Soziopolis habe ich eine Rezension von Richards Sennets Buch “Die offene Stadt” geschrieben.

Im Buch gibt es auch Anschlussmöglichkeiten für die Themen Kontrolle und moderne Stadt, wie ich in der Rezension auch festhalte:

Um Sennetts These einmal konkret nachzuvollziehen, möchte ich hier auf das meines Erachtens gelungenste Kapitel eingehen – Kapitel 6: Tocqueville in Technopolis. Für seine Gegenüberstellung von offener und geschlossener Stadt wählt er das Beispiel der so genannten Smart City. Diese Städte der Zukunft werden maßgeblich von digitaler Technologie mitbestimmt, die in ihre Infrastruktur eingewoben sein wird und auf diese Weise steuern oder gar bevormundend eingreifen kann. Sennett beschreibt die Möglichkeiten zur Nutzung der Smart City als koordinierend oder vorschreibend. Die erste Variante ergänzt sich Sennett zufolge ideal mit dem Konzept einer offenen Stadt(entwicklung) und symbolisiert diese, während die zweite, vorschreibende Variante eine geschlossene Stadt nach sich zieht. Als Beispiel für Letzteres führt der Autor das Googleplex in New York an, ein geschlossener Ort, den Sennett als eine Art Ghetto bezeichnet. Innerhalb dieses Komplexes sollen die Angestellten möglichst wenig mit den Profanitäten des täglichen Lebens in Berührung kommen, sie sollen sich auf die Arbeit konzentrieren, möglichst rund um die Uhr.

August 28 2019

August 20 2019

Kommentar: Polizei und Vertrauen

Ich habe für Deutschlandfunk Kultur am 15.8.2019 ein Politisches Feuilleton zu Polizei und Vertrauen gemacht. Der Umstand, dass vieles bei der Polizei darauf hindeutet, dass die Polizei dem Bürger nicht vertraut, sich aber umgekehrt darüber beschwert, dass der Bürger Transparenz möchte, um das Vertrauen zwischen beiden zu verbessern, hat mich beschäftigt.

https://ondemand-mp3.dradio.de/file/dradio/2019/08/15/polizei_die_entfremdeten_buerger_in_uniform_drk_20190815_0722_ff8f870c.mp3

Dass am gleichen Abend eine ARD-Kontraste-Dokumentation zu gleichen Thema lief, war Zufall, bringt aber noch eine andere Dimension in die Debatte.

Staatsgewalt – Wenn Polizisten zu Tätern werden, (RBB 15.8.2019, generell: ARD, Kontraste, Erstausstrahlung am 29.07.2019/Im ERSTEN/rbb)

Und dann noch eine Link zur auch von mir erwähnten Studie Körperverletzung im Amt durch Polizeibeamte” der Uni Bochum.

August 07 2019

“Dritte Welt” als Versuchskaninchen der Überwachung?

Warum sollte moderne Überwachungstechnologie Halt vor Weltgegenden machen, die, so könnte man meinen, andere Probleme haben. Aber Authentifizierung und Identifizierung spielen zum einen in vielen Zusammenhängen eine wichtige Rolle:

Immer wieder werden in verwüsteten Gegenden Hilfsprogramme missbraucht, und die Stärksten bereichern sich. Das WFP argumentiert, nur mit biometrischen Prüfungen könnten die Hilfsgüter die wirklich Bedürftigen sicher erreichen. Sonst fließe das Geld an Kriegsparteien, das könne man als humanitärer Helfer nicht zulassen. Doch das Misstrauen gegen die internationale Organisation ist groß, und einmal mehr stößt der Einsatz biometrischer Systeme auf Widerstand.

Zum anderen ist die Vermutung des Autors des Artikels Biometrie in Hilfsprogrammen. Ohne Gesichts-Scan kein Essen (SZ, 6.8.2019, Autor: Adrian Lobe) dass hier ein Testbed für Überwachungstechnologien bestehen könnte nicht so weit hergeholt.

Die Journalistin und Medientheoretikerin Ariana Dongus argumentiert, die Flüchtlingscamps des UNHCR seien “Versuchslabore für biometrische Datenerfassung”: Neue Technologien würden im globalen Süden getestet, bis sie in der westlichen Welt als sicher und damit verkäuflich gelten. Die neomarxistische These: Der Norden liefert die Technik, den Menschen im unterentwickelten Süden bleibt nichts anderes übrig, als diese zu nutzen. Die Abhängigkeit geht weiter.

So wurden viele Technologien und Verfahren ehedem in den Kolonien getestet und verbessert. Und in Ergänzung zu dem Artikel sei hier der Bericht Track, Capture, Kill: Inside Communications Surveillance and Counterterrorism In Kenya von Privacy International empfohlen, der zusätzliche Informationen liefert und die These stützen würde. 

Older posts are this way If this message doesn't go away, click anywhere on the page to continue loading posts.
Could not load more posts
Maybe Soup is currently being updated? I'll try again automatically in a few seconds...
Just a second, loading more posts...
You've reached the end.

Don't be the product, buy the product!

Schweinderl