Tumblelog by Soup.io
Newer posts are loading.
You are at the newest post.
Click here to check if anything new just came in.

February 18 2020

Zur Biographie von Edward Snowden

Für das sozialwissenschaftliche Nachrichtenportal Soziopolis habe ich unter dem Titel Public Service eine Rezension von Edward Snowdens Biographie geschrieben. Beginnen tut sie mit einem Zitat, welches ich für zentral, nicht nur für das Buch, sondern für die Betrachtung von Staat, vor allem im Zusammenhang mit Geheimdiensten, halte.

Wenn man nicht in einem solchen Milieu groß geworden ist, muss man sich Fort Meade und seine Umgebung, ja vielleicht sogar den ganzen Beltway, als eine riesige Firmenstadt vorstellen. Seine Monokultur hat viele Gemeinsamkeiten mit Orten wie dem Silicon Valley, nur ist das Produkt des Beltway nicht Technologie, sondern die Regierung selbst.“ (S. 53)

February 17 2020

Rezension: Making Surveillance States

Rezension: zusammen mit   Criminologia-LogoKopie

Heynen, R., & van der Meulen, E. (Hg., 2019). Making Surveillance States: Transnational Histories. University of Toronto Press.

von Anke S. Obendiek, Hertie School, Berlin

Ob automatische Gesichtserkennung, Big Data oder Künstliche Intelligenz: Im Rahmen von Debatten zu Datensammlung und Überwachung wird immer wieder über die Frage der potentiell neuen Qualität von Überwachung diskutiert. Der Sammelband Making Surveillance States: Transnational Histories, herausgegeben von Robert Heynen und Emily van der Meulen, versucht, dem Mythos der Neuartigkeit digitaler Surveillance mit einer historischen Aufarbeitung zu begegnen. Als zentrales Thema befasst sich das Buch daher mit der Allgegenwärtigkeit von Überwachung, insbesondere im Kontext der Frage, inwiefern Nationalstaaten auf Überwachungssystemen aufgebaut sind. Während der Sammelband staatlicher Überwachung nachprüft, untersucht es diese als transnationales und globales Phänomen. Auch Staatenbildung wird eingebettet in globale Strömungen verstanden.

Neben einer Einleitung von Heynen und van der Meulen und einem kurzen Abschlusskapitel umfasst das Buch ein Vorwort von David Lyon sowie elf empirische Aufsätze, die in ihrer Gesamtheit Überwachung aus historischer Perspektive beleuchten und jeweils drei größeren Themenblöcken zugeordnet sind. Theoretisch ist das Buch in den Surveillance Studies verortet und beleuchtet nicht nur klassische Perspektiven, wie beispielswiese Social Sorting anhand von David Lyon, oder Biopower anhand von Michel Foucault und Giorgio Agamben, sondern zeigt auch, insbesondere im empirischen Teil, zum Teil historische oder postkoloniale Ansätze als Kontrapunkt auf, beispielsweise James C. Scott, W.E.B. Du Bois oder Achille Mbembe.

Dieser theoretische Ansatz wird im Fokus auf Kapitalismus, Kolonialismus, Industrialisierung und Urbanisierung fortgeführt. Die Rekonstruktion von Überwachungspraktiken und -diskursen im 19. und 20. Jahrhundert zeichnet dabei nicht nur Staatenbildung im globalen Zusammenhang nach, sondern zeigt auch auf, wie gesellschaftliche Entwicklungen durch Mikropraktiken von Überwachung geprägt werden. Dabei demonstrieren Heynen und van der Meulen auch, wie leicht Narrative, die die Neuartigkeit von Surveillance betonen, ein eurozentrisches Weltbild verfestigen können.

Im ersten empirischen Teil wird das Thema Überwachung im Zusammenhang mit Gesundheit und Krankheit behandelt. Die Untersuchung von Desinfizierungsarbeit im Kontext des Britischen Weltreichs im zweiten Kapitel, beispielsweise, benutzt Jacob Steere-Williams Konzepte wie Biopower und Social Sorting und diskutiert das Verhältnis von Staat und kranken, gesunden, bedrohlichen Körpern. Dabei bringt es konzeptuell vielfältige Perspektiven auf Gender, Klasse und Sexualität ein, um imperiale maskuline Gesundheit und Gesundheitspraktiken zu beleuchten. Im dritten Kapitel untersucht Holly Caldwell die Rolle von Eugenik in Mexiko im frühen 20. Jahrhundert als Teil eines umfassenden Überwachungsmechanismus. Bereits im späten 19. Jahrhundert wurde durch die Kategorisierung von Taubheit als problematische Krankheit die Grundlage für die Definierung und Sortierung unerwünschter Körper gelegt. Das vierte Kapitel zeichnet feinnervig die Restriktion von Cross-Dressing in Südafrika zwischen 1906 und 2004 nach.

Im zweiten Teil liegt der Schwerpunkt auf den Themen Identifikation, Regulierung und koloniale Kontrolle. Im fünften Kapitel zeigen Ian Warren und Darren Palmer die Beziehung zwischen kolonialer Überwachung in Australien und kriminologischen Entwicklungen in Großbritannien auf. Das außergewöhnliche sechste Kapitel von Uma Dhupelia-Mesthrie and Margaret Allen vergleicht Migrationskontrolle in Australien und Südafrika insbesondere asiatischer Migrant*innen und diskutiert durch eine Social Sorting-Perspektive ebenfalls die Rolle von Körpern, die durch die vermeintliche Abweichung von einer konstruierten Norm Diskriminierung erfahren. Die enge Verbindung zwischen biometrischer und kolonialer Überwachung wird auch insbesondere im siebten Kapitel deutlich. Hier vergleicht Midori Ogasawara administrative Überwachungspraktiken in Japan mit der von Japan im Jahr 1931 besetzten Mandschurei und macht den Prozess von gesteuerter Volkwerdung durch Abgrenzung und Ausbeutung deutlich. Das achte Kapitel untersucht die Rechtfertigung israelischer Überwachung der palästinensischen Bevölkerung 1948 bis 1967 durch Bezugnahme auf einen konstruierten Ausnahmezustand.

Im dritten Teil des Buches werden die Themen staatliche Sicherheit, Polizei und Widerstand diskutiert. Das neunte Kapitel befasst sich mit was Cristina Plamadeala „Dossierveillance“ im kommunistischen Rumänien nennt und analysiert den Geheimdienst Securitate als zentralen Akteur von Überwachung und Unterdrückung. Im zehnten Kapitel rücken die Überwachungsakteure auch auf individueller Ebene in den Fokus. Kathryn Montalbano untersucht FBI-Agenten und ihre Beziehung zu staatlich ideologischen Vorgaben in der Überwachung des von Quäkern geprägten American Friends Service Committees. Das elfte Kapitel zeichnet eindrucksvoll den Widerstand gegen Überwachung von Aktivist*innen und Medien der Untergrundpresse in den USA in den 1960er/70er Jahren nach und macht auf Parallelen zu heutigen Überwachungspraktiken und Widerstandsmechanismen aufmerksam. Das zwölfte Kapitel widmet sich noch konkreter den Verbindungen zwischen historischer Perspektive und Gegenwart und erforscht die konstruierte Repräsentation von Polizeiarbeit und performativer Erinnerungsproduktion in Polizeimuseen in Ontario. Im Abschlusswort betont Simone Browne erneut die Bedeutung historischer Perspektiven in der Untersuchung kontemporärer Überwachungspraktiken.

Im Vorwort betont Lyon, dass das Buch die Geschichte von Überwachung als menschliche Geschichten darstellt. Dies das macht meiner Meinung nach auch den gelungensten Beitrag der Aufsätze aus. Dem Sammelband gelingt es, nicht nur Überwachung als eine Ansammlung verschiedener Phänomene im Bereich Gesundheit, Sexualität und Administration nachzuzeichnen, sondern auch die Komplexität und Intimität der Machtbeziehungen hervorzuheben. Interessant wäre eine umfassendere Reflexion zur Rolle von Forschung und Erinnerung als eine überwachende Praktik gewesen, die nur kurz angerissen wird. Auch eine ausführlichere Untersuchung zur Rolle von Körpern, beispielsweise auch aus feministischer Perspektive, im Zusammenhang mit Staatenbildung wäre hilfreich gewesen. Die größte Leistung der Beiträge besteht jedoch darin, auch die Vielfältigkeit von Widerstand so aufzuzeigen, dass den überwachten Subjekten niemals Handlungskompetenz abgesprochen wird, während gleichzeitig arbiträre Machtausübung und Intersektionalität als strukturelle Unterdrückungsmechanismen aufgezeigt werden.

Zwar ist jedem der insgesamt drei empirischen Teile ein kurzes Einleitungswort vorgelagert, eine umfassendere Darstellung der Fallauswahl und eine ausführlichere Einleitung in die Struktur des Buches hätten den Beitrag in seiner Gesamtheit jedoch noch konkreter machen können. Während der Schwerpunkt zu Beginn in großen Teilen auf britischen Kolonialgebieten liegt, werden in späteren Kapiteln auch Japan, die ehemalige Sowjetunion und die USA behandelt, insbesondere im 20. Jahrhundert. Ein Vergleich zwischen verschiedenen Kolonialmächten, wie Belgien, Frankreich oder die Niederlande, beispielsweise, hätte hier zu größerer Generalisierbarkeit beitragen können. Insbesondere der Aspekt der Staatenbildung bleibt so als Phänomen auf die einzelnen Studien beschränkt und wird nur zu Beginn als übergeordnetes Motiv konzeptualisiert. Eine umfänglichere Zusammenführung der einzelnen Beiträge in einem konkludierenden Kapitel hätte diesen Aspekt näher beleuchten können. Das Schlusswort schafft es in der gegebenen Länge nicht, die gemeinsamen Punkte so zu diskutieren, dass ein kohärentes Narrativ deutlich wird.

Zwar schafft es damit der Sammelband nicht ganz, den Mythos der neuen Qualität heutiger Überwachungspraktiken zu widerlegen, zeigt aber deutlich die extensive Geschichte auch vermeintlich moderner Überwachungsformen, wie zum Beispiel Biometrie, sowie die Kontinuität staatlicher Identifikations- und Kontrollmechanismen. Durch einen systematischeren Vergleich zu heutigen und entstehenden Überwachungspraktiken könnte die Neuartigkeit von Überwachung in der Zukunft noch konkreter evaluiert werden. Die Relevanz nicht nur für heutige, sondern auch zukünftige Überwachungsformen wird auch in der Darstellung der engen historischen Verzahnung von Überwachung und (gewaltsamer) Unterdrückung deutlich. Damit bereichert der Sammelband nicht nur Debatten in der historischen Forschung, sondern kontextualisiert auch Fragen zu kontemporärer Überwachung, indem die Beiträge eine hervorragende Einbettung von Mikro- und Mesopraktiken in eine globale von unter anderem Kolonialismus, Rassismus, und Sexismus geprägte Makroentwicklung bieten.

Anke Obendiek, Berlin

February 13 2020

Surveillance Studies Lecture 2020

Die Surveillance Studies Lecture 2020 zur Preisverleihung des JournalistInnenpreis hat in diesem Jahr der Kollege Dr. Pak-Hang Wong gehalten. Der Vortrag wurde von Lecture2Go dokumentiert und kann hier angesehen werden. Ein Interview mit Pak werde ich demnächst in den Berichten aus Panoptopia senden. Der Titel seines Vortrages ist: Three Arguments for “Responsible Users”. AI Ethics for Ordinary People.

February 11 2020

February 05 2020

Ungewollt im Fernsehen

Der Filmemacher Martin Baer, Ko-Regisseur von Der illegale Film, einer Doku über die Kulturgeschichte des Fotografierens, war ungewollt im Fernsehen, wie SPIEGEL + berichtet (Paywall). Für Recherchen zum Film hatte er als Testperson am so genannten “Feldversuch” des Bundesinnenministeriums zur Gesichtserkennung am Berliner Südkreuz teilgenommen. Dann entschied Horst Seehofer, die umstrittene Passage aus dem Gesetzesentwurf streichen zu lassen, der es der Bundespolizei erlaubt hätte, Software zur Gesichtserkennung einzusetzen. In ihrem Bericht dazu (24.01.2020) zeigte die Tagesschau unter anderem das unverpixelte Porträt von Baer – obgleich den Testpersonen zugesichert worden war, dass ihre Bilder niemals an die Öffentlichkeit gelangen würden. Auf jeden normlan Zuschauer, so wird Baer zitiert, müsse es aussehen, als wäre er ein zur Fahndung ausgeschriebener Krimineller. Es wird vermutet, dass das Foto, das Baer und weitere Personen zeigt, während eines Pressetermins entstanden ist. In den Filmaufnahmen der Tagesschau vor Ort am Südkreuz sind alle Gesichter übrigens verpixelt worden.

February 04 2020

Rezension: Monitored

Rezension: zusammen mit   Criminologia-LogoKopie

Peter Bloom: Monitored. Business and Surveillance in a Time of Big Data. Pluto Press 2019.

von Flavia Giglio, Den Haag

In 2016, the data analytics firm Cambridge Analytica digitally collected data from over 50 million Facebook profiles in order to individually influence US voters in view of perhaps one for the most significant elections of the recent history. Notably, the CEO of Trump’s campaign exploited his position in the company to use for political gain the messaging tactics usually reserved for geopolitical conflicts. Taking this crucial event as a starting point, Peter Bloom, Professor of Management at the University of Essex, explores how the contemporary historical period, economically marked by what may be defined as a neoliberalist ideology, is deeply influenced by the massive phenomenon of surveillance by means of collecting and analysing big data. Bloom argues that, while surveillance has turned into what has more properly to be called monitoring, due to the spreading culture of personal accountability derived from the practice of constantly observing and judging the digital selves we create on the Internet, the use we make of social media and personally create and manage our personal data feeds a capitalistic system which remains substantially unaccountable from the negative impact it has to society as a whole.

Corporate and political elites are indeed a narrow minority which possesses the needed sources to operate an intrusive and widespread activity of mass surveillance not anymore limited to merely know personal preferences of people to accordingly address market decisions, but also and above all to influence and shape human behaviours in order to let the citizens take an active part in the unchallenged rise of data capitalism. The book states that the same privileged minority turns away from the radar of this monitoring activity, thus remaining unobserved and, ultimately, unaccountable. Neoliberalism is strongly characterized by the affirmation of the principle of individualistic and entrepreneurial freedom as a means of liberation from an oppressive and inefficient State. Free market represents the essential condition for the concrete realization of such a principle, along with the abstract myth of a constant race to progress and the spreading of a “smart utopia” based on the belief that a correct and productive usage of social media and Internet – namely, the one suggested by dictates of aggressive capitalistic economies – may lead us through a process of self-improvement and self-management aimed to successful, winning self-made human beings capable of reaching any goal we pose to ourselves.

While the first chapter of the book introduces the concepts of neoliberalism and capitalism, giving an explanation about how digital technologies and big data became a crucial part of such ideologies, the second one provocatively states that “data is the new oil”, outlining which social factors – namely, a voyeuristic culture, a willingness to know more about ourselves, a need for lost ontological security – favour big data to be the elected means by which people become accomplices to the capitalistic system. The third chapter is specifically dedicated to the concept of “smart identity”: it is aimed to show how people, driven by a need of building a valuable and profitable neoliberal self and scared by the possibility of being left behind by a pervasive capitalistic system which does not allow alternative ways of self-development, become the ones who constantly monitor themselves, in response to a pressing need of validation and verification from a society who never stop asking for accountability of life-style as a whole. Ultimately, they are the first creators of personal data that capitalism craves for. The fourth chapter argues that people tend to perceive themselves as part of a networked community whose scenario is the new social reality of cyberspace; the perception of an limitless space where profit opportunities and marketable realities never end the increasingly blurred distinction between public and private sphere which characterized the way people make use of social media in shaping their digital selves leads to a colonization by neoliberalism of any possible expression of human life. The fifth chapter address the issue of what is the so-called fantasy of digital salvation: Bloom highlights how, in the aftermath of the economic crash of 2008, an increasing attention has been given by digital world to the need of people for a spiritual well-being. The diffusion of soul-tracking apps aimed to meditation training, to self-regulation and a new form of self-improvement gave rise to a massive collection of the so-called “deeper data”, thus allowing a capitalisation of the most intimates human desires and thoughts based on the illusion of using technology to improve quality of life. The sixth chapter how the human willingness to write their own digital history to feed an illusion of control and free choice on the future and a search for objective truth about ourselves ends up in being primary means by which building predictive algorithms which anticipate citizens’ choices for economic gains. The seventh chapter illustrates how the social credit systems designed by some firms and governments are leading to enforcement of existing discriminations and asymmetric distribution of power and are promoting the rise of a new form of totalitarianism based on the claim of monopoly of truth and the affirmation of monitoring as a social need by the aforementioned firms and governments. The eighth chapter expresses the conclusions Bloom reaches: he underlines how “the bigger the data, the smaller our ability to monitor, hold accountable and ultimately transform the status quo”. The unaccountability of elites controlling big data and capitalistic system as a whole he aimed to show in the book results in inability of the many to reorient monitoring and evade the golden cage of the neoliberal narrative. The solution proposed is a process of democratisation of big data by means of a greater public supervision and regulation, a development of the idea of “digital citizenship” and the use of modern technologies to pursue alternative and more sustainable economic models – specifically, social media, which have the potential to be a powerful tool in the so-called cyber-activism.

The declared purpose of the book is to detect how, in a digital society based on the concept of personal accountability of a monitored majority, an elite minority takes advantage of this monitoring activity and escapes judgment and accountability for it. As a consequence, such an unaccountability reflects on the capitalistic system as a whole. Nevertheless, the major merit of Bloom’s work is rather to focus on which intimate human needs and pushes lead us to embrace this new form of digital capitalism and to lose our critical view on the system. We are nowadays used to develop our personality in alignment to the current neoliberal ideology and without any external and objective perspective of how our use of technology contributes to support it. Bloom provides a comprehensive explanation of what makes the system so seductive to all of us.

The weaponization of big data has long been a matter of interest and a proven fact for academic studies on international relations, with the consequence of an increasing hyper-personalization of war which requires an adaptation of the law of war to the current realities. Rise of big data represents an epistemic challenge of many levels: the risks big data may pose range from the ideologically motivated attacks to endorsement of existing racial discrimination. In light of the changeable field of big data, the current legislation is insufficient and the need for new policy and legal approaches require a deep cognizance of the anthropological factors playing a role in spreading the culture of monitoring. “Monitored” sometimes runs the risk of becoming repetitive in elaborating certain recurrent concepts, and the solutions that Bloom outlines in the last chapter would require further development to give an effective contribution to the resolvent stage of the debate. Nevertheless, the book provides a good explanation of how we’re meant to be at the same time victims and accomplices of the misuse of big data. Being aware of which human weaknesses the capitalist system exploits in order to make our digital identities part of a purely profit-aimed economy is an essential step in developing adequate policies and legislation to respond to the new technologic challenges and preserve our free will in spite of the mostly invisible homogenizing forces which act undisturbed on the Internet.

Bibliography

Flavia Giglio, Den Haag

January 31 2020

Preisverleihung in Hamburg

Am 29.1.2020 wurde der diesjährige Surveillance Studies-Preis an die Berliner Journalistin Anna Biselli verliehen. Ihre Recherche zu den IT-Systemen des BAMF hat die Jury überzeugt.

Die Surveillance Studies-Lecture hielt Dr. Pak-Hang Wong von der Uni Hamburg. Dessen Vortrag wird demnächst bei Lecture2Go sowie in den Berichten aus Panoptopia nachzuverfolgen sein.

Auf der Shortlist des diesjährigen Wettbewerbs könnt ihr euch einen Überblick über das starke Teilnehmerfeld machen.

 

January 29 2020

Rezension: Portraits of Automated Facial Recognition

Rezension: zusammen mit   Criminologia-LogoKopie

Lila Lee-Morrison: Portraits of Automated Facial Recognition. On Machinic Ways of Seeing the Face. 2019, Bielefeld: transcript.

Von Florian Flömer, Bremen

Automatische Gesichtserkennung ist immer mehr dabei unseren Alltag zu durchdringen und zu bestimmen. Nicht erst seit den jüngsten Erkenntnissen aus der öffentlichen Debatte um die amerikanische Gesichtserkennungs-App Clearview [1], ist die Relevanz des Themas als reale Bedrohung unserer Privatsphäre offen zu Tage getreten. Bereits seit seinen Anfängen geht mit der maschinellen Erfassung des Menschen, bzw. seiner biometrischen Daten ein hartnäckiges Unbehagen einher, das den Menschen im Angesicht seines von ihm abgezogenen Daten-Double befällt. Der scheinbar objektive Blick der Maschine – früher des Fotoapparats, dann der CCTV-Kamera im öffentlichen Raum, heute der automatischen Gesichtserkennungsvorrichtungen in unseren Smartphones – verspricht Sicherheit im Gegenzug zur Preisgabe unserer Gesichter und unserer Daten. Als Reaktion auf diese gesellschaftliche Entwicklung befassen sich auch vermehrt Künstler_innen mit den Fragen und Problemen, die sich im Feld der maschinellen und algorithmisch gesteuerten Bildlichkeiten auftun. Hier setzt die Studie von Lisa Lee-Morisson an und liefert eine detailreiche Analyse maschineller Sehweisen und ihrer Reflexion und Kritik durch zeitgenössische künstlerische Positionen.

Lee-Morissons Studie versucht sich dem diskursiven Komplex automatischer Gesichtserkennung nicht aus einer technisch-anwendungsorientierten Sichtweise zu nähern, sondern aus der Perspektive der visuellen Kultur und der zeitgenössischen künstlerischen Praxis. Im Kern geht es ihr dabei um die Frage, wie sich maschinelle Seh- und Funktionsweisen für den Menschen verständlich darstellen lassen und welche neuen Beziehungen sich zwischen Mensch und Maschine in der sich permanent weiter entwickelnden Gesichtserkennung artikulieren. Ihre theoretische wie diskursive Herleitung bezieht sich auf gängige Quellen der surveillance studies, allen voran David Lyons Kritik an biometrischer Gesichtserkennung als Praxis des Aussortierens von Abweichungen und Unsicherheitsfaktoren (social sorting), sowie auf die biopolitischen Theorien von Michel Foucault und Giorgio Agamben. In der einleitenden Darstellung maschineller Sehweisen und technologischer Wiedererkennungsvorrichtungen bezieht sich die Autorin auf den in der Bildwissenschaft bereits seit längerem präsenten Begriff der technischen bzw. operativen Bilder. Dieser bezeichnet – auch in Anschluss an Paul Virilios Betrachtungen zur Sehmaschine und in direktem Zusammenhang mit Harun Farocki – Bilder, die in maschinellen Abläufen und Operationen eingesetzt werden und primär keinen ästhetischen, sondern einen rein praktischen Wert haben. Dieses Konzept schließt algorithmisch produzierte wie verarbeitete Gesichtsbilder mit ein –Bilder von Maschinen für Maschinen.

Ihre zutiefst die Gegenwart betreffenden Erkenntnisse entwickelt die Autorin dabei aus einem betont historischen Ansatz heraus, der nach Kontinuitäten und Unterbrechungen in der Entwicklung maschineller Wiedererkennung fragt. So gliedert sich ihre Studie nach einem einleitenden Kapitel in zwei Teile: einem ersten, der eine algorithmische Ästhetik am Beispiel der Bedeutung des Eigenface (Eigengesicht) nachzeichnet und einem zweiten, der die zuvor gewonnen Erkenntnisse mit zeitgenössischen ästhetischen Interventionen in Verbindung bringt.

Der Begriff des Eigenface, ein eigentlich lediglich als mathematische Abstraktion operierendes Verfahren der Bildkombinatorik, eignet sich laut der Autorin besonders für diesen medienhistorischen Ansatz, da sich hierin frühe Verfahren der Kompositfotografie mit neuen Gesichtserkennungsalgorithmen verbinden lassen. Bekannte Wegmarken bei der Entwicklung der Eigenface-Methode die sie aufführt, sind die composite portraits des englischen Eugenikers und Vorreiter der Biometrie Francis Galton, sowie die Foto-Experimente zur Sichtbarmachung von Verwandtschaftsverhältnissen und Familienähnlichkeiten Ludwig Wittgensteins. Beiden attestiert die Autorin den Versuch, aus einer Massen an Gesichtsbildern durch die Überlagerung universelle Typen und Durchschnittsgesichter zu erhalten, was einen Grundzug der späten Eigenface-Algorithmen präfiguriert und in den ersten erfolgreich angewandten Gesichtserkennungsverfahren der 1990er Jahren Anwendung fand.

Der zweite Teil der Studie widmet sich der Übertragung der zuvor erarbeiteten Thesen auf die Sphäre ästhetischer Interventionen. Hier sind mit Thomas Ruff, Zac Blas und Trevor Paglen drei Künstler exemplarisch verhandelt, die durch ihre betont medienkritschen-politschen Verfahren bekannt sind.

Die Foto-Serie andere Porträts (1995) von Thomas Ruff reflektiert explizit die Ästhetik erkennungsdienstlicher Fotografien sowie die Eigenface-Ästhetik durch die Überblendung mehrerer Porträts in einer Aufnahme. So problematisiert Ruff die der polizeilichen Verbrecher-Fotografie inhärenten Repräsentationsformen und sensibilisiert den Betrachter für das spannungsreiche Verhältnis von Identität, staatlicher Kontrolle und den archivarischen Praktiken der Verschlagwortung und Kategorisierung.

Die als facial weaponizing suite betitelten Werkserie des britischen Medienkünstlers und-theoretikers Zac Blas werden als Widerstandsstrategien gegen den algorithmischen Blick als zweites Beispiel herangezogen. Blas verwendet hier intermediale, aber vor allem skulpturale Elemente, die sich auf unterschiedliche Weise Algorithmen zur Gesichtserkennung zu eigen machen. So etwa in einer Serie von Masken, die aus verschiedenen Algorithmen abgeleitete opake Leerformen zeigen, welche wiederum getragen der öffentlichen Gesichtserkennung entgegenwirken sollen.

Der dritte Künstler, Trevor Paglen, bezieht sich in der hier analysierten Arbeit mehr oder weniger direkt auf das zuvor geschilderte Eigenface-Konzept. Auch Paglen eignet sich in der Serie Eigenface (Even The Dead Are Not Safe) (2017) Gesichtserkennungsalgorithmen an, die er verwendet, um fiktive Porträts historischer Persönlichkeiten zu generieren. Die so entstehenden „ghost-faces“ stellen für die Autorin eine Infragestellung der Produktion von Bedeutung und Identität durch den maschinellen Blick dar und entlarvt die grundsätzliche Wandelbarkeit (fluidity) dieser Prozesse.

In ihrer Zusammenfassung betont Lee-Morisson die historische Bedingtheit digitaler Gesichtserkennung, die keine gänzlich neue Welt der Daten und Algorithmen generiert, sondern eine mediale/visuelle Logik weiterführt, die tief verwurzelt ist im medienhistorischen Diskurs der erkennungsdienstlichen Fotografie. Die Eigenface-Methode dient ihr dabei als Treffpunkt menschlicher und maschinell-algorithmischer Wahrnehmungsweisen. Durch die produktive Verschränkung von sozial-, medien- und kunstwissenschaftlichen Diskursen gelingt es der Autorin die Problematik der automatischen Gesichtserkennung in seiner vollen Breite, wie in seiner sozio-historischen Genese deutlich werden zu lassen. Hoch anzurechnen ist ihr dabei die knappe, aber präzise Einordnung der künstlerischen Positionen, die das visuelle Feld der maschinellen Sehweisen fernab von jedem Versprechen nach Objektivität als ein offenes, fluides und dynamisch-mäanderndes Experimentierfeld markieren und auf die unterschwelligen politischen/gouvernementalen Mechanismen der Gesichtserkennung hinweisen. Hier gewinnt das Gesicht des Menschen das zurück, was ihm der Blick der Maschine versucht zu entreißen: eine ihm zutiefst eigene Widersprüchlichkeit, Mehrdeutigkeit und die strukturelle Offenheit, die es im Angesicht der permanenten Überwachung stark zu machen gilt.

[1] https://www.nytimes.com/2020/01/18/technology/clearview-privacy-facial-recognition.html

auch: https://www.sueddeutsche.de/digital/clearview-datenschutz-gesichtserkennung-dsgvo-1.4766724

von Florian Flömer, Bremen

 

January 21 2020

Zum Todestag George Orwells

Heute am 21.1.2020 ist der 70ste Todestag von George Orwell. Mit dem Roman 1984 und dem “Big Brother” wurde er zum Stichwortgeber für die Warnungen vor Überwachung und mit den darüber evozierten Bildern und Ideen auch für die Forschung maßgeblich.

Was bedeuten diese Bilder heute, was liegt gegenwärtig an? Ein paar Fragen.

Der englische Schriftsteller George Orwell, von Christian Linder, DLF 21.1.2020

George Orwells 1949 erschienener Roman „1984“ gilt bis heute als wirkmächtigster Warnruf vor einem totalen Überwachungsstaat. Der Stoff beruhte auf biografischen Erfahrungen des Autors, der als Polizist in Burma arbeitete. Dort habe er „die Drecksarbeit des Empires“ erledigen müssen, wie er später notierte.

Ob das Bild noch adäquat die gegenwärtigen Bedingungen von Überwachung und Kontrolle beschreibt, kann man sehr gut diskutieren. Neben ihm gibt es ja auch noch Aldous Huxley und dessen “Brave New World”, welche ein weniger brutales, dafür ebenso effektives Modell von Kontrolle beschreibt.

Die Surveillance Studies (wenn man es denn vereinfacht mal so nennen will) erforschen alle Winkel und Varianten von Überwachung und mir stellt sich durchaus die Frage, ob es noch neue Fragen gibt oder die neuen Technologien nur mit den alten Modellen befragt und analysiert werden?

Was sind die aktuell wichtigen Fragen? Was kommt noch? Und worum sollte sich die Forschung kümmern, was müssen wir dringend wissen?

Die Frage nach mehr und besserem Datenschutz zähle ich nicht dazu, auch um dem Missverständnis vorzubeugen, dass Datenschutz und Überwachung in der Forschung verwechselt werden. Eine Forschung zu Mechanismen und Dynamiken von Kontrolle und Überwachung hat wenig mit Datenschutz zu tun. Das ist ein anderes Feld, welches Berührungspunkte damit hat, aber nicht verwechselt werden darf.

Ich bin interessiert an euren Ideen. Schreibt mir oder antwortet mir auf Twitter unter @doctornilz

January 14 2020

Können Maschinen tanzen?

Die Frage ob Androiden von elektrischen Schafen träumen, treibt uns spätestens seit Bladerunner um (manche auch früher), aber ob sie tanzen können, davon müsst ihr euch selbst überzeugen bei der Digital Science Night am 23.1.2020, Beginn um 19 Uhr.

Digital Science Night #2: Wie Maschinen lernen. Aber tanzen sie auch?

 

January 08 2020

Surveillance Studies Journalistenpreise 2020 – die Gewinner

Das Forschungsnetzwerk surveillance-studies.org gratuliert den diesjährigen Gewinnern der Surveillance Studies-Preis 2020 für Journalist*innen.

Preisträgerin in diesem Jahr ist:

Anna Biselli für ein 3-teiliges Recherche-Projekt zur Sprach-IT des Bundesamt für Migrationund Flüchtlinge (BAMF), u.a.: „Die IT-Tools des BAMF: Fehler vorprogrammiert“ erschienen bei netzpolitik.org am 28.12.1018, weitere u.a. bei Vice. 

Der Preis ist mit 1.000 Euro dotiert. Das Preisgeld wird vom Webmagazin Telepolis  gestiftet.

Eine „lobende Erwähnung“ erhält in diesem Jahr zusätzlich ein Recherche-Team der Süddeutschen Zeitung (Katharina Brunner, Lea Deuber, Felix Ebert, Frederik Obermaier, Nicolas Richter und Vanessa Wormer): für ihren Artikel Operation Honigbiene, SZ 2.7.2019 zur Überwachung von Reisenden in China beim Grenzübertritt entlang der Seidenstraße im Westen des Landes. Dieser Extra-Preis der Jury ist nicht dotiert.

Die Auswahl fiel der Jury unter so vielen starken Einsendungen nicht leicht. Wir danken allen Teilnehmenden für ihr Interesse und die vielen hervorragenden Beiträge.

Preisverleihung

Die Preisverleihung findet statt am 29. Januar 2020.
Zeit: 18.30-20.30 Uhr
Ort: Universität Hamburg, Edmund-Siemers-Allee 1, Gebäude ESA West, R. 221

Die Veranstaltung findet im Rahmen der Ringvorlesung „Taming the Machines“ statt.

Die Surveillance Studies Lecture wird gehalten von Dr. Pak-Hang Wong, (Universität Hamburg) zum Thema: Three Arguments for “Responsible Users”. AI Ethics for Ordinary People.

Für Fragen und weitere Informationen stehe ich Ihnen gern zur Verfügung.

Dr. habil. Nils Zurawski – nils.zurawski@uni-hamburg.de

January 06 2020

January 04 2020

Leipziger Kamera: Kontrollverluste

Die Leipziger Kamera war eine sehr aktive Gruppe von klugen Leuten, die sich mit Überwachung beschäftigt haben. 10 Jahre nach  dem ursprünglichen Erscheinen eines von der Gruppe zusammengestellten Sammelbandes ist dieser nun offen und für alle verfügbar im Netz.

Mit Beiträgen vertreten sind u.a. W.D. Narr (+), Andreas Fisahn, Klaus Ronneberger, Peter Ullrich, Peer Stolle/Tobias Singelnstein, Andrej Holm, Anne Roth, Volker Eick, LIGNA, Surveillance Camera Players u.v.m.

Leipziger Kamera (Hrsg.): Kontrollverluste. Interventionen gegen Überwachung, März 2009, Unrast Verlag, Münster.

Das Buch Kontrollverluste versammelt Beiträge zu Fragen einer emanzipatorischen und praktischen Kritik an der aktuellen Überwachungsgesellschaft. Es führt sehr unterschiedliche Strategien und Perspektiven der linken Überwachungskritik zusammen. Kritische WissenschaftlerInnen, AktivistInnen und Initiativen stellen theoretische, aber vor allem strategische und aktionsorientierte Überlegungen an, reflektieren ihre Handlungserfahrungen und beleuchten Probleme und Potenziale von Bewegung(en) gegen immer mehr Überwachung und Kontrolle.

January 03 2020

Utopien des Sozialen – Demokratie als Risikofaktor

In einem Artikel vom 18.12.2019 schreibt Adrian Lobe über Prognose-Dystopie: Demokratie als Risikofaktor (SZ).

Im wesentlichen geht es um die tieferen Implikationen und Konsequenzen von Vorhersagen, wie sie verbunden mit den Begriffen KI Algorithmen sowie Big Data gegenwärtig sehr en vogue sind. Die Vorausschau als Bedürfnis von Regierungen, die mit den neuen Technologien nun endlich, so meinen viele ihrer Vertreter, das Mittel gefunden haben die Zukunft zu kontrollieren (vgl. dazu auch meinen Aufsatz in der APuZ, 25.4.2014).

In dem Artikel von Adrian Lobe kommen eine Reihe von interessanten Beobachtungen vor, u.a. diese:

Regieren wird zu einem technokratischen Risiko- und Prozessmanagement: Input, Output, fertig.

Dieser Einschätzung kann ich mich sehr gut anschließen. Und auch einer weiteren von Adrian Lobe:

Was an diesem datengetriebenen, deterministischen Governance-Modellen irritiert, ist ja nicht nur die materielle Aushöhlung des Politischen und Ausschaltung diskursiver Verfahren, sondern auch, dass die Zukunft nicht mehr als gestaltbarer Möglichkeitsraum begriffen wird, sondern als latente Bedrohung, ein Risiko, das es zu “managen” gilt – mit der bitteren Pointe, dass Utopien unter dem Datenregime unter Ideologieverdacht stehen, weil sie nicht berechenbar sind.

Politik verliert die Fähigkeit und gibt den Anspruch auf zu gestaltungen, sondern wird zu einer Form des Management. Dass diese Ideen Teile von digitalen Utopien aus dem Silicon Valley sind, ist wenig überraschend. In einem (leider nicht erfolgreichen) Antrag zu diesem Thema, habe ich genau diese Entwicklung und ihre ideologischen Hintergründe in den Blick nehmen wollen – hier ein kleiner Auszug:

Da mit der Digitalisierung auch Wünsche und Hoffnungen verbunden sind, bieten sich als Untersuchungsgegenstand Entwürfe einer Zukunft an, die auf eben diese digitalen Technologien zur Verbesserung von Welt setzen und hier mit dem Begriff der sozialen Utopien des Digitalen bezeichnet werden sollen (vgl. hierzu u.a. Turner 2008; auch Markoff 2005). Insbesondere handelt es sich dabei um Konzepte und Vorschläge, wie man unter Zuhilfenahme von Algorithmen und dem, was man mit „Big Data“ bezeichnet, bessere Vorhersagen über die Zukunft sowie das menschliche und soziale Verhalten machen kann, um so letztlich Gesellschaft besser planen zu können. Solche Entwürfe gibt es vielfach aus dem Umfeld der großen im Silicon Valley (Kalifornien, USA) ansässigen Unternehmen wie etwa Google (unterhält das Government Innovation Lab, vgl. Hamann et al 2014; Siemons 2015), Amazon, einzelner Internet-Entrepreneure (z.B. Peter Thiels Vorschläge zu einem Libertarian Island,  vgl. auch Denuccio 2015) oder von Wissenschaftlern wie Parag Khanna (Technocracy in America. Rise of the Info-State 2017, zur Kritik vgl. Lobe 2017). In solchen Idealvorstellungen einer neuen, durch die Technik bestimmten Welt, lassen sich auch die Ideen ihrer Regelung ablesen, also Vorstellungen davon, wie eine Gesellschaft (nicht nur in der Zukunft) sein sollte. Diese Utopien verweisen auch auf gegenwärtig vorhandene Weltbilder, die im Zuge einer Digitalisierung gesellschaftlich relevant werden können. Auch ohne solche Zukunftsvorstellungen oder Utopien ist anzunehmen, dass eine Digitalisierung, die alle Lebensbereiche umfasst, einen Einfluss auf die Modi sozialer Kontrolle haben wird. Die Frage ist, wie sich der Einfluss bzw. die Wechselwirkungen zwischen Digitalisierung, Normengenese und Kontrolle untersuchen lassen. Eine systematische Untersuchung vorhandener Vorstellungen bietet die Möglichkeit eine Grundlage der Ideen zu erarbeiten, die mit der Digitalisierung verbunden ist, bzw. den ideologischen Hintergrund liefern. Bisher wurden diese vor allem journalistisch beachtet. Diese Darstellungen bieten somit nur Anhaltspunkte, jedoch keine tieferen, systematischen Erkenntnisse. (Nils Zurawski 2018)

Jenseits von den ethischen Rahmenbedingungen, die momentan allerorten als wichtigstes Element im Umgang mit KI und Algorithmen gesehen werden, muss man, so meine ich, tiefer graben um eine Kultur der KI freizulegen und diese zu untersuchen. Denn nur den Umgang mit Technologie zu regulieren, was die meisten Anstrengungen in Richtung Ethik ja tun und wollen (ohne das ich das in Frage stellen möchte), ist zu wenig, wenn man damit eben nicht an die Wurzeln der Ideen geht, die hinter den Anstrengungen stehen, den Menschen zu kopieren, Werkzeuge zu finden, die seine Mühen das soziale Zusammenleben auszuhandeln, seine Institutionen zu erhalten und den jeweiligen Bedürnissen der Zeit nach demokratischen Aspekten einzurichten, mit neuen Technologien abzuschaffen oder so umzugestalten, dass allenfalls neue Formen totalitärer Herrschaft möglich sind. Management statt Gestaltung. Das das Totalitäre daran nicht so sichtbar ist, dafür sorgt dann ein Kontext, der so Technik-verliebt modern ist, dass die Technologien aussehen, wie die Erfüllung unserer innersten Bedürnisse, obschon die Logik und Kausalität genau anders heraum gewesen ist.

In Kürze mehr zu KI und warum der Blick auf eine Kultur der KI so wichtig ist.

 


Erwähnte Referenzen

  • Lobe, Adrian (2017). Mit Befehl und Bing, Bing, Bing. In Süddeutsche Zeitung, 13. Februar 2017, S. 13.
  • Khanna, Parag (2017). Technocracy in America. Rise of the Info-State. CreateSpace.
  • Hamann, Götz, Khuê Pham & Heinrich Wefing (2014). Die Vereinigten Staaten von Google, In Die ZEIT, 7. August 2014, S. 11-13.
  • Markoff, John (2005). What the Dormouse Said: How the Sixties Counterculture Shaped the Personal Computer Industry, New York, Penguin Random House.
  • Siemons, Mark (2015). Google oder die Abschaffung der Politik, in Frankfurter Allgemeine Zeitung, 1. November 2015, S. 47.
  • Turner, Fred (2008). From Counterculture to Cyberculture: Stewart Brand, the Whole Earth Network, and the Rise of Digital Utopianism. Chicago, Univ. Chicago Press.

December 23 2019

“not a glitch, it is the system”

December 22 2019

Plattformen und Systemtheorie

Ob und wenn ja, welche Antworten die Systemtheorie auf das Phänomen der Plattformen (Google, Facebook etc.) hat, diskutiert der Soziologe Dirk Baecker auf Breitband mit Teresa Sickert. Ich finde manche der Gedanken nachvollziehbar, manches nicht so überzeugend. Aber hört selbst.

Die Systemtheorie scheint sich des digitalen angenommen zu haben, wie auch das Buch “Muster” von Armin Nassehi zeigt, dass dieses Jahr erschienen ist. Eine Rezension davon gibt es im Januar hier im Blog.

https://ondemand-mp3.dradio.de/file/dradio/2019/12/21/das_unregulierbare_system_der_plattformen_und_ueberwachung_drk_20191221_1305_aa9c4521.mp3

Das unregulierbare System der Plattformen, Interview mit Dirk Baecker bei Breitband, 21.12.2019, Deutschlandfunk Kultur.

December 21 2019

Leben wir in einer „Blade Runner“-Welt?

Zum Cyberpunk-Jahr 2019 spricht Lars Schmeink in der Sendung Kompressor bei DeutschlandFunk Kultur über die Frage, “Leben wir in einer „Blade Runner“-Welt? 20.12.2019.

https://ondemand-mp3.dradio.de/file/dradio/2019/12/20/deluxe_cyberpunk_jahr_2019_leben_wir_in_einer_drk_20191220_1405_dfd5c7e5.mp3

December 19 2019

cfp: The politics of progress

Die Kollegen Bettina Paul, Larissa Firscher und Thorsten Voigt veranstalten auf der 4S/EASST-Konferenz, 18.-21. August 2020 in Prag, folgendes Panel und laden dazu ein Beiträge einzuschicken.

Der Einsendeschluss für Vorschläge ist am 29.2.2020.

188. The politics of progress

Torsten H Voigt, RWTH Aachen University; Larissa Fischer, RWTH Aachen University; Bettina Paul, Universität Hamburg

Since industrialization, modern societies were defined by progress in various forms, most notably economic and technological growth as well as the idea of scientific progress. Despite Thomas Kuhn’s (1962) seminal work on the myth of scientific progress as a linear process, ideas and concepts about progress are still mostly characterized by incremental change to the better. In other words, progress is considered to introduce novel technologies, ideas, and practices. Progress, however, is not always understood as new, innovative, or scientific. It can come in many different shapes, forms, and practices depending on time and space. Progress and tradition need not be mutually exclusive. It may mean the use of an old technology in a new setting. A practice or technology may also be framed as progress but in fact turn out to be standstill or even regress from a certain perspective, for a particular group of actors or a particular practice.

Borrowing from Law and Joks (2018) as well as Danyi (2016) we invite contributions that trace the politics of who, politics of what and politics of how of progress in today’s society. Who considers certain practices, developments and technologies as progress? What is considered progress? And most importantly, how is progress enacted in practices thus shaping different realities? How do those practices relate to different understandings of progress? How does it gain significance and agency in emerging worlds? We are interested in contributions that address a broad range of understandings and practices of progress.

Contact: thvoigt@soziologie.rwth-aachen.de

Formalien und Prozedere rund um die Einreichung findet sich hier: https://www.easst4s2020prague.org/call-for-papers-and-panels/

Reposted by02mydafsoup-01 02mydafsoup-01

December 18 2019

Sind Roboter rassistisch?

Ruha Benjamin, Professorin für African American Studies in Princeton, hat hier einen hoch interessanten Vortrag online gestellt.

Are Robots Racist? Vortrag von Ruha Benjamin

Und auch ihre Bücher, u.a. Race after Technology gehen das Thema auf sehr interessante Weise an.

Older posts are this way If this message doesn't go away, click anywhere on the page to continue loading posts.
Could not load more posts
Maybe Soup is currently being updated? I'll try again automatically in a few seconds...
Just a second, loading more posts...
You've reached the end.

Don't be the product, buy the product!

Schweinderl