Eva Wolfangel

In the future the question will not be: Man or machine. The motto will be: "together we are strong". The vision of human-robot collaboration has long since become obsolete: current developments in researchers' laboratories go far beyond that: the term "augmented human", which was presumably coined by Japanese researchers, unites all kinds of human enhancements. I met many of these pioneers in Japan and Germany in 2018 for a major research project and tried out what this future feels like. I enjoyed additional arms, I shared my senses with others to a point where the "me" was blurred and it was no longer fully clear who was who at all. And I let myself be remote controlled by other people who used my body as a tool as well as by a machine. And it sometimes felt like I was doing it all myself, even though I knew it wasn't like that.

All this sounds a bit like science fiction - but it's not. I played through exciting scenarios with the researchers and experienced how flexible we are when it comes to expansion: how quickly we get used to additional body parts and can use them intuitively, how well we integrate other people's senses into our own sensory cosmos and how flexibly we change perspectives.

This future enables us to reach places our biological body would never reach or to provide our body for an expert or physician when his or her help is needed exactly where our body happens to be. Of course, this future also raises questions such as: what does it do to our ego when the boundaries between us, our fellow human beings and robots become blurred? And what can go wrong? What about possible manipulations? And last but not least: Do we want to be remote controlled, even if it's for the good cause? How good does this cause have to be?

Maike Janssen

Wenn wir zum Arzt gehen, darf er unseren Körper behandeln. So klar, so gelernt. Wird ein konkreter körperlicher Eingriff vorgeschlagen, muss eine informierte Einwilligung - ein "informed consent" -, unterzeichnet werden, und zwar unbedingt. Alles andere gilt als Körperverletzung. „Consent“ meint hier nicht, dass es keine Einwände mehr gegen den vorgelegten Vorschlag des Arztes gäbe. Sondern nur, wie die Soziokratie flapsig definiert: dass dieser Vorschlag beiderseitig für „good enough for now, safe enough to try“ gehalten wird.

Am Fallbeispiel der digitalen Überwachung von chronisch kranken Patienten geht dieser Talk der Frage nach, in welchem Kontext der informed consent eigentlich heute steht: Wie wird er eingesetzt? Was muss er leisten? Und auf welchen Körper bezieht sich die Einwilligung konkret: auf den physischen oder auf den codifizierten Datenkörper des Patienten? Zuletzt: Welchen Unterschied macht das?

Dabei wird auch kritisch hinterfragt, wie ein informed consent im heutigen Gesundheitssystem überhaupt zustande kommen kann. Als Spezialist*innen für den menschlichen Körper übernahmen bisher Ärztinnen und Ärzte die Aufgabe, ihre Patient*innen über die eigens verordneten Eingriffe aufzuklären. Auch dies war schon ein äußerst umfangreiches Unterfangen, das nur mit starken Verkürzungen und Auslassungen möglich war. Wenn nun telemedizinische Kontrollmöglichkeiten zunehmen, wenn der physische Körper als granulärer "Zahlenkörper" (Mathar, 2010) beobachtbar wird und sich Eingriffe auch auf diese digitale Abbildung beziehen - wie können die Beteiligten dann systematisch befähigt werden, einen informed consent herbeizuführen?

Die Rednerin ist weder Juristin noch Medizinerin, sondern Mediensoziologin. Deshalb sind ihr nicht die Details eines informed consent als solche wichtig - tl;dr –, sondern dessen sozialer Kontext und die Auswirkungen auf unser Verhältnis zum Patientenkörper. 

* Mathar, T. (2010). Der digitale Patient. Bielefeld: transcript Verlag.

Johan Rockström

By 2020, it will already be five years since world leaders have bestowed their signatures on two crucial documents: The adoption of the 17 UN Sustainable Development Goals and, after 21 years of negotiations, the adoption of the legally binding Paris Agreement, committing to keeping a global temperature rise this century well below 2°C. Both were hopeful promises for humanity. Yet today, we can see quite clearly that we're not delivering on these promises.

One crucial step towards realising the two goals is to acknowledge that they depend on each other: A stable planet is a prerequisite to have good human life on Earth. The planetary boundary framework, introduced in 2009, provides a scientific guardrail on how to manage the atmosphere, oceans and forests sustainably as a common asset for all people on our planet. It allows for combining both the SDGs and the Paris goals in one analytical framework and defines a safe operating space on a stable earth system. The result is a completely new complex systems dynamic model, giving us a science-based framework for human prosperity and equity on a stable and resilient planet. It projects economic development, resources use from water, food and energy, population growth, and income per person, to name but a few. In this way, the model for the first time gives us a robust opportunity to really explore our future ability to attain the SDGs within the planetary boundaries.

It is thus possible to test different possible futures: business as usual, global transformations, different governance options. What the framework shows: Unless we radically change our direction, we will fail on both fronts. We will not attain the SDGs and we will transgress planetary boundaries – risking to push the earth system beyond irreversible and devastating tipping points. Hence, we need some radical thinking to enter a transformative, disruptive future. Six transformation ways may enable us to succeed with all SDGs and the Paris Agreement.

Brigitte Strahwald, Ulrich Mansmann

Online sind zahllose Tools verfügbar, mit denen das individuelle Risiko für Herzinfarkt, Krebs oder sogar eine verkürzte Lebenserwartung mit wenigen Mausklicks berechnet werden kann. Aber lässt sich die eigene gesundheitliche Zukunft so einfach bestimmen? 

Für die NutzerInnen ist oft unklar, wie Risikorechner funktionieren. Das macht es schwer, die Ergebnisse richtig zu interpretieren. Bei der aufwändigen  Entwicklung der Tools muss zunächst geklärt werden, welche Risikofaktoren bei welcher Erkrankung eine Rolle spielen. Dazu sind große Datenmengen erforderlich. Im nächsten Schritt wird ein Vorhersagemodell entwickelt, das alle relevanten Faktoren einbezieht. Diese Entwicklung erfolgt an einer Lernstichprobe, gefolgt von einer Validierungsstichprobe, um die Qualität der Vorhersage zu überprüfen. Wichtige Kriterien sind hier Diskriminierung und Kalibrierung – wir zeigen, warum. Die Modelle selbst basieren auf komplexen statistischen Verfahren oder Algorithmen des Machine Learning. Die Algorithmen bilden die Grundlage für Risikorechner, die online oder als App angeboten werden. Mit ihnen kann, so das Versprechen, jede Person das individuelle Gesundheitsrisiko berechnen. Offen bleibt, ob dieses Versprechen eingehalten wird.

Dem gehen wir nach und werfen einen Blick in die Nutzungsbedingungen. Wir nehmen uns Zeit für das Kleingedruckte, für Formulierungen wie "Der Anbieter übernimmt keine Haftung für Folgen der Nutzung". Wir diskutieren, welchen Schaden Risikorechner anrichten können und wie sich NutzerInnen davor schützen können. Laut AGBs sind "Risikorechner kein Ersatz für ärztlichen Rat oder Diagnosen". Nur – was sind sie dann? Wozu dienen sie, wo liegen die Risiken, wo die Chancen? Wie lässt sich nachweisen, ob und wie Entscheidungen mit den neuen Algorithmen konsistenter, genauer und rigoroser werden?

Salomé Eggler, Anja Steglich, Nathan Williams, Jessica Droujko

Der ungebremste Raubbau an Wäldern, die Plünderung unserer Bodenschätze, die stetig steigende Verschmutzung von Luft und Gewässern – wollen wir unseren Planeten in den nächsten Jahrzehnten nicht unbewohnbar machen, sind bessere Schutzsysteme gefragt. Unsere digitalisierte Welt stellt viele neuartige Möglichkeiten zur Verfügung – aber wie können wir diese wirklich sinnvoll für ökologische Belange nutzen?

Mit dieser Frage beschäftigt sich die Nachhaltigkeits-Plattform RESET.org - Digital for Good schon seit vielen Jahren. In dieser Session bringt das Redaktionsteam von RESET Projekte und die Menschen dahinter auf die Bühne, die mit neusten Technologien Lösungen für den Umwelt- und Naturschutz bieten. Was sie alle verbindet: Sie alle stellen schlaue Schnittstellen zwischen Mensch, Natur und Technogie her. Können wir damit unseren Wäldern, Flüssen und Seen sogar eine eigene Stimme geben und so den (Selbst-)Erhalt und die (Selbst)Finanzierung unseres Planeten erleichtern?

Anna Christmann, Valerie Mocker, Francesca Bria, Julia Kloiber

Funding policies, whether from government side or private institutions can have massive impacts in science, innovation ecologies and society, as for example DARPA (& other imaginaries in technology) demonstrate. How these impacts played out can be observed i.a. by analyzing and contextualizing, how the public interest law field emerged from the American civil rights movement thanks to strategic investments of family foundations. The observations in Mariana Mazzucatos book "The entrepreneurial state" argue, that economic success is often a result of public / state funded investments in innovation and technology rather than a result of free market doctrine that mainly receives credit for a country´s strong economy.

Our futures and technologies are now inextricably intertwined, in almost all areas of life: Community, Politics, Environment, Human Rights ...

Because the imbalance in technologies is shifting more and more from democratic ideals of co-design and -use to corporate R&D departments; national technology visions/strategies do not sound particularly inviting either (and show a lack of interest in innovations coming from civil society/ community technologies), we urgently need to depart into an exchange with those who are already doing things differently today: Before a Black Mirror Live-LARP haunts us, we'll gather strategies and best practices from (civic) tech initiatives and debate, which course settings are necessary in innovation policy. 

Are national AI strategies and innovation agencies the right way forward? Or are there manoeuvrable self-initiated speedboats and lighthouses? What does it take for our society to benefit from new technological developments?

We`ll debate prevailing narratives and why taxpayers' money should indeed be used to invest in the future. Don't be a unicorn, move in the pack: act fast and MAKE things! #PublicMoneyPublicGood will be our battle cry!

Kate Devlin

A few years ago, Kate began to explore the particular ways in which sex, gender and sexuality might be incorporated into cognitive systems such as sexual companion robots; since then she has become a driving force in the field of intimacy and technology. She will talk about "sex robots", the impact they (will) have on society, as well as issues surrounding them such as gender politics, diversity, surveillance and violence.

Friedhelm Taube, Reinhild Benning, Kristina Gruber

Wie trägt die Digitalisierung zur sozial gerechten und ökologisch nachhaltigen Erzeugung von Lebensmittel bei? Wie lässt sich mithilfe von Software solidarische Landwirtschaft organisieren und warum macht dies Sinn? Vor welche Herausforderungen stehen Bauern angesichts des Klimawandels? Welche digitalen Lösungen können ihnen helfen, auf die Veränderungen des Klimas und ihres Ackers zu reagieren?

In dieser Session unternehmen wir einen Deep Dive in die Landwirtschaft und betrachten die positiven und negativen Wechselwirkungen von Nachhaltigkeit und Digitalisierungen auf dem Acker.

Gerlinde Bendzuck, Maike Henningsen, Markus Dahlem

Auch wenn es in anderen Branchen schneller geht, hält die Digitalisierung mittlerweile in der medizinischen Versorgung Einzug. Mit Hochdruck wird an elektronischen Patientenakten gearbeitet. Künstliche Intelligenz wird von ersten Kliniken beispielsweise auf Bilddaten angewendet. Klinisch validierte Apps helfen Patient*innen ihre Beschwerden zu verstehen. Zeitersparnis, Vermeidung von Fehldiagnosen und bessere Therapievorschläge können Ergebnisse digitaler Lösungen sein, die von medizinischem Personal gewünscht werden.

Jedoch stellt der Einzug künstlicher Intelligenz eine Reihe neuer Fragen, die den Kern der heilenden Berufe adressieren. Ärzt*innen befürchten ersetzt zu werden. Patient*innen recherchieren die Diagnose lieber selbst im Internet. Die Ärzt*in-Patient*in-Beziehung droht aus dem Gleichgewicht zu geraten. Wie erreichen wir, dass Patient*innen sich informiert fühlen und Ärzt*innen heilen können?

Theobald Fuchs

Wir untersuchen im Detail, welche Entwicklungen vor einem Menschenalter vorhergesagt wurden – und wobei man sich verschätzte, als der technologische Wahnwitz nach dem zweiten Weltkrieg in voller Blüte stand.

Als sich Hybris und Allmachtsanspruch in den Entwicklungsbüros austobten. Als man von atombetriebenen Autos für Alle, innerstädtischen Raketenflügen, Unterwasseröltankern und Safari-Hotels auf dem Mond halluzinierte. Als man mühelos neue Technologien erfand, indem zwei weit entfernte Prinzipien gekreuzt wurden, wie z.B. Langstreckenbomber und Schaufelbagger.

Wir behandeln insbesondere die folgenden Fragen: Wie sich nukleargesteuerte Ingenieure und entdeckungstrunkene Wissenschaftler vor 60 Jahren die heutige Zeit – unsere Gegenwart, die damals noch Zukunft war – vorstellten. Wie es immer wieder die kleinen Probleme waren – deren Lösung man bis heute gerne auf später verschiebt –, die dann plötzlich aller Genialität das Genick brechen. Und was man daraus für unsere Zukunft lernen kann.

Dabei wird auch deutlich, wovon in den ersten Jahrzehnten nach dem zweiten Weltkrieg niemand etwas ahnte: billige Computer und Handtelefone, Umweltschutz und Massentourismus.

Anhand illustrierter Beispiele entwickelt der Vortrag die fünf Goldenen Regeln der gigantomanischen Epoche von 1945 bis 1975:

Verschiebe die Lösung kleinerer Probleme auf später und konzentriere dich auf das Große (etwa auf eine Autobahn um den Planeten)!

Ignoriere kleinliche Zweifel an der Wirtschaftlichkeit (z.B. zehn Düsen pro Flieger)!

Maschinen machen weder Lärm noch Schmutz und Schrott entsorgt sich am Ende von selbst.

Technik ist immer problemlos skalierbar: Was mit einem Auto klappt, klappt auch mit 100 Millionen!

Rechne nicht mit Naturkatastrophen, Terrorismus oder Kriminellen – das sind Probleme, die dich nichts angehen!

Damals hielten sich Ingenieur*innen, Techniker*innen und Manager*innen an diese Grundsätze. Aber hat sich bis heute wirklich etwas daran geändert?