Chaos Computer Club - archive feed

Dass Systeme für automatisierte Entscheidungen (ADM-Systeme) einer Regulierung bedürfen, steht ausser Frage. Diskutiert wird allerdings, wie ADM-Systeme in der Schweiz zu regulieren sind. Wo steht die Schweiz? Wie positioniert sich die Schweiz hinsichtlich der europäischen Regulierungstendenzen?

Zu diesen und weiteren Fragen diskutieren Prof. Nadja Braun Binder (Uni Basel), David Sommer (Digitale Gesellschaft), Angela Müller (AlgorithmWatch) und Prof. Bettina Berendt (TU Berlin). Moderation Nicole Pauli (Digitale Gesellschaft).

Systeme für automatisierte Entscheidungen (ADM-Systeme) haben den gesellschaftlichen Alltag längst durchdrungen - dies meist ohne Bewusstsein der Öffentlichkeit. Bürger:innen sowie Nicht-Bürger:innen sehen sich immer mehr mit auf Algorithmen basierenden Entscheiden konfrontiert. Sei dies im Kleinen, bei der Song-Auswahl auf Spotify oder aber auch im Grossen, bei der demokratischen Meinungs- und Willensbildung. Da ADM-Systeme nie objektiv sind, sondern immer die Normen und Werte jener spiegeln, die sie programmieren und/oder einsetzen, sind sie anfällig dafür diskriminierend, ausgrenzend, biased und manipulativ zu sein.

Dass ADM-Systeme einer Regulierung bedürfen steht entsprechend ausser Frage. So hat die Europäische Kommission am 21. April 2021 einen Vorschlag für eine Verordnung über Künstliche Intelligenz ("AI Act") veröffentlicht. Auch der Europarat verabschiedete bereits eine erste Empfehlung zu künstlicher Intelligenz.

Diskutiert werden muss, wie ADM-Systeme in der Schweiz zu regulieren sind. Wie soll sich die Schweiz hinsichtlich der europäischen Regulierungstendenzen positionieren? Wie muss ein Regulierungsvorschlag für die Schweiz konkret aussehen? Braucht es ein Schweizer "KI Gesetz"? Und wie soll die Frage nach der Haftung von algorithmischen Entscheiden geklärt werden? Diese und weitere Fragen diskutieren Prof. Nadja Braun Binder (Uni Basel), David Sommer (Digitale Gesellschaft), Angela Müller (AlgorithmWatch Switzerland) und Prof. Bettina Berendt (TU Berlin). Moderation Nicole Pauli (Digitale Gesellschaft).

about this event: https://cfp.winterkongress.ch/wk22/talk/BCVCDL/

Im September 2020 reichte der Winterthurer Internetprovider Init7 eine Anzeige bei der Wettbewerbskommission ein, weil Swisscom aus seiner Sicht ihre Glasfaser-Netzwerktopologie in einer Weise verändert hatte, die den Zugang von Wettbewerbern auf ihr Netz erschwerte. Die Weko verbot Swisscom im Dezember 2020 vorsorglich diese Form des Ausbaus. Das Bundesverwaltungsgericht bestätigte den Entscheid. Derzeit ist das Verfahren vor Bundesgericht hängig.

Fredy Künzler, CEO von Init7, und Simon Schlauri, Rechtsanwalt von Init7, geben Einblick in das Verfahren und seine rechtlichen Hintergründe.

about this event: https://cfp.winterkongress.ch/wk22/talk/9AMRZH/

Die zunehmende Vernetzung und Verbindung ins Internet ist im privaten Umfeld genau so zu erkennen wie im geschäftlichen Alltag. Private Internetzugänge rücken durch "work from home" gezielt ins Visier der Internetkriminalität, "Ransomware" Angriffe sind trotz Aufklärung und Datensicherung immer noch verheerend. Mittels Netzwerk Security Monitoring können Verbindungen und mögliche Gefahren erkennt werden. In diesem Workshop lernst du, wie du mit der Open Source Software ntopng ein Netzwerk Security Monitoring zu Hause oder in einer KMU einrichten und Gefahren erkennen kannst.

about this event: https://cfp.winterkongress.ch/wk22/talk/Q7FUEE/

Dieser Vortrag fasst zunächst die zwanzigjährige Geschichte zum Thema E-Voting in der Schweiz zusammen; ein Thema das den Diskurs zur "Digitalen Demokratie" hierzulande stark prägt.

Im Hauptteil betrachtet er mehrere Dokumente:

Bericht zum Expertendialog der Bundeskanzlei aus dem Jahr 2020

Das Vernehmlassungsverfahren zur neuen Regulierung von 2021

Die verschiedenen Antworten auf das Verfahren

Den Abschlussbericht der Vernehmlassung und die voraussichtliche neue Regulierung (Sommer 2022)

Zum Ende hin dann ein hoch spekulativer und deshalb latent lächerlicher Ausblick.

Die Schweiz experimentiert seit 20 Jahren mit der digitalen Stimmabgabe. Mehrere Anbieter scheiterten an der anspruchsvollen Technik und die Schweizerische Post musste 2019 als einzige verbleibende Anbieterin ihr Angebot stoppen, nachdem unabhängige ForscherInnen drei gravierende Schwachstellen publiziert hatten. Der Aufbau eines funktionierenden digitalen Stimmkanals erscheint wie eine stetig länger werdende Aneinanderreihung von Niederlagen.

Aber auch die Kritiker drangen mit Ihren Anlagen nicht durch. Vielmehr scheiterte die äusserst breit abgestützte Volksinitiative für ein Verbot der elektronischen Stimmabgabe in der Phase der Unterschriftensammlung trotz tatkräftiger Mithilfe der Schweizerischen Post kolossal.

2020 versuchte die Bundeskanzlei den Neustart und führte einen breit abgestützten Dialog mit führenden WissenschaftlerInnen zum Thema E-Voting durch. Daraus resultierte ein 80-seitiger Bericht mit Empfehlungen der beteiligten Forscher. Der Vortrag erklärt einige zentrale Forderungen aus diesem Bericht.

Diese Empfehlungen flossen 2021 in den Entwurf für zwei Verordnungen zum Thema E-Voting ein, die der Öffentlichkeit in einem Vernehmlassungsverfahren präsentiert wurden.

Es gingen sehr umfangreiche Stellungsnahmen ein und der Vortrag betrachtet diese im Hinblick auf das Thema Open Source, das im Regulierungsentwurf ausgespart wurde.

Die Betrachtung der Vernehmlassungsantworten erlaubt eine wenn auch schwache Aussage, wie sehr sich die politischen Akteure auf eine hochkomplexe Vorlage wie diejenige zur Regulierung der elektronischen Stimmabgabe einlassen und inwieweit sie qualifiziert sind, die aufgeworfenen Fragen zu beantworten.

Die neue E-Voting Regulierung wird für Sommer 2022 erwartet. Der Vortrag wird die erwartete Regulierung überblicksartig vorstellen und betrachtet einige Schwerpunkte, namentlich die Open Source Frage.

Zum Schluss und zur allgemeinen Erheiterung folgt ein Ausblick, wie es mit E-Voting weitergehen könnte. Angesichts der zahlreichen Überraschungen, die das Thema bereits bot, dürfte dieser Ausblick hoch spekulativ und innert kürzester Zeit überholt sein.

Aber man sollte im Leben keine Chance auslassen, sich lächerlich zu machen.

about this event: https://cfp.winterkongress.ch/wk22/talk/GUXELP/

Dezentralisierung ist ein Buzzword der Blockchain-Ära, aber auch grundlegender Bestandteil des Internets seit seinen Anfängen in den 1960er Jahren. Das Fediverse will die Plattformisierung, die massgeblich durch Social Media Plattformen vorangetrieben wurde, durch dezentrale Infrastruktur ersetzen. Doch was bedeutet das in der Konsequenz? Was sind die Probleme, die Dezentralisierung lösen soll? Welche neuen Probleme ergeben sich im Fediverse und (was) können wir aus dem politischen Föderalismus für das dezentrale Netz lernen?

about this event: https://cfp.winterkongress.ch/wk22/talk/UDBNCV/

Systeme für automatisierte Entscheidungen (ADM-Systeme) sind im gesellschaftlichen Alltag angekommen. Diese Algorithmen reproduzieren die Normen und Werte jener, die sie einsetzen und programmieren und wirken dadurch als sozio-ökonomischer Spiegel der Gesellschaft. Sie sind also weder neutral noch objektiv. Es entsteht eine Komplexität mit grossem Zukunftspotential aber auch nur schwer abschätzbarem Risiko. Wir illustrieren die Grundproblematiken und diskutieren den Regulierungsvorschlag der Digitalen Gesellschaft, der bei problematischen Fällen ein demokratisches Eingreifen ermöglicht.

Systeme für automatisierte Entscheidungen (ADM-Systeme) sind im gesellschaftlichen Alltag angekommen. Individuen werden im Verlauf eines Tages immer wieder mit den Resultaten einer automatisierten Entscheidung konfrontiert – meist ohne dies aktiv zu bemerken. So handelt die Bank Aktien in meinem Portfolio auf Basis von algorithmischen Entscheiden, das Newsportal zeigt mir eine andere Front-Headline als meinem Nachbarn und Spotify schlägt auf meinen Geschmack angepasste Musik vor. All diese Abwägungsentscheide werden nicht länger von Menschen, sondern von Computeralgorithmen getroffen. Viele dieser Algorithmen werden heute als "Blackbox" bezeichnet - da kaum jemand ihre genaue Funktionsweise kennt. Sie reproduzieren die Normen, Werte und Annahmen jener, die sie einsetzen und programmieren und wirken dadurch als sozio-ökonomischer Spiegel der Gesellschaft. Algorithmen sind also weder neutral noch objektiv. Dadurch schaffen ADM-Systeme eine neue opake «Dunkelheit in der hypermodernen Welt». Es entsteht eine Komplexität mit nur schwer abschätzbarem Risiko. Auf der anderen Seite darf das enorme Potenzial von ADM-Systemen für Wirtschaft, Gesellschaft und Verwaltung nicht unterschätzt und unnötig gebremst werden, auch um die Wettbewerbsfähigkeit des Wirtschafts- und Forschungsstandortes Schweiz nicht zu gefährden.

In dieser Veranstaltung illustrieren wir die entstehenden Problematiken und diskutieren den Regulierungsvorschlag der Digitalen Gesellschaft, der es bei kritischen Fällen ermöglicht, demokratisch einzugreifen.

about this event: https://cfp.winterkongress.ch/wk22/talk/YFVWA7/

Die EU will Künstliche Intelligenz regulieren. Auch der Europarat arbeitet an Spielregeln für algorithmische Systeme. Hierbei zeigt der Stand der Wissenschaft, dass die derzeit im Zusammenhang mit KI-Regulierung geforderte Transparenz algorithmischer Systeme als Gegenmassnahme nicht immer ausreicht. Die Keynote stellt Vorschläge für Prinzipien und Methoden vor, die effektiver sein könnten, um Diskriminierung zu vermeiden oder einzudämmen.

Algorithmische Systeme unterscheiden, also «diskriminieren», in vielerei Weise, und solche Unterscheidungen können zu im rechtlichen oder ethischen Sinne unzulässiger Diskriminierung führen. In den vergangenen Jahren ist diese Problematik vor allem in Hinblick auf den Einsatz Künstlicher Intelligenz diskutiert worden. In diesem Vortrag gebe ich einen kurzen Überblick über technische Gründe und auch über das sehr aktive informatische und interdisziplinäre Forschungsfeld, welches Methoden der Entdeckung und Vermeidung solch unerwünschter Unterscheidungen entwickelt. Ich stelle relevante Konzepte vor (algorithmische Diskriminierung, Bias, Fairness, ...) und zeige beispielhaft, wie Diskriminierung aus Daten, Algorithmen und sozio-technischen Systemen resultieren kann. Hierbei zeigt der Stand der Wissenschaft, dass die derzeit im Zusammenhang mit KI-Regulierung geforderte Transparenz algorithmischer Systeme als Gegenmassnahme nicht immer ausreicht. Ich stelle Vorschläge für Prinzipien und Methoden vor, die effektiver sein könnten, um Diskriminierung zu vermeiden oder einzudämmen.

about this event: https://cfp.winterkongress.ch/wk22/talk/BXPH7G/

Dies ist die Eröffnung am Samstag.

about this event: https://cfp.winterkongress.ch/wk22/talk/ELHQ8V/

In einer riesigen Villa hoch oben über der Stadt lebt der berühmte Erfinder Zangemann. Erwachsene wie Kinder lieben seine Erfindungen und wollen sie unbedingt haben. Doch dann geschieht etwas: Zangemann kommt in die Stadt, um seine Erfindungen wieder einmal aus der Nähe zu betrachten und – RUMMS! – ein Kind fährt ihm mit seinem Skateboard gegen das Schienbein. Wutentbrannt trifft der Erfinder eine Entscheidung und dann passieren merkwürdige Dinge ... Aber das kluge Mädchen Ada durchschaut, was vor sich geht. Gemeinsam mit ihren Freund:innen schmiedet sie einen Plan.

Lesung des Buches mit wunderschönen Illustrationen von Sandra Brandstätter (u.a. Character-Designerin für die Serie »Trudes Tier«, Sendung mit der Maus). Das Buch ist ein modernes Märchen, das die Freude am Tüfteln vermittelt und zum selbstbestimmten Umgang mit Software aufruft: für Kinder ab 6 Jahren. Eine charmante Geschichte, die auch Erwachsenen Spaß macht.

about this event: https://cfp.winterkongress.ch/wk22/talk/VAVEX8/

Die Tech-Konzerne sind daran, virtuelle Räume zu bauen, die bald unser politisches Koordinatensystem überschreiben. Deshalb ist es höchste Zeit, über ein Update nachzudenken: die globale Demokratie.

Politische Systeme sind verknüpft mit historisch gewachsenen Räumen – wie beispielsweise die Nationalstaaten. Bereits das Internet und die sozialen Medien haben dieses Koordinatensystem durcheinander gewirbelt. Jetzt machen sich die Tech-Konzerne daran, neue virtuelle Räume zu bauen, die in wenigen Jahren mit unserem «Alltag» verschmelzen sollen.

Mit den Meta-Welten ist es eine Frage der Zeit, bis das globale Politsystem ein Update erhalten wird. Was wird es sein? Eine Kopie der jetzigen «Balance of Power»? Oder setzen sich Modelle wie die EU oder China durch?

Heute haben wir die Chance, gemeinsam den Code für einen Menschheitstraum zu schreiben: für die Globale Demokratie. Aber die Uhr tickt. Ohne Prototypen rennen wir den Tech-Konzerne nur hinterher. Denn bereits ist klar: Wir müssen die virtuelle Realität zurückerobern.

about this event: https://cfp.winterkongress.ch/wk22/talk/Y83FXU/