News in detail

Forum Bits & Bäume: KI für nachhaltige Entwicklung?

Autonomes Fahren soll den Arbeitsweg angenehmer, datenbasierte Verbrechensvorhersagen Städte sicherer, intelligente Spracherkennung das Erlernen von Fremdsprachen überflüssig machen. Künstliche Intelligenz (KI) – Vorsprung durch Technik auch für Nachhaltigkeit? Oder schwerer ethischer und ökologischer Rucksack? Das diskutierten Wissenschaftler*innen, Vertreter*innen aus Wirtschaft und Zivilgesellschaft mit Entscheidungsträger*innen aus der Politik auf dem ersten Forum „Bits & Bäume“ am 10. September 2019 im Einstein Center Digital Future (ECDF).

Energieverbrauch von KI ist hoch

Künstliche Intelligenz: Maschinen lernen und improvisieren wie Menschen. Mithilfe von komplexen Modellen miteinander verbundener Neuronen sollen Maschinen unterschiedliche anspruchsvolle Probleme lösen. Bisher ist „starke“ KI, die umfassende Nachbildung von neuronalen Netzen, noch wenig verbreitet. Dafür findet sich „schwache“ KI etwa in Sprach- und Gesichtserkennung, Suchmaschinen, oder bei selbstfahrenden Autos oder Chatbots. Damit diese neuronalen Netze Aufgaben lösen können, müssen sie umfassend trainiert werden. Insbesondere das Trainieren kostet viel Energie. Soll eine Maschine beispielsweise ein Gesicht erkennen, muss sie mit Dutzenden bis Millionen Bildern gefüttert werden. Schätzungen gehen davon aus, dass das Trainieren eines neuronalen Netzes etwa so viel CO2 wie ein Flug von Berlin nach Madrid und zurück verursacht. Kommen immer mehr Anwendungen in Gebrauch, geht auch der Energieverbrauch steil nach oben.

Aber kann KI in Zukunft auch zu mehr Energieeffizienz und Nachhaltigkeit beitragen? Autor Timo Daum, der die Eröffnungsrede hielt, ist kritisch. „Nachhaltige KI“ erschöpfe sich bisher darin, etwa Rechenzentren effizienter zu machen. Damit löse KI primär Probleme, die sie selbst erschaffen habe. Auch die Anwendung von KI diene bisher vor allem dazu, herauszufinden, wie Menschen zu mehr Konsum motiviert werden können. Daum forderte deshalb, den gesellschaftlichen Nutzen ins Verhältnis zu Energie-und Ressourcennutzung setzen.

Im Energiesektor könnte KI jedoch Ressourcen einsparen: Der Ausbau der erneuerbaren Energien macht den Energiemarkt komplexer. Mit KI und intelligent vernetzten Systemen kann die Netzauslastung erhöht werden. Swantje Gährs vom Institut für ökologische Wirtschaftsforschung (IÖW) erklärte, dass die Entwicklung von KI-Anwendungen im Energiesystem noch in Kinderschuhen stecke. Ob durch KI zukünftig weniger Energie verbraucht wird, ist offen.

Fehlende Transparenz und diskriminierende KI

KI wirft zudem viele ethische Fragen auf: Wie transparent sind die Algorithmen? Wie legitim ist es, dass große Tech-Konzerne diese ohne demokratische Kontrolle gestalten? Olga Levina vom Forschungszentrum Informatik (FZI) wies darauf hin, dass in den USA die Polizei bereits Predictive Policing anwendet. Die Polizei nutzt große Datenmengen um Vorhersagen über Verbrechenswahrscheinlichkeiten zu treffen und damit auch Polizeieinsätze zu steuern. Das Problem: Das System basiert auf Daten aus der Vergangenheit, dadurch reproduziert es Diskriminierungsmuster, die in der Gesellschaft vorhanden sind.

Doch auch wer die Algorithmen entwickelt, ist kritisch für nachhaltige KI. Bisher entwickeln vor allem große Tech-Konzerne wie Amazon, Google und Co. KI-Anwendungen. Die „Champions der digitalen Ökonomie“ haben durch große Datensammlungen einen Vorsprung. Das erschwert den Zugang für lokale oder nicht profit-orientierte Anbieter und fördert Marktmonopole. In einer der vier ConverStations diskutierten Teilnehmende mit Prof. Dr. Philipp Staab (ECDF/HU Berlin) über Macht und Märkte – wer profitiert von KI?

Die Teilnehmenden des Forums entwickelten unterschiedliche Ideen, diesen Problemen zu begegnen. Gemischte Entwickler/innenteams könnten etwa dazu beitragen, Anwendungen diverser zu gestalten. Anwendungen sollten sich „Labortests“ unterziehen, um deren Auswirkungen zu testen, bevor sie auf den Markt kommen. Und die Gesellschaft sollte mehr Einfluss darauf nehmen können, zu entscheiden, welche KI sie möchte.

Die Gesellschaft braucht mehr Mitspracherecht in der Gestaltung von KI

Wie kann die Politik KI aktiv und nachhaltig gestalten? Dieser Frage stellten sich in einer Fishbowl-Diskussion. Moderator Prof. Dr. Tilman Santarius (ECDF/TU Berlin) diskutierte mit Anna Christmann, Bundestagsmitglied der Grünen, Stefan Ullrich vom Weizenbaum Institut und Matthias Spielkamp von AlgorithmWatch. Es sei Aufgabe von Zivilgesellschaft und Politik, den gesellschaftlichen Nutzen von KI einzufordern und ins Zentrum der Debatte zu stellen. Und gerade dort, wo über Menschen geurteilt wird, sei dies im besonderen Maße erforderlich. Dazu gehöre auch, Standards und Kriterien zu entwickeln, die für alle gelten. Ein wichtiger Hebel sei dabei die Forschungspolitik: Bisher spielt Nachhaltigkeit in der Förderung von KI noch kaum eine Rolle, das müsse sich ändern. KI-Expert*innen haben die Verantwortung, die Debatte über KI zu ermöglichen, in dem sie Funktionsweise und Wirkung offenlegten. Nur so kann die Gesellschaft effektiv einfordern, dass sich die Entwicklung von KI am Gemeinwohl orientiert.

Am 26. November 2019 fragt das nächste Forum Bits & Bäume: „Ökologische Digitalsteuer. Welche politischen Instrumente machen die Digitalisierung zukunftsfähig?“

//Über das Forum Bits & Bäume

Das Forum Bits & Bäume bietet über zwei Jahre einen offenen Diskussionsraum, um die nachhaltige Gestaltung der Digitalisierung stärker ins Zentrum zu rücken und wissenschaftliche und zivilgesellschaftliche Themen und Forderungen in den politischen Diskurs einzubringen. Die Veranstaltungen werden in dialogischen Formaten mit aktiven Workshop-Elementen durchgeführt, um konkrete Politikvorschläge und Gestaltungsoptionen zu erarbeiten und für die öffentliche und politische Diskussion aufzubereiten. Es wird organsiert von der Nachwuchsgruppe „Digitalisierung und sozial-ökologische Transformation“ vom Institut für ökologische Wirtschaftsforschung (IÖW) und der Technischen Universität Berlin in Kooperation mit dem Einstein Center Digital Future und weiteren Partnern.Das Projekt wird durch das Bundesministerium für Bildung und Forschung (BMBF) im Förderschwerpunkt sozial-ökologische Forschung (SÖF) gefördert.

+++++++++