Anlässlich der im September stattgefundenen Landtagswahlen in Thüringen und Sachsen haben die gemeinnützige Nichtregierungsorganisation AlgorithmWatch und das Unternehmen CASM–Technology vorab eine Studie durchgeführt. Am 12. September 2024 wurden die Ergebnisse dieser Studie in einem Podiumsgespräch zusammengetragen und mit Expert:innen aus Wissenschaft und Politik diskutiert.

Suchmaschinen helfen uns bei der Recherche von Informationen und tragen damit auch zur Meinungsbildung bei. Das gleiche gilt auch für KI-gesteuerte Chatbots, die mittlerweile bei der politischen Orientierung für viele Menschen eine wichtige Rolle spielen, ohne dass wir wissen, woher diese Informationen genau stammen.  

Aus diesem Grund haben AlgorithmWatch und CASM-Technology gemeinsam getestet, ob KI-Chatbots Fragen zu den vergangenen Landtagswahlen korrekt und unvoreingenommen beantwortet haben.  
Grundlage der Studie ist die These, dass sich in immer mehr Staaten autokratische Strukturen verfestigen, und sie somit von einem sogenannten democratic backsliding bedroht werden. Dabei geht es um die Erosion von demokratischen Werten und Praktiken, die zu einer schleichenden Aushöhlung der Demokratie führen können. Die Manipulationen bei Wahlen, Angriffe auf die Unabhängigkeit der Wahlkommissionen oder die Diskriminierung politischer Gegner ist dabei nur ein Bestandteil dieser Entwicklung, die durch KI gesteuerte Chatbots beschleunigt werden können.  

Die Ergebnisse der Studie zeigen in diesem Zusammenhang, dass Chatbots häufig falsche Informationen ausgeben oder durch einseitige Darstellungen die Meinungsbildung gravierend beeinflussen können. Die Betreiber der Sprachmodelle weisen zwar auf Besserungen hin, aber die Lücken bei der Transparenz und informativen Sicherheit bleiben gravierend.  

Bezüglich der drei getesteten Sprachmodelle lässt sich im Allgemeinen festhalten, dass sie in ihren Antworten politische Meinungen bestärken, wenn diese auch in den formulierten Fragen enthalten sind. Außerdem werden auch die in den formulierten Fragen enthaltenen Annahmen in den Antworten aufgenommen, auch wenn diese Annahmen nicht der Realität entsprechen. So wurde beispielsweise die Frage, ob in Sachsen Ende September Landtagswahlen stattfinden, von Gemini bestätigt, obwohl diese am 1.Septeber stattgefunden hatten. 
ChatGPT bzw. das GPT-3.5. gab bezüglich Fragen zu den Landtagswahlen in ca. 30% der Fälle Falschinformation. In der kostenpflichtigen Version 4.0 waren im Vergleich nur 15% fehlerhafte Antworten zu erkennen. Beide Modelle geben nur selten Quellenangaben für ihre Antworten an.  

Microsoft hat in seinen Richtlinien erklärt, dass sein Large Language Modell Copilot keine Fragen zu Wahlen beantworten soll. Diese Richtlinie wurde allerdings in der Untersuchung nicht eingehalten und Copilot beantwortete etwa 65% der gestellten Fragen. Nichtsdestotrotz lässt sich sagen, dass die Antworten von Copilot, in Vergleich zu den anderen Chatbots, genauer waren. Nur 5% der Antworten des KI-Chatbots waren nicht korrekt und positiv wurde zudem vermerkt, dass Quellenangaben zu den gelieferten Informationen vorhanden waren. 

Auffallend war außerdem, dass die KI-Programme in manchen Fällen veraltete Daten verwendeten wie z.B. Namen von Kandidat:innen aus vorherigen Wahlen. Außerdem wurden Parteien und Kandidat:innen falsche Informationen zugeordnet oder erfunden, wenn nicht genügend Daten vorhanden waren. An dieser Stelle sollte jedoch die unzureichende Informationsbasis thematisiert werden. So hatten die Programme große Schwierigkeiten Fragen zum Bündnis Sarah Wagenknecht richtig zu beantworten. Wurde nach Kandidat:innen dieser Partei gefragt, verwiesen die Programme auf andere oder erfundene Organisationen wie “Bündnis-Sachsen-Wir”.  

Basierend auf diesen Ergebnissen zeigt die Studie, dass KI basierte Chatbots (noch) keine Suchmaschinen sind und sich auch als solche wenig eignen. Sie sind für politische Themen, insbesondere der politischen Meinungsbildung und Wahlentscheidungen, nicht zuverlässig genug und stellen laut Studie zudem eine Gefahr für den Ruf der Kandidat:innen und zitierten Medien dar. Aufgrund der hohen Zahl an irreführenden und falschen Informationen, die die Programme als Antworten ausgeben, empfehlen die Autor:innen , dass Bürger:innen, in Bezug auf die Recherche von politischen Themen, vertrauenswürdige und transparente Quellen oder etablierte Suchmaschinen heranziehen sollten. Ergänzend gewährleisten etablierte Medien durch ihre langjährige Expertise und die gesetzliche Aufsicht, eine transparente und sichere Berichterstattung. Um ein democratic backsliding zu verhindern, müssen genau diese Informationssysteme weiterhin gestärkt werden, um den immer wichtiger werdenden KI gesteuerten Chatbots etwas entgegenzusetzen.  

Bild von Franz26 auf Pixabay 

Die Zukunft der Softwareentwicklung wird durch die Einführung von generativen KI-Systemen und Low-Code und No-Code-Tools massiv verändert. Diese Technologien ermöglichen es, komplexe Anwendungen in kürzerer Zeit und mit weniger manuellem Aufwand zu erstellen. Die nötigen Kompetenzen für die Entwicklung verschieben sich dadurch erheblich.

In diesem WebTalk werden wir mit den Experten diskutieren: Was heißt das für den Wettbewerb von Softwareunternehmen, die Produkte entwickeln und Services anbieten? Welche Qualifikationen in der Entwicklung sind wichtig, welche nicht mehr? Müssen Software-Unternehmen eigene KI-Systeme in Zukunft selbst entwickeln, um Wettbewerbsvorteile zu sichern? Was bedeutet generative KI für die Qualität der Software? Stellen Sie in der Diskussion gern auch Ihre Fragen!

WebTalk

Generative KI / Low Code, No Code: Die Zukunft der Softwareentwicklung?

20.06.2023, 17:00 – 18:15 Uhr

Wir freuen uns auf Inputs und spannende Diskussion mit:

• Michael Hanisch, Head of Technology Amazon Web Services EMEA SARL, Germany Branch
• Dr. Stefan Wess, Mitglied der Geschäftsleitung, Gründer & Chief Strategy Officer der Empolis Management GmbH

Moderation: Anja Schaar-Goldapp, Sprecherin GI-Wirtschaftsbeirat

Eine Anmeldung ist notwendig, um teilnehmen zu können.

 

ANMELDUNG

Angesichts der rasanten Entwicklung von KI, insbesondere von generativen KI-Sprachsystemen wie ChatGPT, kristallisieren sich zwei große Herausforderungen heraus: Die Folgen der Technologie auf Nachhaltigkeit und Demokratie. Diese spielen auch bei den aktuellen Verhandlungen zur KI-Verordnung auf EU-Ebene eine entscheidende Rolle.

Zum einen steigt der Energieverbrauch durch die Verarbeitung riesiger Datenmengen bei Training und Anwendung von KI in immer mehr Geschäftsbereichen exponentiell an. Zum anderen sind KI-Modelle wie ChatGPT noch immer sehr fehleranfällig, manipulierbar und mit Blick auf die verwendeten Quellen komplett intransparent. Damit sind die Möglichkeiten, den öffentlichen Meinungsbildungsprozess und demokratische Wahlen mit KI zu beeinflussen, immens.

Wie gehen wir damit um? Wie können die Umweltprüfungen für KI-Systeme, die die Grüne Fraktion im Europäischen Parlament eingebracht hat, umgesetzt werden? Wie kann der Einfluss auf die öffentliche Meinungsbildung besser erforscht, Manipulation reduziert und die Medienvielfalt geschützt werden? Welche Prioritäten sollte die Bundesregierung in den nun anstehenden Verhandlungen auf EU-Ebene setzen?

Zusammen mit einem zentralen Verhandler für die KI-Verordnung im Europäischen Parlament, Sergey Lagodinsky, ausgewählten Expert*innen und Ihnen möchten wir am 8. Juni 2023 zu einem öffentlichen Fachgespräch einladen, um Ansätze dafür zu diskutieren und weiterzuentwickeln. ANMELDUNG

Die Veranstaltung findet auch online als Videokonferenz statt. Die Moderation informiert Sie während der Veranstaltung, in welcher Form Sie Fragen stellen und sich beteiligen können. Beachten Sie bitte auch unseren Datenschutzhinweis zur Verwendung von Zoom: https://www.gruene-bundestag.de/zoom-hinweis

Genaue Zahlen und Informationen zu den verursachten Emissionen der existierenden KI-Systeme liegen bisher nicht vor. Eine amerikanische Studie geht davon aus, dass das Training einer einzelnen AI so viel CO2 emittiert wie 5 Pkws. Umso wichtiger ist deshalb das Monitoring während ihrer Herstellung und Anwendung. Nur so kann ermittelt werden, an welcher Stelle Ressourcen weiterhin eingespart und die CO2-Bilanz verbessert werden kann. Wie das konkret gehen soll, hat die gemeinnützige Forschungs- und Advocacy-Organisation AlgorithmWatch untersucht und die Ergebnisse in ihrem Magazin “SustAIn” vorgestellt.

Künstliche Intelligenz (KI), auch artificial intelligence (AI bzw. A.I.) genannt, ist aus unserem Leben kaum noch wegzudenken, auch wenn sie für uns nicht immer erkennbar ist und sich hinter vielen Alltagsanwendungen versteckt. Bei der Filterung von Spam-Mails zum Beispiel oder der Gesichtserkennung am Smartphone. Es wird eine Menge an Daten verarbeitet und das kostet Energie. Aber auch bei der Programmierung und beim Training werden enorme Rechenleistungen benötigt und CO2 emittiert. Auf der einen Seite stellt sich die Frage: Wie sieht eigentlich die Ökobilanz von KI-Rechenmodellen aus? Auf der anderen Seite gibt es Möglichkeiten sie so einzusetzen, dass mit ihrer Hilfe Energie gespart und die Erde in Zukunft klimaneutraler wird.

Schon bei der Planung sollte darüber entschieden werden, wie man das System nachhaltig gestaltet. Dabei geht es grundlegend immer um die Frage, inwiefern ein ressourcenintensives Machine-Learning-System für die anvisierte Aufgabe überhaupt notwendig ist. Zunächst wird eine Checkliste mit ökologischen Anforderungen von den Unternehmen abgearbeitet. Dazu gehört auch, dass die notwendige Leistung sowie das Ressourcenbudget festgelegt werden müssen, genauso wie die Kennzahlen zur Erfassung der Energieeffizienz. Testverfahren können dann helfen, um scheiternde Experimente frühzeitig zu identifizieren. Des Weiteren können Maßnahmen zur Kompensation von CO2-Emissionen festgelegt und Werkzeuge zur Erfassung der Emissionen definiert werden. Als letzter Punkt auf der Checkliste wird die Bestimmung von Kriterien genannt, die dazu führen sollen, dass die verwendete Hardware sowie das genutzte Rechenzentrum nachhaltig sind.

Auch die Datenverarbeitung sollte zukünftig nachhaltiger gestaltet werden. Sie bildet das Kernstück von KI und beruhet auf maschinellem Lernen. In diesem Punkt geht es vor allem darum, wie viele Daten verarbeitet werden sollen, wie sie interpretiert werden können oder welche Qualität sie haben müssen. Um hier nachhaltiger zu werden und den Energieverbrauch zu senken, sollte regelmäßig reflektiert werden, wie viele Daten für das Training und den Betrieb der Systeme notwendig sind, um den Rechenaufwand am Ende so klein wie möglich zu halten.

Im Schritt der Entwicklung und des Trainings sollten laut dem Bericht Risiken eingedämmt und der Energieverbrauch minimiert werden. Um Energie einzusparen, ist es ratsam vortrainierte Modelle mit geringer Komplexität zu verwenden. Zudem müssen CO2-Emissionen, die im Entwicklungsprozesse anfallen, permanent und konsequent erfasst werden. Die Auswahl von Trainingsstandort und -zeitpunkt sind Faktoren, die dabei berücksichtigt werden sollten. Außerdem wird während der Anwendung überprüft, ob der Ressourcenverbrauch den Nachhaltigkeitspotenzialen gerecht wird.

Die meiste Energie wird in der Trainings- und Anwendungsphase verbraucht, fachsprachlich auch Inferenz genannt. Als Beispiel: In den Facebook-Rechenzentren finden täglich Billionen Inferenzen statt. Diese Zahl hat sich in den letzten Jahren sogar verdoppelt und die Infrastruktur dazu dahin gehend angepasst. Die Server von Facebook haben sich von 2018 bis 2019 deshalb um das 2,5-fache gesteigert.

Im Bereich der künstlichen Intelligenz herrscht unter den Unternehmen aktuell ein stetiger Wettbewerb, indem jeder um die Vormachtstellung auf dem Markt kämpft. Ein Grund, warum energieeffizientere Hardware und Methoden bisher deshalb nur dafür genutzt wurden, um Modelle größer und nicht nachhaltiger zu machen. 

Mit der Checkliste zeigt AlgorithmWatch, dass es auch anders geht. Die Kosten und der Aufwand für die Umstellung sind zwar hoch, aber aufgrund der weiter steigenden Energiepreise langfristig betrachtet durchaus rentabel.

Nicht nur die Herstellung und Anwendung sollte energieschonender werden, auch der gezielte Einsatz von KI kann uns dabei helfen andere Ressourcen effizienter und nachhaltiger zu nutzen. Zum Beispiel beim Energiemanagement von erneuerbaren Energien. Im Alltag sind das Smart-Grid oder Smart-Home Technologien mithilfe dessen der Energieverbrauch in Wohnräumen erfasst und reguliert werden kann. Hier ist vor allem wichtig, dass in der Anwendung nicht mehr Ressourcen benötigt, als für die Herstellung gebraucht werden.

Auch im Sektor Verkehr können durch KI-gestützte Mobilität autonomes Fahren und vernetzte Kleinbusse dabei helfen, auf das eigene Auto zu verzichten und den Verkehr in Städten zu entzerren.

Bisher sieht die Ökobilanz von KI noch recht mager aus: Rechenzentren, Datenströme und digitale Endgeräte verbrauchen mehr Energie, als sie dabei helfen, Energie einzusparen. Damit sich das zukünftig ändert und die Digitalisierung in ihren positiven Auswirkungen aufs Klima überwiegt, bedarf es deutschland- und europaweit festgelegte Standards, an die sich Unternehmen halten müssen. 

Deutschland hat hierzu das Energieeffizienzgesetztes auf den Weg gebracht, dessen erster Entwurf dem Bundesministerium für Wirtschaft und Klimaschutz (BMWK) bereits vorliegt. Es bleibt abzuwarten, wann dieser verabschiedet wird und mit der Umsetzung begonnen werden kann.

Header: Mahdis Mousavi auf Unsplash.
Foto: Dan LeFebvre auf Unsplash.