Der clevere Chatbot ChatGPT und damit der Einsatz von Künstlicher Der clevere Chatbot ChatGPT und damit der Einsatz von Künstlicher Intelligenz (KI) war eines der großen Gesprächsthemen in 2023. Auch in der Kultur- und Kreativwirtschaft sorgte die Technologie für mächtig Wirbel. KI kann helfen, (künstlerische) Inhalte wie Texte oder Grafiken schneller zu gestalten. Allerdings sind die Algorithmen nur in der Lage, Inhalte zu generieren, die den Daten ähneln, mit denen sie trainiert wurden. Ohne sorgsame Prüfung der Daten können Falschinformationen, Vorurteile und Diskriminierungen über die Technologie reproduziert werden. Stichwort: bias. Deshalb sollten Nutzerinnen auch nicht alles glauben, was schnelle Rechenmaschinen wie ChatGPT ausspucken. Die Kultur- und Kreativpilotinnen von shades&contrast und kompreno kennen genau diese Schwachstellen von KI und setzen diesen unternehmerische Lösungen entgegen, um eine informierte und gerechte digitale Zukunft zu gestalten. (KI) war eines der großen Gesprächsthemen in 2023. Auch in der Kultur- und Kreativwirtschaft sorgte die Technologie für mächtig Wirbel. KI kann helfen, (künstlerische) Inhalte wie Texte oder Grafiken schneller zu gestalten. Allerdings sind die Algorithmen nur in der Lage, Inhalte zu generieren, die den Daten ähneln, mit denen sie trainiert wurden. Ohne sorgsame Prüfung der Daten können Falschinformationen, Vorurteile und Diskriminierungen über die Technologie reproduziert werden. Stichwort: bias. Deshalb sollten Nutzer*innen auch nicht alles glauben, was schnelle Rechenmaschinen wie ChatGPT ausspucken. Die Kultur- und Kreativpilot*innen von shades&contrast und kompreno kennen genau diese Schwachstellen von KI und setzen diesen unternehmerische Lösungen entgegen, um eine informierte und gerechte digitale Zukunft zu gestalten.

Kulturkreativpilotinnen_1122-47
© Jana Margarete Schuler
shades&contrast_ZaminaAhmad_SapnaRichter4
© Sapna Richter

Auf die Daten kommt es an!

Eine Zukunft, in der KI frei von Diskriminierung ist – diese Mission verfolgt shades&contrast. Das Data Science und KI-Beratungsunternehmen aus Hamburg unterstützt Organisation bei der Entscheidung, wie und wofür Künstliche Intelligenz eingesetzt werden kann. Ihre Lösungen identifizieren nicht nur Potenziale für Automatisierung, sondern sie beugen auch diskriminierenden Verzerrungen in der Datengrundlage vor. „KI-Anwendungen sind nur so gut wie die Daten, mit denen sie trainiert werden“, weiß die shades&contrast Geschäftsführerin und Gründerin Zamina Ahmad. Insbesondere für sicherheitskritische Bereiche ist das enorm relevant. Beispielsweise bei der automatisierten Diagnose von medizinischen Bildern oder bei KI-basierten Therapieempfehlungen.

Ausgangspunkt für ihre Arbeit ist deshalb die Prüfung der Daten und die Suche nach dem sogenannten bias. „Bias im allgemeinem bezeichnet eine systematische Ungleichbehandlung. Im Kontext von KI bedeutet dies eine Verzerrung, die im Datensatz vorhanden ist und zu ungleichen Entscheidungen führt,“ so Ahmad weiter. Um dem bias entgegenzuwirken, werden kritische Daten wie Informationen über Geschlecht, Einkommensgruppe oder Herkunft von shades&contrast gezielt angepasst. Ziel ist es, eine wünschenswerte Zukunft abzubilden. Ein wichtiger Schritt, denn diskriminierende Vorurteile oder Verhaltensmuster können sich in Daten manifestieren. Im schlimmsten Fall führt das zur Reproduktion von Rassismus oder Klassismus – so geschehen bei der sogenannten Kindergeldaffäre in den Niederlanden.[1]

Um solchen Vorfällen vorzubeugen, leistet shades&contrast wichtige Aufklärungsarbeit, wie sie selbst sagen: „Der Bedarf an Aufklärung über die ethischen Aspekte und das Potenzial von KI für soziale Organisationen ist enorm hoch.“  In Kooperation mit der Bertelsmann Stiftung haben sie in einer „Tech-Exploation“ Einsatzfelder für KI im sozialen Kontext erforscht. Außerdem bieten die KI-Expert*innen ein breites Weiterbildung- und Trainingsangebot über ihre Academy an. Ahmad ist überzeugt, Daten und Wissensaustausch sind der Schlüssel für eine gerechtere digitale Zukunft: „Ich glaube daran, dass wir dadurch Ungleichheiten abbauen können für mehr Fairness und Chancengleichheit.“

kompreno_JochenAdler_privat_4
© privat

Kooperativer Journalismus gegen Fehlinformationen

Gegen KI-Verzerrung anderer Art geht das Team von kompreno vor. Verlässliche journalistische Inhalte statt Fehlinformationen ist die Devise der gleichnamigen Plattform. „Der Journalismus wird von generativer künstlicher Intelligenz gerade ordentlich durchgerüttelt. Die Branche steht ohnehin stark unter Kostendruck, daher ist die Versuchung groß, einfach mal die Maschine machen zu lassen“, weiß Jochen Adler, CEO von kompreno. Etablierte Medienhäuser lassen sich davon aber nicht unterkriegen, denn sie wissen, das Vertrauen der Leser*innen geht Hand in Hand mit sorgfältiger Faktenprüfung. „Qualitätsmedien haben klare redaktionelle Standards wie Quellenschutz oder Transparenz. Es ist immer ein „Mensch im Loop“. Das sind Werte, die bleiben müssen!“, so Adler weiter.

Genau dafür leistet kompreno einen Beitrag: Die Plattform bietet über ein kostenpflichtiges Abonnement Zugang zu Qualitätsjournalismus aus ganz Europa. Der Clou: Journalistische Texte werden mittels KI-Technologie in kürzester Zeit übersetzt und so den Nutzer*innen in Deutsch, Englisch, Französisch, Spanisch oder Italienisch zur Verfügung gestellt. Doch auch hier findet die bias-Suche statt. Nach der KI-Übersetzung überprüft ein Team von Muttersprachler*innen die Zweifelsfälle – und die gibts reichlich: Bei Queer- und Gender-Themen beispielsweise hat die KI schließlich Vorurteile und Stereotypen von uns „gelernt“, so das kompreno-Team.

Über 20 Medienpartner*innen aus ganz Europa haben sich der Plattform bereits angeschlossen, um Sprach- und Wissensbarrieren zu überwinden. Darunter Le Monde aus Frankreich, Prospect aus UK, oder DIE ZEIT und brand eins aus Deutschland. Über den Tellerrand zu schauen und andere Perspektiven wahr- und einzunehmen wird durch den digitalen Newsservice für dessen Abonnent*innen praktisch möglich – und das ist in Zeiten des aufstrebenden Nationalismus in Europa von enorm großer Bedeutung.

Künstliche Intelligenz sinnvoll und zum Wohle der Menschheit einzusetzen, zeichnet beide Unternehmen des 14. Jahrgangs der Kultur- und Kreativpilot*innen Deutschland aus. Damit stehen sie exemplarisch für viele Unternehmen der Kultur- und Kreativwirtschaft, die als mutige Vorreiter*innen die technische Transformation gestalten.

Wir probieren aus, wir zeigen, was geht – und stoßen früher als der „Rest der Welt“ auf faszinierende Lösungen, aber auch auf die besonderen Probleme und Herausforderungen, die einen achtsamen Umgang erfordern.

Jochen Adler

Erkenntnisse aus dem inotiv Trendreport [2]

Kulturelle Vielfalt durch KI fördern

Bei der Anwendung von KI in der Kreativbranche ist es wichtig, ethische Überlegungen zu berücksichtigen. Die Integration von Diversität und Inklusion in den Algorithmus Entwicklungsprozess könnte dazu beitragen, die kulturelle Vielfalt zu fördern und sicherzustellen, dass KI-Anwendungen die breite Palette menschlicher Erfahrungen angemessen repräsentieren. Es sollte unbedingt über die Risiken, insbesondere der Reproduktion von Vorurteilen, aufgeklärt und nachgedacht werden, bevor solch ein Tool ins Zentrum eines Produktes rückt. Denn Generative-Artificial-Intelligence-Produkte sind „nur“ in der Lage, Inhalte zu generieren, die den Daten ähneln, mit denen sie trainiert wurden. Mit diesen Begrenzungen zu spielen, könnte ebenso Aufgabe einer Branche sein, die immer am Puls der Zeit ist, aber nicht einfach nur dem Zeitgeist hinterherlaufen möchte.

 

[1] Vgl. https://netzpolitik.org/2021/kindergeldaffaere-niederlande-zahlen-millionenstrafe-wegen-datendiskriminierung/, aufgerufen am 26.02.2024

[2] Vgl. inotiv Trendreport 2023 (S.38), https://kultur-kreativpiloten.de/wp-content/uploads/240117-TrendReport-23.pdf

 

Text: Franziska Lindner

Fotos: Jana Margarete Schuler, Sapna Richter