Böse Künstliche Intelligenz - Wie man (mit) KI hackt, umprogrammiert und sabotiert
06-16, 16:45–17:45 (Europe/Berlin), K7 (Casino)
Language: Deutsch

Die Welt hat sich durch die neueste KI-Generation, die seit 2022 auf dem Vormarsch ist, erheblich verändert: Falsche Bilder werden durch wenige, gezielt gewählte Worte erzeugt. Laien werden zu "Hacker" durch einfache Sätze, während mit dem gleichen System auch perfide inhaltliche Manipulationen mit minimalem Aufwand vorgenommen werden können.

Es werden - ohne jegliche Vorkenntnisse des Publikums vorauszusetzen - die Probleme und Auswirkungen der neuen KI beleuchtet. Dabei wird gezeigt, wie unkompliziert dies ist, weil wirklich jeder dazu in der Lage ist: Die richtigen Worte sind alles, was dafür benötigt wird.

Anhand konkreter Beispiele werden die Herausforderungen dargestellt: Die dunkle Seite von KI lässt sich nicht (einfach) zensieren. Was, wenn eine an sich legale Wortfolge ausreicht, um strafbare oder illegale Inhalte zu erzeugen: Wie sollte man auf dieses Problem reagieren? Die Wortfolgen verbieten? Oder die KI? Vielleicht lieber alle Nutzenden Echtzeitüberwachen?

Beleuchtet werden auch die Grauzonen: Wie KI genutzt werden kann, um Inhalte zielgruppengerecht aufzubereiten - insbesondere, wenn die Zielgruppe sich am rechten Rand befindet, besonders hohe Verbreitungsraten aufweist (wie zum Beispiel Verschwörungstheoretiker) oder wenn man Menschen, Ideen & Gruppen durch gezielte Fälschung diskreditieren möchte.

Zuletzt wird auf inhaltliche Fallstricke eingegangen: Textbasierte KI-Systeme stellen aktuell eine Form von "Intelligenz ohne Weisheit" dar. Sie internalisieren Vorurteile, Stereotypen und Verzerrungen, die Teil des Materials sind, aus dem sie erschaffen wurden: dem Internet. Und dort, wo die künstliche Intelligenz keine Kenntnisse besitzt, generiert sie dennoch Inhalte mit erfundenen Fakten...

Wenn das nicht reicht, kann man ja auch mal generell Fragen: Sollten KIs, die mit den Texten von Journalist:innen und den Bildern von Fotograf:innen trainiert wurden, nicht diesen "gehören" bzw wie sollten diese dafür entlohnt werden? (Immerhin wurde das auch bei Fotokopierern, CDs und Sticks so gehandhabt). Welche Abhängigkeiten ergeben sich in Zukunft für Medienschaffende und Unternehmen, die auf KI setzen?

See also: Alter Programmtext (1.6 KB)

Sebastian Mondial ist Datenjournalist der ersten Stunde, IT-Sachkundig seit den 90ern. Hat u.a. für dpa, dpa Medialab, NDR, ZEIT, WDR, DW uvm. gearbeitet. Er ist langjähriger Medien-Trainer und Hochschul-Dozent. Aus seinen Arbeitsbereichen Daten, Forensik und investigativer Journalismus ist jetzt der neue Schwerpunkt KI-Journalismus entstanden: Dieser reicht von der Vermittlung der KI-Grundlagen über das Training der KI-Nutzung in Medien bis zur der experimentellen Nutzung von lokaler KI für Datenjournalistische und investigative Zwecke.

This speaker also appears in:

Elisa Harlan ist Datenjournalistin und Reporterin beim Bayerischen Rundfunk in der Redaktion BR Recherche/BR Data. Sie ist Absolventin der Deutschen Journalistenschule und studierte in den USA an der Columbia University Datenjournalismus. Sie war als Fellow beim Recherchenetzwerk Correctiv, wo sie unter anderem am Projekt "Wem gehört Hamburg?" mitarbeitete. Sie gehört zu den Top 30 unter 30-Journalist*innen 2019, ausgezeichnet durch das Mediummagazin. Ihre Arbeit wurde mit dem Grimme-Online-Award und dem 2. Lokaljournalistenpreis der Konrad-Adenauer-Stiftung prämiert.

This speaker also appears in: