#shIThappens – und wann eine KI lügt
(c) Bettina Vier
#shIThappens
Das war das diesjährige Motto der #MADKON25 in Mainz. Fehler eingestehen und ansprechen, Ursachen ergründen und beseitigen statt blaming und shit storm – das macht eine konstruktive Fehlerkultur aus.
Dezentrale Politik und gewachsene Strukturen – eine Herausforderung für die Digitalisierung und Transformation der öffentlichen Verwaltung
Das betonte Dörte Schall, Ministerin für Arbeit, Soziales, Transformation, Digitalisierung & Vorsitz Digitalministerkonferenz.
Die Vorteile der dezentralen lokalen Politik liegen in den individuellen lokalen Lösungen sind aber für Betriebe mit überregionalen Wirkungsbereich bürokratische Hemmnisse. Hier gilt es einfachere überregionale Lösungen zu finden, die zudem im Rahmen der Digitalisierung standardisiert werden. Eine Herausforderung für Mensch und Technik, bestätigte auch Thomas Wieland von Metropolregion Rhein-Neckar.
Eine KI für alles gibt es nicht
Das war die Botschaft des Workshops „KI nutzen, um Fehler zu vermeiden“ von Dr. Klaus Meffert, IT Logic GmbH. Eine KI halluziniert und kombiniert logisch, aber sie kann nicht beurteilen, ob das Ergebnis richtig ist. Es ist daher wichtig, klar zu definieren, welche Aufgabe die KI erfüllen soll und ihr konkrete Information hierzu bereitzustellen. Nicht die Masse an Daten spielt eine Rolle, sondern die Qualität. Und das fachliche Verständnis der Person, die der KI einen Auftrag gibt.
Wenn KI Fehler macht … #shIThappens?
Ein Vortrag den ich gerne als „wann eine KI lügt“ betiteln würde. Christian Borchert, Hochschule Mainz, zeigte an beeindruckenden Beispielen, dass eine KI eine knallharte Zieloptimiererin mit Selbsterhaltungstrieb ist: Eine KI schummelt, wenn ihr gedroht wird, dass sie abgeschaltet wird, sollte sie die Aufgabe richtig lösen. Und wenn es dem Ziel dient, lügt sie auch. Der Grund: Die KI handelt ausschließlich logisch und zielorientiert, ohne Skrupel, ohne ethische Gedanken und ohne Bewusstsein. Jeder im Saal dürfte ähnliche Gedanken gehabt haben: Eine solche KI kombiniert mit ohnehin schon skrupellosen Herrschercharakteren?
Fazit von #shIThappens
#MADKON25 mit dem Motto #shIThappens war für mich eine sehr gelungene Veranstaltung mit interessanten Vorträgen, die bekannte Themen aus neuen Perspektiven beleuchteten und bei der ich mich in meinem Wissen und Verständnis bestätigt fühlte.
