Gemeinwohlorientierte KI: Wie die Wohlfahrt zur Vorreiterin werden kann

Kitaplätze mit Hilfe eines personalisierten KI-Systems vergeben - davon erzählte mir begeistert ein junger Unternehmer und frischgebackener Vater. Er hatte laut eigener Aussage bereits im Krankenhaus kurz nach der Geburt seines Kindes die technische Lösung dafür fertig erdacht und danach direkt Kontakt zu möglichen Wagniskapitalgebern aufgenommen. Was er noch nicht getan hatte, war: mit Kitaleitungen und Jugendämtern zu sprechen. Das wollte er demnächst noch nachholen, sagte er auf Nachfrage.

Dieses Telefonat hat mir wieder einmal deutlich vor Augen geführt, wie Technologie-Entwicklung in teilhabe-relevanten Bereichen unter keinen Umständen stattfinden sollte: den Blick zuerst auf Geschäftsidee und Finanzierung zu richten statt auf die Nutzer:innen der Software und deren Bedürfnisse.

Ein solches Vorgehen steht stellvertretend für die Sichtweise des "Techno-Solutionismus". Den Begriff prägte der Autor Evgeny Morozov im Jahr 2013. Damit beschreibt er die Überzeugung, dass sich komplexe soziale Probleme durch technische Werkzeuge lösen lassen - obwohl dadurch, wie Morozov eindrucksvoll belegt, die ursprünglichen Probleme eher noch größer werden.

Wirtschaftliche Gründe befördern den Einsatz von KI

Die allermeisten KI-Systeme werden von profit­-orientierten Unternehmen entwickelt und aus kommerziellen Motiven eingesetzt. Die Technologie trägt dazu bei, Werbung besser zu verkaufen, Texte schneller zu schreiben, Prozesse automatisierter durchzuführen. Selten zu finden sind hingegen KI-Anwendungen, die einen gemeinwohlorientierten Ansatz und Anwendungszweck verfolgen.

Das ist eine Kernerkenntnis aus den vergangenen zwei Jahren, in denen wir im Projekt "reframe[Tech] - Algorithmen fürs Gemeinwohl" der Bertelsmann-Stiftung nach gemeinwohlorientierten KI-Anwendungen in Deutschland recherchiert haben. Dabei haben wir nach Beispielen gesucht, die eine soziale Herausforderung adressieren und bei denen weder die Profitmaximierung noch die Effizienzsteigerung im Vordergrund stehen. Gleichzeitig sollten die negativen Auswirkungen von KI-Einsätzen, etwa auf die Umwelt oder die gesellschaftliche Teilhabe, möglichst klein gehalten werden und Transparenz sowie die Beteiligung von Betroffenengruppen eine möglichst große Rolle spielen. Dabei konnten wir einige Anwendungen an der Schnittstelle von öffentlicher Verwaltung und Wissenschaft ausfindig machen. Doch die meisten kamen über das Sta­dium der bloßen Idee nicht hinaus und landeten auf einem "Friedhof der gescheiterten Projekte", bevor sie in eine nachhaltige Anwendung überführt werden konnten.

Auch in der Wohlfahrt sind in den vergangen Jahren und Monaten mehr und mehr Initiativen rund um das Thema KI gestartet worden. So zeigt das Projekt "Lernende Systeme in der Beratung" des Deutschen Caritasverbandes, wie KI bei der Sozialberatung unterstützen kann. Spannende Ansätze sind auch bei der Digital Product School in München zu finden, die unter anderem das DRK-Projekt "112 - KI rettet Leben" drei Monate lang mit einem interdisziplinären Projektteam mit KI-Expertise unterstützt hat. In der Zeit wurde ein Prototyp entwickelt, um Notfallpatient:innen schneller aufzufinden.

KIfür die Wohlfahrt nutzen

In den zurückliegenden Monaten hat sich auch unser Projektteam intensiv damit beschäftigt, wie die freie Wohlfahrtspflege die Potenziale von Künstlicher Intelligenz für ihre Arbeit nutzen kann. Angebotsvielfalt und Anspruchsdichte gepaart mit einem drängenden Fachkräftemangel schreien geradezu danach, digitale Assistenzsysteme für die eigenen Mitarbeitenden sowie für die Klient:innen zu nutzen. Um herauszufinden, wie das konkret gelingen kann, haben wir eine sogenannte "Tech-Exploration" durchgeführt. Dabei brachten zwischen Mai und Juni 2023 acht Expert:innen ihr Wissen über digitale Produktentwicklung in vier ­Organisationen der freien Wohlfahrtspflege ein. Gemeinsam mit den Mitarbeitenden identifizierten sie alltägliche Herausforderungen und passende Anwendungsideen für KI in unterschiedlichen Arbeitsbereichen.

Die Beispiele umfassen ein breites Themenspektrum: Menschen mit Behinderungen bestmögliche Jobangebote vorschlagen, anhand von Klient:innen-Daten bessere Therapie-Angebote für Suchterkrankte ermitteln oder durch automatisiertes Erkennen von Belegen den bürokratischen Aufwand von Pädagog:innen reduzieren. In einer neuen Publikation stellen wir diese Ideen und das Konzept der Tech-Exploration ausführlich vor.¹ Mit Hilfe der darin zusammengetragenen Informationen können gemeinnützige Organisationen selbstständig relevante An­wendungsideen in ihren Arbeitsfeldern er­arbeiten.

Voraussetzungen für eine Vorreiterrolle bei KI

In der Tech-Exploration hat sich auch gezeigt, dass die Wohlfahrt das Potenzial besitzt, eine Vorreiterrolle für den gemeinwohlorientierten KI-Einsatz einzunehmen. Denn der Wille und Wunsch, die Bedarfe der Nutzer:innen und Klient:innen in den Mittelpunkt zu stellen, bildeten den Ausgangspunkt für alle technologischen Überlegungen. Diese Grundlage ist eine zentrale Voraussetzung dafür, dass KI-Systeme bedarfsorientiert für verschiedene gesellschaftliche, insbesondere vulnerable Gruppen entwickelt und eingesetzt werden. Zumal den Organisationen, die außerhalb der Wohlfahrt digitale Produkte entwickeln, oftmals Zugang und manchmal Anspruch fehlen. Was es braucht, damit die Wohlfahrt diese Potenziale für sich nutzen kann, ist dreierlei:

Neue Sprachen entdecken: "Design Thinking", "Sprints" und "Agilität" auf der einen Seite, "Sozial­gesetzbücher", "Leistungserbringer" und "Spitzenverbände" auf der anderen. Schon bei der Auftaktveranstaltung zur Tech-Exploration wurde offenkundig, dass sich mit den Digital-Expert:innen und der Wohlfahrt zwei Sprach- und damit auch Mentalitätswelten gegenüberstehen. Dass sie sich auf Augenhöhe und mit gegenseitiger Neugier annähern, ist eine entscheidende Voraussetzung dafür, dass der gemeinsame Weg zu neuen technischen Lösungen gelingt.

Eigene Strukturen hinterfragen: Die meisten digitale Produkte werden besser, wenn mehr Menschen sie nutzen. Wir kennen das alle von sozialen Plattformen, die attraktiver werden, je mehr "Freund:innen" dort aktiv sind. Dementsprechend sollte nicht jeder Ortsverein ein neues digitales Produkt für sich schaffen, sondern davon profitieren, wenn ein digitales Produkt flächendeckend zum Einsatz kommt. Dies stellt auch hinsichtlich des Fachkräftemangels eine bedeutende Entlastung dar, denn so lässt sich der Arbeitsaufwand langfristig reduzieren. Um diese Netzwerkeffekte wirklich zu nutzen, müssen aber auch verbandsübergreifende Koopera­tionen realisiert werden.

Für Finanzierung einsetzen: Um digitale Produkte zu entwickeln und zu bauen, muss jemand in finanzielle Vorleistung gehen. Die Kosten, um Software zu programmieren, sind insbesondere durch die Personalkosten der Entwickler:innen hoch. Gleichzeitig müssen diese eng von Mitarbeitenden aus den jeweiligen Arbeitsfeldern begleitet werden, damit sich die Gestaltung der Produkte am Praxisbedarf orientiert. Wohlfahrtsorganisationen verfügen oftmals weder über überschüssiges Geld noch Personal. Schlimmer noch: Die aktuellen Haushaltsplanungen der Bundesregierung setzen bei Digitalisierungsprogrammen für die Wohlfahrt den Rotstift an. Daher braucht es lautstarke Appelle an die politisch Verantwortlichen, sich für die Zukunftssicherung der Wohlfahrt und der sozialen Daseinsvorsorge starkzumachen.

Es schlummern so viele Potenziale für den gemeinwohlorientierten Einsatz von KI in der Wohlfahrt. Aufgrund der schwierigen Finanzierungssituation und der Überlastung vieler Strukturen braucht es eine gemeinsame Kraftanstrengung von den Wohlfahrtsorganisationen selbst, den Finanzierungspartner:innen und auch von zivilgesellschaftlichen Akteur:innen. Aufgrund von Überlastung auf diese zukunftsweisenden Technologien zu verzichten wäre für die Klient:innen, die Wohlfahrtsorganisationen und auch für die Gesellschaft als Ganzes die schlechteste Wahl.

Anmerkungen

1. Staiger, T.; Gundlach, J: Vom Problem zur Anwendungsidee: Wie Künstliche Intelligenz gemeinwohlorientierte Organisationen unterstützen kann - reframe[Tech]. www.reframetech.de Direktlink