Stellen wir diesen digitalen Assistenten nicht oft einfach die falschen Fragen?

KOEHLER: Vieles ist tatsächlich Spielerei, so wie der Kühlschrank, der selbstständig Lebensmittel bestellt. Aber denken wir an den Einsatz Künstlicher Intelligenz in der Radiologie zur Verbesserung von medizinischen Bildern oder die Optimierung von Verkehrsflüssen. Da sind gewaltige Fortschritte zu beobachten.

ZIESEMER: Die gesamte Digitalisierung hat wichtigere Ziele, als den Einsatz von Werbung zu optimieren. Produktivität und Klimaschutz zum Beispiel. Und vieles, was da vielleicht kommen mag, kennen wir noch gar nicht. Durch Brillen und Hörgeräte optimieren wir seit langem unsere physische Unzulänglichkeit, durch Antriebe und Hydraulik verstärken wir unsere Kraft. Warum sollten wir nicht auch – solange der Werkzeugcharakter erhalten bleibt – unsere kognitiven Fähigkeiten verbessern? Wichtig ist, dass der Mensch weiter die Verantwortung für seine Entscheidungen trägt.

Viele KI-Verfahren erlauben es allerdings nicht nachzuvollziehen, wie bestimmte Entscheidungsvorschläge zustande kommen.

KOEHLER: Lernende Systeme entdecken komplexe statistische Zusammenhänge, was aber nicht notwendig Kausalitäten spiegelt. Das ist ein großes Thema für die Forschung, aber durchaus lösbar. Mustererkennung basiert auf der statistischen Auswertung hochdimensionaler Daten. Hochdimensional bedeutet: im Millionenbereich. So treffen Menschen keine Entscheidungen. Also brauchen wir Abstraktionsschichten, ähnlich denen, mit denen Menschen die Vielzahl vorliegender Informationen sehr schnell filtern. Das technisch zu lösen, ist eine große Herausforderung. In meiner Forschung beschäftige ich mich nicht nur mit Vorhersage und Entscheidung, sondern auch mit Aktion. Denn auf die Aktion kommt es am Ende an, vor allem wenn es um mehr als das Einblenden von Werbung geht.

ZIESEMER: Gleichzeitig ist das Potenzial in anderen Anwendungen sehr viel höher. So wäre die Energieeinsparung enorm, wenn wir Wettervorhersage und Heizung und Belüftung unserer Gebäude verknüpfen. Heutige Regelungen basieren auf dem Ist-Zustand, das führt permanent zu Überschwingern. Ich will aber noch einmal auf die Transparenz zurückkommen. Denn auch ein statistischer Zusammenhang kann beschrieben werden. Und er muss beschrieben werden, sonst bekommen wir die Akzeptanz für KI-Technologien nicht.

KOEHLER: Ich würde da differenzieren. Lernverfahren führen ja erst einmal zu Prognosen. Erst danach werden Entscheidungen getroffen. Das sind unterschiedliche Methoden mit unterschiedlicher Transparenz. Entscheidungsmodelle können durchaus transparent gestaltet werden. Für mich hat das auch ein wenig mit Vertrauen zu tun. Wenn ich nur an mein Auto denke: Ich habe keine Ahnung, wie die Bremsen funktionieren, aber sie tun es. Nach 70 Jahren Forschung kommt Künstliche Intelligenz jetzt in breite Anwendungen, da haben wir dieses Vertrauen noch nicht.

ZIESEMER: Transparenz ist aber – neben einem entsprechenden Nutzen –die Voraussetzung für Vertrauen. Das kann nicht nur eine Frage der Wissenschaft sein, sondern hängt auch von der Kommunikation der Industrie ab. Wir müssen darauf achten, die Zivilgesellschaft mitzunehmen.

KOEHLER:  Das kann ich nur unterstreichen. Nicht zuletzt hängt das Vertrauen auch am Geschäftsmodell. Gerade im Internetbereich haben wir in den letzten Jahren viele Lösungen gesehen, die Menschen zu Recht beunruhigen. Etwa Geschäftsmodelle, die scheinbar auf Gratisdienstleistungen, in Wirklichkeit aber auf der unkontrollierten Verwendung der Nutzerdaten beruhen.