«KI ist eine Blackbox»

Frau Opel, bevor Sie zu Nexplore kamen, haben Sie in der Bundesverwaltung gearbeitet. Was war dort Ihre Aufgabe?

Ich war zuerst im Staatssekretariat für Bildung, Forschung und Innovation. Dort war ich verantwortlich für die digitale Transformation. Es ging darum, die internen Prozesse im Amt zu digitalisieren und zu schauen, welche Kompetenzen die Mitarbeitenden dazu brauchen und wie man gemeinsam die Prozesse und Dienstleistungen moderner gestalten kann.

Welche Prozesse haben Sie bei der Bundesverwaltung konkret digitalisiert?

Wir hatten beispielsweise ein Projekt zur Digitalisierung der Prozesse der Vergabe von Bundes-Exzellenz-Stipendien zur Förderung des internationalen Austauschs. Wenn ausländische Studierende für ein solches Stipendium in die Schweiz kommen wollen, müssen sie zuerst einen Lebenslauf, ein Research Proposal und einen entsprechenden Antrag einreichen. Sie müssen sich anmelden und brauchen eine Empfehlung eines Professors im Heimatland sowie eine Empfehlung eines Professors in der Schweiz, damit sie überhaupt für ein Stipendium infrage kommen. Das war ein Beispiel für einen Prozess, bei dem wir uns gefragt haben: Kann man so etwas harmonisieren und vielleicht auch digitalisieren? Dies mit dem Ziel, die Abläufe effizienter zu gestalten. Dabei muss natürlich auch die Sicherheit gewährleistet sein.

Und wie sind Sie dann bei Nexplore gelandet?

Nach dem Staatssekretariat für Bildung, Forschung und Innovation arbeitete ich noch eine Zeit lang in der Bundeskanzlei im Bereich, der für die «Strategie Digitale Bundesverwaltung» verantwortlich ist. Dort war ich unter anderem für die Innovationsförderung und den Umgang mit Anforderungen und Vorgaben zur digitalen Transformation zuständig. Danach bin ich zu Nexplore gekommen. Denn ich wollte wieder näher an der Umsetzung konkreter Projekte sein, also dort, wo der Puls schlägt.

Was ist Ihre Aufgabe bei Nexplore?

Ich bin Digitalisierungsberaterin. Ich helfe unseren Kunden dabei, in diesem ganzen Wirrwarr von Themen der digitalen Transformation herauszufinden, was nun wirklich wichtig für sie ist und wie man dies angeht.

Was fasziniert Sie an diesem Thema?

Ich finde es sehr spannend, in verschiedene Firmen und Organisationen hineinschauen zu können. Wir sind sowohl in der Verwaltung als auch für KMU oder Non-Profit-Organisationen tätig. Das sind sehr unterschiedliche Kulturen, und es ist spannend zu sehen, wie diese unterschiedlich mit dem Thema umgehen. Es passiert in Sachen Digitalisierung und KI gerade sehr viel, und alle haben das Gefühl, sie müssten irgendetwas damit machen. Dadurch entsteht fast eine Art Schockstarre. Ich finde es bereichernd, wenn ich ein bisschen Orientierung schaffen kann.

Wo liegt der Unterschied zwischen einem Unternehmen und der Bundesverwaltung?

Das eine ist die Kultur. Eine Verwaltung handelt auf der Grundlage eines gesetzlichen Auftrags, ihr Handlungsspielraum ist dadurch klar abgesteckt. Ein Unternehmen hat mehr Freiheit zu experimentieren und kann Fehler schneller korrigieren. Dazu kommt die öffentliche Beobachtung: Eine Verwaltung steht stärker im Rampenlicht, ihre Entscheidungen müssen nachvollziehbar und revisionstauglich sein und ethischen Anforderungen genügen. Das gilt im Grundsatz auch für Unternehmen, und auch beim Datenschutz gelten für alle dieselben Gesetze. Aber der Druck ist in der Praxis geringer. Dadurch kann man pragmatischer vorgehen und Dinge einfacher ausprobieren.

Mit welchen Fragen kommen Unternehmen zu Ihnen?

Neben Fragen zur Orientierung bei der digitalen Transformation und zur Nutzung von KI geht es oft darum, aus der Strategie die nötigen Fähigkeiten abzuleiten, bevor man über Tools entscheidet, und KI sicher und verantwortungsvoll einzusetzen, also im Einklang mit Datenschutz und Governance. In letzter Zeit erhalten wir zudem immer mehr Anfragen zur digitalen Souveränität.

Was ist damit gemeint?

Das Thema kam ursprünglich stärker in der Verwaltung auf. Man ist der Ansicht, dass man digital souveräner und dadurch unabhängiger werden müsste. Als Schweizer Verwaltung muss man die Geschäfte auch dann weiterführen können, wenn man nicht mehr auf die Dienste ausländischer Hyperscaler zurückgreifen kann. Dafür muss man die eigene Infrastruktur im Griff haben, wissen, wo die eigenen Daten liegen und verarbeitet werden, und man muss sicherstellen können, dass kein Datenabfluss stattfindet. Wenn Daten auf den Servern eines amerikanischen Grossanbieters liegen, können US-Behörden durch den «Cloud Act» unter bestimmten Voraussetzungen Zugriff verlangen. Das möchte man natürlich vermeiden. Wie gross dieses Risiko tatsächlich ist, wird kontrovers diskutiert. Wir merken, dass dieses Thema auch für Unternehmen immer wichtiger wird, weil sie von ausländischen Grossanbietern unabhängiger werden wollen. Dabei stellt sich die Frage, wie innovativ und wie resilient ein Unternehmen sein möchte.

Warum?

Wer auf amerikanische Anbieter wie Microsoft oder OpenAI setzt, profitiert von deren grosser Innovationskraft und den enormen Investitionen, auch in die Sicherheit. Gleichzeitig begibt man sich in eine Abhängigkeit. Wer das nicht möchte, kann auf europäische Modelle setzen. Die sind aktuell oft noch weniger leistungsfähig, dafür hat man mehr Kontrolle. Es ist also eine Abwägung zwischen Innovationskraft und Unabhängigkeit.

Was gibt es sonst noch für Themen, die Unternehmen unter den Nägeln brennen?

Ein anderes grosses Thema vor allem im KMU-Bereich ist veraltete Software. Viele Unternehmen merken nun durch KI, dass sie eigentlich mehrere technologische Schritte überspringen müssten, um die Potenziale von KI wirklich nutzen zu können. Die bestehende Technologie im Haus kann teilweise gar nicht mithalten. Was man bisher im Rahmen der digitalen Transformation noch nicht angepackt hat, wird jetzt dringlicher. Viele fragen uns um Hilfe, ihre Organisation fit für KI zu machen: von der Technologie über die Daten bis zu den Kompetenzen. KI wird damit gerade zu einem Beschleuniger für das ganze Thema der digitalen Transformation und der internen Kompetenzentwicklung.

Was wollen diese Unternehmen mit KI erreichen?

Das ist extrem unterschiedlich. Ein Ziel ist natürlich immer grösstmögliche Effizienz. Aber KI nur für Effizienz einzusetzen, ist meistens zu kurz gegriffen. Viele versuchen in diesem Zusammenhang auch, ihre Geschäfts-modelle neu aufzustellen. Dies, indem sie Mehrwertdienste für ihre Kunden anbieten oder indem sie die vorhandenen Daten auf eine andere Art miteinander verbinden und dadurch neue Erkenntnisse über ihre Kunden sowie ihre Produkte gewinnen möchten. KI kann auch dazu genutzt werden, um näher an der Kundschaft zu sein und diese besser zu verstehen. Natürlich soll sie auch vieles vereinfachen. Man kann beispielsweise Daten mit KI schneller visualisieren als bisher. Wir haben einen Kunden, der uns gesagt hat, dass er mithilfe von KI sehr einfach hochwertige interaktive 3D-Modelle erstellen kann. Ich glaube aber, dass wir grundsätzlich noch in einer Pionierphase sind. Alle versuchen im Moment herauszufinden, wofür man KI wirklich nutzen kann. Effizienz ist dabei wie eine Einstiegsdroge. Wir stellen dabei einen Unterschied fest zwischen dem, was in der Geschäftsleitung oder im Verwaltungsrat passiert, und dem, was innerhalb der Organisation passiert. Die Mitarbeitenden beginnen plötzlich, eigene Programme zu bauen oder Automatisierungen einzurichten. Während die Geschäftsführung vielleicht noch über Effizienzsteigerungen, neue Kundendienste und Ähnliches nachdenkt, sitzen an der Basis Leute, die bereits eigene Anwendungen programmieren. Dabei können natürlich auch Datenabflüsse entstehen. Gleichzeitig entstehen aber auch sehr viele Innovationen. Ich glaube, dass es für Unternehmen eine grosse Herausforderung ist, diese Entwicklung in den Griff zu bekommen.

Wo sind denn die Grenzen? Was kann KI nicht?

Diese Frage ist schwierig zu beantworten, denn die Entwicklung ist rasant. Das eine sind die Grenzen der KI, das andere sind die Grenzen des Menschen im Zusammenspiel mit der KI. Es gibt die Idee des «Human in the Loop». Die KI erarbeitet etwas, kommt zu einer Entscheidung und am Ende soll ein Mensch noch sagen: «Ja, stimmt» oder «Nein, stimmt nicht». Das klingt zunächst vernünftig. Aber stellen Sie sich vor, die KI unterbreitet Ihnen in einer Stunde 60 Vorschläge und Sie müssen jeweils nur noch Ja oder Nein sagen. Eine intensive Prüfung ist aufgrund der Menge von Vorschlägen nicht mehr möglich. Doch je weiter sich der Mensch vom Prozess entfernt, desto weniger kann er am Ende auch Verantwortung für das Ergebnis übernehmen. Der Ansatz des «Human in the Loop» ist grundsätzlich sinnvoll. Aber irgendwann versteht der Mensch den Prozess nicht mehr richtig, weil er nicht mehr selbst darin involviert ist. Wir müssen darauf achten, die Kompetenz des Menschen an der richtigen Stelle einzusetzen.

Was ist für Sie der Unterschied zwischen Digitalisierung und künstlicher Intelligenz?

Digitalisierung heisst für mich zuerst, Abläufe digital abzubilden und zu automatisieren. Das muss nichts mit KI zu tun haben: Ich kann einen Prozess mit einem Workflow-Tool neu gestalten, sodass ein Formular nicht mehr per Brief, sondern online eingereicht wird und im Hintergrund automatisch Schritte auslöst. Künstliche Intelligenz ist dagegen ein Sammelbegriff für sehr unterschiedliche Systeme, und jeder versteht etwas anderes darunter. Am bekanntesten sind heute die generativen Modelle, die neue Inhalte erzeugen und mit Wahrscheinlichkeiten arbeiten. Bei klassischer Software kann man im Code nachvollziehen, was passiert. Bei KI ist das viel schwieriger: Wir können beschreiben, wie ein Modell grundsätzlich funktioniert, aber im Einzelfall oft nicht erklären, warum es zu genau diesem Ergebnis kommt. Diesbezüglich ist KI eine Blackbox.

Das hat auch etwas Bedrohliches. Birgt KI auch Gefahren für den Menschen?

Ja, ich sehe durchaus sehr viele Gefahren. Gleichzeitig sehe ich auch sehr viele Chancen darin. Eine Entwicklung, die wir bereits jetzt auf dem Arbeitsmarkt feststellen können, betrifft Juniorprofile. Junge Leute mit wenig Berufserfahrung haben teilweise plötzlich Mühe, Stellen zu bekommen, weil Unternehmen die Bereiche von Berufseinsteigenden mit KI abdecken. Das könnte uns volkswirtschaftlich irgendwann auf die Füsse fallen. Als Gesellschaft muss man sich Gedanken darüber machen, wie die nachkommenden Generationen überhaupt noch eine Chance auf dem Arbeitsmarkt haben. Wer sind die Seniors von morgen, wenn wir keine Juniors mehr einstellen?

Ist es vorstellbar, dass KI die menschliche Arbeitskraft irgendwann ablöst?

Ich bin der Meinung, dass wir uns alle mit KI beschäftigen müssen, um überhaupt weiterhin einen Job zu haben. Für jeden von uns ist es wichtig, sich mit diesen Themen auseinanderzusetzen und ein Stück weit mitzuschwimmen. Ich glaube aber auch, dass es den Menschen weiterhin brauchen wird. Ich bin überzeugt davon, dass es gut kommt. Aber damit es für jeden Einzelnen gut kommt, ist es wichtig, sich damit zu beschäftigen und sich zu überlegen: Was sind meine ureigenen Kompetenzen, wie kann ich diese einbringen und wie kann KI mich dabei unterstützen, meine Kompetenzen vielleicht sogar besser einzusetzen.