Der Computer greift nach dem Chefposten

Die Künstliche Intelligenz dürfte in den nächsten Jahren viele Jobs ersetzen. Stellen wir uns einmal vor, auch der CEO bekäme Konkurrenz, weil der Firmencomputer ihre Entscheidungen anzweifelt.

Nach zwei Debatten mit Bürgerinnen und Bürgern haben die ZukunftsReporter dieses Szenario überarbeitet. Die neue Version heißt „Kollege Computer packt an“.

Von seiner Haustür aus blickt José Roberto da Silva Schäfer in die Rheinebene bis Mannheim. Wenn er morgens sein Haus am Hang des Odenwalds verlässt, gönnt er sich immer einen Moment für die oft etwas diesige Aussicht. Doch jetzt, zur Mittagszeit, brennt die Sonne vom Himmel und er beeilt sich, in das fahrerlose Firmentaxi zu steigen, das am Straßenrand auf ihn wartet. Es ist klimatisiert, sogar ein wenig zu kühl für sein Empfinden. Er blickt noch einmal zum Haus zurück, aber seine kleine Tochter spielt mit dem Haushälter in den Kellerräumen und winkt nicht durchs Fenster. Es hätte ein ruhiger Tag im Home office werden können, denkt da Silva. Doch vor ein paar Minuten ist ohne Vorwarnung eine Vorstandssitzung einberufen worden. Er öffnet einen sicheren Sprachkanal in die Zentrale. „José hier“, begrüßt er seine Kollegen.

„Helenes Analyse bleibt also rätselhaft und ich muss zugeben, dass ich ratlos bin“, hört Schäfer seine Chefin sagen. „Ich würde ihre Logik gerne verstehen, wenn wir unsere Strategie danach ausrichten sollen.“ Und nach einer kurzen Pause fügt sie leise hinzu, als spreche sie nur zu sich selbst: „Auch damit ich es unseren Investoren erklären kann.“ Der Computer, den alle in der Firma Helene nennen, hatte empfohlen, die verschluckbare Magensonde Helico, vom Markt zu nehmen – ausgerechnet, nachdem sie durch den Selbstversuch eines Restaurantkritikers bekannt geworden war. Der Journalist hatte einen Mordanschlag aufgeklärt, indem er sich selbst der Gefahr einer Vergiftung aussetzte, sie aber dank Helico rechtzeitig erkannte. Die Nachfrage war binnen weniger Tage explodiert.

Ein Vorstandskollege erinnert daran, dass auch frühere Ratschläge des Computers nicht rekonstruiert werden konnten. „Möglicherweise werden wir die Empfehlung nicht nachvollziehen können, weil das System zu komplex ist“, sagt er. Helene schlägt zum Beispiel regelmäßig vor, bestimmte Maschinen in der Fabrikhalle auszutauschen, obwohl sie noch funktionieren. Manchmal entdecken die Ingenieure dann Anzeichen von Verschleiß und freuen sich über die rechtzeitige Warnung. Manchmal folgen sie aber einfach dem Rat, ohne die Gründe dafür zu verstehen. Dem Management hat das bisher nichts ausgemacht, denn die Fabrik läuft seit drei Jahren ohne größere Zwischenfälle.

„Wir sollten in jedem Fall sicherstellen, dass Helene nicht von außen manipuliert worden ist“, fordert die Chefin. Daraufhin schaltet sich Schäfer ein: „Um das Netz mit falschem Input auszutricksen, muss man es ziemlich gut verstehen“, wendet er ein. „Ich wüsste nicht, wer dazu in der Lage sein sollte.“ Das muss er sagen, er ist schließlich für die Sicherheit des Systems verantwortlich.

Der Computer sieht etwas …

In seinem ersten Job nach dem Studium hatte Schäfer an einem System gearbeitet, das Fußgänger, Radfahrer, Autos und Straßenschilder erkennen sollte. Es wurde mit Millionen Fotos trainiert, bis es zuverlässig zwischen den Objekten unterscheiden konnte. Dann machte sich Schäfer mit zwei Freunden selbstständig und programmierte eine App, die alte Fotos auf Festplatten und Datenbanken thematisch sortiert. Die App trainierte sich selbst: Sie suchte in den Bildern nach wiederkehrenden Mustern und lernte aus den sozialen Kanälen des Nutzers, um welche Menschen, Orte und Hobbys es ging.

So wurden automatisch Familien- und Urlaubsalben erstellt – ein beliebter Service. Schäfer und seine Kollegen machten ein kleines Vermögen. Man konnte sich auch anzeigen lassen, wie Freunde über die Jahre Frisur und Mode änderten, und welche Partyfotos das größte Aufsehen erregten. Besonders populär war die „Top Pick“-Sammlung: Fotos der Nutzer, die denen von preisgekrönten Fotografen ähneln. Nach einem Rechtsstreit mit einem Fotografenverband musste die App jedoch die Voransichten der professionellen Fotos wieder löschen.

Nun war Schäfer bei Quantaxx gelandet, einem Spin-off der Universität Heidelberg und eines Max-Planck-Instituts, das auf der Grundlage der Quantentechnologie Miniatursensoren entwickelt. Der Firmencomputer Helene absolviert mehr Rechenoperationen pro Sekunde als ein menschliches Gehirn und organisiert deshalb die Produktion. Menschen müssen der Maschine nur noch die Komponenten eines Sensors erklären und ihr den Prototypen zeigen. Dann sucht sie selbstständig nach dem besten Weg, die Komponenten zusammenzusetzen. Zudem überwacht sie die Fabrik und warnt die Manager rechtzeitig, bevor ein Gerät ausfällt.

Helene ist aber nicht auf die Fabrikhalle beschränkt: Neben der Produktion analysiert gleichzeitig die Warenströme und den globalen Markt. Zum ersten Mal hat der Computer heute eine Empfehlung zum Vertrieb ausgesprochen. „Ist die Empfehlung vielleicht eine Reaktion auf Vorbehalte in der Öffentlichkeit gegen Quantentechnologien?“, fragt Schäfer. „In den sozialen Kanälen ist derzeit alles ruhig“, antwortet die Leiterin des Marketings. Schäfer versucht es mit einer zweiten Theorie: „Ist etwas über ein Konkurrenzprodukt aus Asien bekannt?“ Diesmal reagiert die Chefin: „José, diese Optionen haben wir alle schon durchgesprochen, bevor du dich in das Gespräch eingeklinkt hast. Auch von bisher unentdeckten Mängeln in der Sonde wissen wir nichts. Wir tappen im Dunkeln.“

… das wir nicht sehen

So leicht will Schäfer nicht aufgeben. „Wir sollten uns nicht auf unsere Kenntnisse beschränken“, doziert er. „Wir müssen uns vielmehr fragen, worauf das Netzwerk reagiert haben könnte.“ Er hält inne und überlegt. „Haben wir nicht schon einmal Produkte vom Markt genommen?“ „Wir?“, rutscht es der Chefin raus. Erst sagt niemand etwas, dann meldet sich die Marketingleiterin zu Wort. „Ja, das ist in der Gründungsphase einmal passiert“, berichtet sie. „Damals war ich noch Doktorandin.“

Am plötzlichen Gemurmel merkt Schäfer, dass seine Kollegen die Idee begreifen: Vielleicht hat Helene heute irgendwelche Ähnlichkeiten zur früheren Situation entdeckt. „Damals haben wir den Fehler auf das Marketing geschoben“, erzählt die Marketingchefin. Es ging um einen Quantensensor für zentimetergenaue Ortung auch in Gebäuden und unter der Erde. Man wollte so die Steuerung von Robotern erleichtern, doch in den Medien wurde das System wegen der Möglichkeit zur Bespitzelung als „Allestracker“ kritisiert. „Heute sind wir besser aufgestellt und nehmen den Kritikern den Wind aus den Segeln“, erklärt die Marketingchefin. „Wir machen von Anfang an deutlich, dass die Sensordaten von Helico nur an das eigene Phone gesendet werden und nicht an die Cloud. Daher sehe ich hier keine Schwierigkeiten auf uns zukommen.“

Schäfer bleibt hartnäckig. „Wir könnten am Supercomputer der Uni die Reaktionen der Öffentlichkeit auf Helico simulieren“, schlägt er vor. „Wer weiß, vielleicht werden die Leute ängstlich, wenn sie ihren Mageninhalt analysieren können.“ „Aber das, was drin ist, haben sie doch vorher gegessen und getrunken“, wirft ein Kollege ein. „Wie sollte sie das überraschen?“ „Ich weiß, es klingt irrational“, wehrt Schäfer ab. „Aber es wäre nicht der erste irrationale psychologische Effekt.“

Vom Vorstand kommt kein Widerspruch mehr, die Chefin ist mit dem Vorschlag einverstanden. „José, könntest du das Simulationsprogramm aufsetzen?“, fragt sie. Schäfer seufzt. „Wer die Idee hat, ist immer der Dumme“, denkt er sich. Aber er ist froh, dass er den Vorstand beruhigen konnte. Nun hat er einige Tage Zeit, um Helenes Empfehlung zu analysieren. Eine Ampel wird grün und sein Taxi biegt in den Technologiecampus der Universität ein, auf dem Quantaxx seinen Sitz hat. „Klar, kann ich machen“, antwortet er schließlich, „aber nur, wenn ich umdrehen und nach Hause fahren darf.“

Einige der im Text genannten Technologien gibt es schon, an anderen wird gearbeitet. Im zweiten Teil dieses Beitrags erklären Ihnen die ZukunftsReporter die technischen Hintergründe. Uns interessiert auch Ihre Meinung: Schreiben Sie uns, was Sie von der Künstlichen Intelligenz erwarten! Sie erreichen uns unter hallo@zukunftsreporter.online. Einige Leserreaktionen fassen wir in diesem Beitrag zusammen.

Nach zwei Debatten mit Bürgerinnen und Bürgern haben die ZukunftsReporter dieses Szenario überarbeitet. Die neue Version heißt „Kollege Computer packt an“.