Was passiert, wenn maschinelles Lernen zweifelhafte Ergebnisse produziert? Wenn der Einsatz von Computerprogrammen, die neue Informationen sammeln und in ihre Entscheidungen integrieren, Verluste bei der Geldanlage verursacht? Beim Recruiting oder bei der Kreditvergabe zu Diskriminierungen führt oder Verkehrsunfälle zur Folge hat? Sollten Unternehmen intelligenten Produkten und Dienstleistungen erlauben, sich selbstständig weiterzuentwickeln? Oder sollten sie ihre Algorithmen daran hindern und sie stattdessen regelmäßig selbst aktualisieren? Wann und wie oft sollten diese Aktualisierungen stattfinden? Und: Wie sollen Firmen die Risiken solcher Entscheidungen bewerten und verringern?

Spätestens jetzt, da künstliche Intelligenz (KI) auf Basis maschinellen Lernens immer mehr Angebote und Prozesse in Unternehmen bestimmt, müssen Entscheiderinnen, Manager und Boards Antworten auf diese Fragen finden. In diesem Artikel stellen wir Grundkonzepte vor, die helfen, die potenziellen Nachteile, die diese Technologie mit sich bringen kann, zu verstehen und zu steuern. Er basiert auf den Erkenntnissen, die wir während unserer Arbeit in den Bereichen Gesundheitsrecht, Ethik, Regulierung und maschinelles Lernen gesammelt haben.

Risiken maschinellen Lernens

Der wesentliche Unterschied zwischen maschinellem Lernen und den bisherigen digitalen Technologien liegt in der Fähigkeit der Systeme, selbstständig zu lernen. So können sie immer komplexere Entscheidungen unabhängig und selbstständig treffen. Etwa wenn es darum geht, welche Finanzprodukte für ein Anlageportfolio gekauft und verkauft werden sollen. Oder darum, wie Fahrzeuge am besten auf Hindernisse reagieren oder Krankheiten diagnostiziert werden können. Selbstlernende Systeme entwickeln sich dabei auf der Grundlage von neuen Daten und Erkenntnissen ständig weiter. Das Problem: Die Algorithmen funktionieren nicht völlig problemlos. Sie machen Fehler. Und nicht immer sind ihre Entscheidungen ethisch einwandfrei. Für die Schwierigkeiten gibt es drei Gründe.

Erstens: Algorithmen arbeiten in der Regel mit Wahrscheinlichkeiten. Zum Beispiel bei der Beurteilung, ob jemand einen Kredit nicht zurückzahlen kann oder krank wird. Da Algorithmen sehr viele Entscheidungen treffen, liegen sie in manchen Fällen nahezu zwangsläufig daneben. Die Fehlerwahrscheinlichkeit hängt dabei von vielen Faktoren ab. Entscheidend ist unter anderem die Menge und Qualität der Daten, mit denen ein Algorithmus angelernt wurde.

Auch die zugrunde liegende Machine-Learning-Methode spielt eine Rolle. Fachleute unterscheiden beispielsweise zwischen Deep Learning auf Basis von mathematischen Modellen und Klassifikationsbäumen auf der Grundlage von Entscheidungsregeln. Wichtig ist zudem, ob ein System mit erklärbaren Algorithmen arbeitet. Also solchen, bei denen Menschen begründen können, wie der Algorithmus seine Entscheidungen trifft. Was einleuchtend klingt, erhöht das Risiko von Fehleinschätzungen: Verwendet ein System ausschließlich diesen Typus, erreicht der Algorithmus unter Umständen nicht die optimale Genauigkeit.