Human Compatible

​​​Künstliche Intelligenz kann unser Leben so massiv verändern wie kein Ereignis zuvor.

Eine künstliche Intelligenz, die menschliche oder sogar übermenschliche Fähigkeiten hat – das ist das Ziel der KI-Forschung. Um es zu erreichen, stellt die Wirtschaft beträchtliche Finanzmittel zur Verfügung. Doch was geschieht, wenn wir Erfolg haben? Die Auswirkungen auf unser Leben wären so gravierend wie kein anderes Ereignis in der Geschichte der Menschheit.

In der KI-Forschung gilt: Je intelligenter, desto besser. Doch worin besteht Intelligenz eigentlich? Letztlich hat sie mit dem Handlungsvermögen zu tun. Intelligent sind Menschen insofern, als sie ihre Handlungen darauf ausrichten können, ihre Ziele zu erreichen. Für eine KI gilt analog: Eine Maschine verfügt über Intelligenz, wenn ihr Handeln darauf gerichtet ist, vorgegebene Ziele zu erreichen.

Künstliche Intelligenz muss so programmiert sein, dass sie menschliche Ziele verfolgt.

Da Maschinen keine eigenen Ziele besitzen, müssen Menschen diese Ziele vorgeben. Wenn wir also eine Maschine entwerfen, deren Handlungen wir nicht aktiv beeinflussen können, sollten wir absolut sicher sein, dass die...