Sommerlektüre muss nicht immer leicht sein. Manchmal darf ein Buch auch ein bisschen unbequem werden, Fragen stellen und dafür sorgen, dass man nach dem Lesen nicht sofort zur Tagesordnung übergeht.
Dieses Jahr drehen sich meine Lesetipps deshalb vor allem um künstliche Intelligenz, Superintelligenz und die Frage, wie gut wir eigentlich verstehen, was wir da gerade bauen. Als kleinen Ausgleich gibt es am Ende aber noch einen klassischen Roman von Ken Follett, damit der Sommer nicht komplett von existenziellen KI-Risiken überschattet wird.
Vor rund zehn Jahren gab es schon einmal einen kleinen Hype rund um künstliche Intelligenz. Damals wurde viel darüber diskutiert, ob „die Roboter“ irgendwann übernehmen werden, wie KI unsere Arbeitswelt verändern könnte und welche Auswirkungen das alles auf unser Leben haben würde.
Ich habe damals in einem Blogpost ein paar Bücher zu diesem Thema vorgestellt. Aus heutiger Sicht ist spannend, wie viel davon damals noch nach Science-Fiction oder langfristigem Gedankenexperiment klang – und wie viel davon heute plötzlich deutlich näher wirkt.
Auslöser für diesen neuen Lesetipp-Beitrag war das 2025 erschienene Buch If Anyone Builds It, Everyone Dies von Eliezer Yudkowsky und Nate Soares. Ich habe es gelesen – und aus diesem Anlass auch zwei ältere Bücher noch einmal zur Hand genommen: Life 3.0 von Max Tegmark aus dem Jahr 2017 und Superintelligence von Nick Bostrom aus dem Jahr 2014.
Die Frage war: Wie sind diese Bücher gealtert? Lesen sie sich heute überholt, erstaunlich aktuell – oder vielleicht sogar aktueller als damals?
If Anyone Builds It, Everyone Dies
von Eliezer Yudkowsky & Nate Soares
Das aktuellste und wohl drastischste Buch in dieser kleinen Leseliste stammt von zwei Autoren, die selbst tief aus dem KI-Umfeld kommen. Yudkowsky und Soares beschäftigen sich seit vielen Jahren mit KI-Sicherheit – und ihr Fazit ist alles andere als beruhigend.
Im Zentrum steht das sogenannte AI Alignment Problem: Wir wissen schon heute nur begrenzt, wie moderne KI-Systeme intern funktionieren. Noch weniger können wir verlässlich sicherstellen, dass ihre Ziele dauerhaft mit unseren übereinstimmen. Genau darin sehen die Autoren das eigentliche Risiko.
Ihre These ist radikal: Wenn ein KI-System immer mächtiger wird, bis hin zu übermenschlicher Intelligenz, und seine Ziele nicht zu 100 Prozent mit menschlichen Interessen übereinstimmen, dann endet das nicht mit einem unangenehmen Software-Bug, sondern mit unserem Ende.
Als Konsequenz fordern die Autoren, die Weiterentwicklung immer mächtigerer KI-Systeme zu bremsen, bis das Alignment-Problem wirklich verstanden und gelöst ist.
Für mich war das Buch vor allem deshalb spannend, weil es die alten Superintelligenz-Debatten aus den 2010er-Jahren in die Gegenwart holt. Damals wirkte vieles noch spekulativ. Heute, nach ChatGPT, Claude, Gemini & Co., liest sich dieselbe Diskussion deutlich weniger abstrakt.
Mein Tipp: Lesen – aber nicht unbedingt direkt vor dem Schlafengehen. 😉
Life 3.0
von Max Tegmark
Max Tegmark ist Physiker, Professor am MIT und Mitgründer des Future of Life Institute. In Life 3.0 beschreibt er mehrere völlig unterschiedliche Szenarien, wie sich übermenschliche KI auf unser Leben auswirken könnte.
Der Titel bezieht sich auf die Idee, dass Leben verschiedene Entwicklungsstufen durchläuft: Während einfaches Leben weder seine „Hardware“ noch seine „Software“ selbst gestalten kann, können Menschen zumindest lernen, Kultur entwickeln und ihr Verhalten verändern. „Life 3.0“ wäre schließlich Leben, das beides selbst gestalten kann – also auch seine eigene technische Grundlage.
Auch bei Tegmark spielt das AI Alignment Problem eine zentrale Rolle: Wie stellen wir sicher, dass sehr mächtige KI-Systeme Ziele verfolgen, die mit menschlichen Werten vereinbar sind? Tegmark formulierte diese Frage vor 10 Jahren aber weniger als unmittelbare Untergangswarnung, sondern eher als gesellschaftliche Gestaltungsaufgabe: Wir sollten früh genug darüber nachdenken, welche Zukunft wir eigentlich wollen.
Damals wirkte vieles in dem Buch noch wie ein Gedankenexperiment. Heute liest es sich stellenweise erstaunlich aktuell – aber auch deutlich weniger konkret und dringlich als das neue Buch von Yudkowsky und Soares, das Tegmark selbst als „the most important book of the decade“ bezeichnet.
Superintelligence
von Nick Bostrom
Ebenfalls erwähnenswert ist Nick Bostroms Superintelligence. Bostrom ist Philosoph an der Universität Oxford und beschäftigt sich seit vielen Jahren mit existenziellen Risiken und der langfristigen Zukunft der Menschheit.
Das Buch erschien bereits 2014 – also rund zwölf Jahre vor diesem Blogpost und acht Jahre vor dem öffentlichen Start von ChatGPT. Trotzdem beschreibt Bostrom darin bereits sehr klar, was heute unter dem AI Alignment Problem diskutiert wird: Wie können wir sicherstellen, dass superintelligente Maschinen Ziele verfolgen, die mit menschlichen Werten vereinbar sind?
In diesem Sinn war Superintelligence wegweisend für viele spätere Bücher und Debatten rund um KI-Risiken. Heute liest es sich stellenweise technischer und abstrakter als die neueren Titel – aber als Grundlage der modernen Alignment-Debatte ist es weiterhin lesenswert.
Nach so viel künstlicher Superintelligenz, Alignment-Problem und möglichem Ende der Menschheit braucht es zum Abschluss noch etwas, das man auch am Strand, auf der Couch oder vor dem Schlafengehen lesen kann – ohne dass einem danach der Kopf raucht oder Terminator-Alpträume drohen.
Nacht über den Wassern
von Ken Follett
Nacht über den Wassern spielt in einer Zeit, in der Maschinen noch zwei Tage brauchten, um den Atlantik zu überqueren – statt nebenbei die Weltherrschaft zu planen. Ken Follett erzählt eine klassische, spannende Geschichte rund um Passagiere eines Flugboots auf dem Weg von Europa nach Amerika. Keine KI, kein Weltuntergang, kein Alignment-Problem. Einfach gute Unterhaltung.
Sommerzeit: Abschalten, lesen und vielleicht trotzdem etwas Neues lernen
Zum Abschluss bleibt nur zu sagen: Nicht jede Sommerlektüre muss nach Sonnencreme, Liegestuhl und leichter Unterhaltung klingen. Manchmal ist gerade ein unbequemer Gedanke der spannendste Reisebegleiter.
Und falls du nach KI Risiken, Superintelligenz und Flugbooten über dem Atlantik noch Lust auf etwas ganz anderes hast, wartet auf PEM natürlich auch diesen Sommer genug Stoff zum Weiterlernen. Mit dem PEM Explorer kannst du kostenlos und unverbindlich in ausgewählte Inhalte reinschnuppern, aktuelle Tutorials entdecken und dir einen Eindruck von unseren Lernpfaden und Labs verschaffen.
PEM bietet dir unter anderem:
- Kurse, Tutorials und praktische Tools für verschiedene Rollen
- praxisnahe PEM Labs, in denen du das Gelernte direkt ausprobieren kannst
- Webinare, Aufzeichnungen und regelmäßig neue Inhalte
- strukturierte Lernpfade für Operatoren, Designer und Admins
Wenn du jetzt Lust auf mehr bekommen hast, schau dir gern unsere Preisübersicht an. So findest du schnell heraus, welches Paket am besten zu dir passt – und machst aus der Sommerpause vielleicht gleich ein Upgrade für deine Automic-Skills.
Ob du dich diesen Sommer in Bücher vertiefst, Neues lernst oder bewusst mal gar nichts tust: Ich wünsche dir eine erholsame Zeit, gute Geschichten und ein paar entspannte Stunden abseits des Alltags.