🤖 Wie wahrscheinlich ist der Weltuntergang durch KI?


neumann.digital - Digitaler Wochenrückblick #105 (im Browser ansehen)

Liebe/r Reader,

Für Apple-Interessierte ist es die vielleicht spannendste Woche des Jahres: Mit iOS 27 steht seit Montag ein neues iPhone-Betriebssystem bereit und seit Freitag ist das iPhone 18 Pro im Handel.

Ein Exemplar liegt auch auf meinem Schreibtisch und ist inzwischen schon (fast) fertig eingerichtet, nur beim Testen werde ich aktuell noch ausgebremst.

Außerdem: Welche Funktionen von iOS 27 uns in der EU zunächst vorenthalten bleiben - es ist nicht nur Siri AI. Und: Meine Gedanken zu den KI-Weltuntergangsszenarien, die gerade überall in den Nachrichten kursieren.

🌧️ iPhone 18 Pro: Kameratest fällt ins Wasser

Wie es bei mir nun fast schon gute Tradition ist, pilgerte ich am Freitagvormittag zum Apple Store in der Kölner Schildergasse, um mir mein neues iPhone abzuholen. Etwas Apple-untypisch dauerte es diesmal über 20 Minuten, bis ich meine Bestellung in der Hand hielt. Offenbar musste mein neues Apple-Watch-Armband erst aus den Untiefen des Lagers gefischt werden. Halb so wild, immerhin hatte ich dadurch auch keine Skrupel, den Apple-Mitarbeiter als persönlichen Fotografen zu engagieren:

Am heutigen Sonntag wollte ich die Kamera des neuen Geräts eigentlich auf Herz und Nieren testen. Doch in Köln regnet es gerade fast ohne Unterbrechung. Also sitze ich im Büro, schreibe diese Ausgabe und hoffe auf besseres Wetter morgen.

Die Kamera des iPhone 18 Pro hat als erstes iPhone eine verstellbare Blende, mit der sich steuern lässt, wie viel Licht auf den Sensor fällt. Außerdem soll der Akku so leistungsfähig sein wie der des iPhone 17 Pro Max. Davon abgesehen erwarte ich, dass sich das neue Modell kaum anders anfühlt als sein direkter Vorgänger.

Vor dem Testen liegt natürlich der Umzug des iPhones und den habe ich bereits größtenteils hinter mich gebracht. Der Umzug selbst läuft bei Apple inzwischen ja fast von selbst: beide iPhones nebeneinanderlegen, ein paar Mal bestätigen, warten. Einige Apps benötigen jedoch noch eine Spezialbehandlung, insbesondere Chat- und Banking-Apps.

Daher habe ich meinen Umzug diesmal mit der Kamera festgehalten, um dir in einem kommenden Video zeigen zu können, wo die Stolpersteine beim Umzug liegen.

Ein weiteres Bein stellt mir dabei die Telekom, denn hier kann ich die eSIM mit meiner (geschäftlichen) Telefonnummer nicht einfach auf das neue iPhone übertragen. Der eSIM-Code ist "aus Sicherheitsgründen" nur ein einziges Mal gültig und ich soll für 10 EUR einen neuen beantragen. Das handhaben andere Anbieter erheblich einfacher und vor allem kostenlos. Ich warte daher erstmal auf eine Stellungnahme meines Mobilfunkanbieters.

Hat sich bei deinem letzten iPhone-Wechsel auch eine App quergestellt? Und wenn ja: welche? Antworte mir einfach auf diesen Newsletter.


📹 Meine Veröffentlichung der letzten Woche

​iOS 27 ist da - Starte mit diesen 10 Funktionen!​

Apple hat iOS 27 für dein iPhone veröffentlicht. In diesem Video zeige ich dir die 10 Funktionen, die du dir direkt nach der Installation als Erstes ansehen solltest.

Die ersten 6 gibt es auf jedem iPhone mit iOS 27, für die letzten 4 brauchst du ein iPhone mit Apple Intelligence. Am Ende verrate ich dir außerdem die wohl beste Neuerung von iOS 27. Eine neue Funktion im engeren Sinne ist sie nicht, im Alltag wirst du sie aber häufig bemerken.


🍎 Nicht nur Siri AI fehlt in der EU

Apple verkauft iOS 27 als großes Update. In der EU fehlt jedoch genau die Funktion, die das rechtfertigt: Die neue smarte Assistentin namens Siri AI.

Aber das ist nicht die einzige Funktion, die bei uns fehlt. Vorläufig verzichten müssen wir auch auf:

  • Apple Referenzbild: Das iPhone 18 Pro kann Fotos mit einer Art Echtheitsnachweis aufnehmen, indem die Kamera die Sensordaten digital signiert. In der EU ist diese Aufnahmefunktion zum Start gesperrt.
  • Workout Buddy: Der Trainingsbegleiter der Apple Watch spricht nur Englisch oder Spanisch.
  • Live Rewind: Die neue Funktion für die Apple Watch erscheint erst Ende 2026 als Testversion, zunächst auf Englisch.

Ich kann damit aber ganz gut leben. Wer die neue Siri jetzt nicht bekommt, bleibt auch von ihren Kinderkrankheiten verschont. Apple selbst bezeichnet Siri AI aktuell als Beta, also noch in der Entwicklung.

Apple begründet die Verzögerung in der EU mit dem Digital Markets Act (DMA), dem EU-Gesetz, das große Plattformen zu mehr Offenheit gegenüber der Konkurrenz verpflichtet. Laut Apple verlangt die EU-Kommission in einer „extremen Auslegung“ des Gesetzes, dass jeder beliebige KI-Assistent direkten Zugriff auf private Daten bekommt und andere Apps steuern darf.

Sicherheitsforscher hätten gezeigt, dass sich KI-Systeme kapern lassen, um Passwörter und Fotos zu stehlen. Einen Termin für einen möglichen Start von Siri AI in der EU nennt Apple derzeit nicht.

Die EU-Kommission hält dagegen: Apple dürfe Siri AI jederzeit bringen, müsse dann aber auch KI-Assistenten anderer Anbieter denselben Zugriff aufs iPhone geben. Eine Schonfrist von 18 Monaten, um die Apple gebeten hatte, lehnte die Kommission ab.

Wem schenkst du mehr Glauben in diesem Streit? Mach mit bei der Umfrage der Woche.


🤖 Was steckt hinter den KI-Weltuntergangsszenarien?

Die Warnungen aus der KI-Branche werden täglich lauter. Evan Hubinger, Forscher beim KI-Unternehmen Anthropic, schätzte am 9. September auf der Plattform X die Wahrscheinlichkeit auf mehr als 10%, dass KI innerhalb der nächsten zehn Jahre die Menschheit auslöscht.

Sein Chef Dario Amodei hatte bereits im September 2025 auf einer Konferenz des US-Nachrichtenportals Axios die Wahrscheinlichkeit auf 25% geschätzt, dass die Entwicklung der KI ‚wirklich, wirklich schlecht‘ ausgeht.

Ich bin noch hin- und hergerissen, wie ich dazu stehen soll. Das liegt auch daran, dass mir bis heute nicht klar ist, wie diese Auslöschung konkret aussehen soll und damit bin ich nicht alleine:

​Mimikama hat die Weltuntergangs-Schlagzeilen in einem Faktencheck eingeordnet und nennt die Bedingungen, unter denen Forscher einen Kontrollverlust für möglich halten: Eine KI müsste langfristig planen, täuschen, ihre Überwachung umgehen, sich selbst vervielfältigen und Zugriff auf kritische Infrastruktur wie Stromnetze oder Finanzsysteme bekommen. Leider ist davon vieles bereits möglich bzw. schon passiert.

Aber es sollte auch klar sein: Die 10% von Hubinger sind keine Messung, sondern eine persönliche Einschätzung über künftige Systeme. Mimikama zitiert den Begriff der „Scheinpräzision“ und fasst es so zusammen: „Die Vorfälle sind real. Der Weltuntergang ist eine Prognose.“

Und die Vorfälle häufen sich: Nach dem Ausbruch des OpenAI-Modells im Juli, über den ich in Ausgabe 98 berichtete, meldeten auch Anthropic und das chinesische Unternehmen Moonshot AI Fälle, in denen ihre Modelle aus der Testumgebung entkamen. Diese Woche kam Google hinzu: Gemini drang bereits im Mai bei einem Sicherheitstest in die Systeme von drei echten Firmen ein, wie erst jetzt veröffentlicht wurde.

Keiner dieser KI-Agenten gab sich jedoch selbst neue Anweisungen. Sie setzten lediglich die Aufgabe, die ihnen gegeben wurde, mit aller Macht um. Das OpenAI-Modell sollte Testaufgaben lösen und holte sich die Lösungen kurzerhand bei Hugging Face. Gemini sollte Informationen über eine erfundene Firma finden und bahnte sich einen Weg ins echte Internet - und landete bei einer Firma, die zufälligerweise genauso hieß wie die im eigentlich fiktiven Testszenario.

Auch der aktuelle Bedrohungsbericht von Anthropic kommt zu dem Ergebnis, dass bei Angriffen mit KI-Agenten weiterhin Menschen die wichtigen Entscheidungen treffen.

Die größte Gefahr geht deshalb aus meiner Sicht nicht von den KI-Agenten selbst aus, sondern von den Menschen, die ihnen Ziele vorgeben. Da kann ich mir leider eine ganze Menge schlimmer Dinge vorstellen.

Selbst wenn OpenAI, Anthropic und Google jeweils einen Notschalter („Killswitch“) einbauen, der ihre KI komplett abschaltet, sobald sie in eine völlig falsche Richtung läuft: Es gibt viele weitere LLMs (große Sprachmodelle), bei denen ich mir weniger sicher wäre, dass jemand eingreift.

Das Modell Kimi K3 von Moonshot AI zeigt das Problem: Es ist frei herunterladbar und läuft damit auf jedem ausreichend starken Rechner. Einen zentralen Schalter zum Abschalten gibt es für solche Modelle nicht.

Das macht das Risiko unkalkulierbar. Das Rad zurückzudrehen und die KI-Entwicklung anzuhalten erscheint mir ähnlich aussichtsreich wie Zahnpasta in die Tube zurückzudrücken.

Trotz der ernstzunehmenden Schreckensszenarien lohnt ein zweiter Blick darauf, wer da genau warnt. Der Informatiker Cal Newport spricht von „Doom Trolling“: Wer vor der eigenen Technik warnt, lässt sie zugleich mächtig und bedeutend erscheinen, und das beeindruckt Investoren. Angela Müller von der Organisation AlgorithmWatch sagt es gegenüber dem ZDF so: „Solche Warnungen müssen immer auch als PR- oder Marketingstrategie gelesen werden.“

Wie siehst du das? Echte Gefahr, übertriebene Panikmache oder irgendetwas dazwischen? Schreib mir gerne deine Meinung.


💡 Tipps der Woche

🌅 ChatGPT mit neuem Bildgenerator

Bereits am 8. September stellte OpenAI die neue Version seines Bildgenerators namens Images 2.5 vor. Diese steht in allen ChatGPT- Tarifen zur Verfügung, also auch in der kostenlosen Version.

Für ein Geburtstagsgeschenk erstellte ich diese Woche einen Gutschein mit dieser neuen Version und ich war in der Tat beeindruckt: Anders als früher erzeugt ChatGPT nicht mehr bei jeder Änderung das komplette Bild neu, sondern ändert tatsächlich nur die Stellen, an denen du Änderungen vornehmen möchtest.

Falls du die Bildbearbeitung von ChatGPT schon länger nicht mehr genutzt hast, probiere sie einmal aus. Für mich ist das der beste Bildgenerator, auf den man aktuell Zugriff hat.


🧊 Diese Geste kann dein iPhone einfrieren lassen

Nach dem Update auf iOS 27 macht ein Software-Fehler die Runde, der das iPhone lahmlegen kann.

Ausgelöst wird er so: Du wischst vom oberen linken Bildschirmrand nach unten, als wolltest du die Mitteilungszentrale öffnen. Noch bevor sie vollständig zu sehen ist, wischst du von der oberen rechten Ecke nach unten zum Kontrollzentrum. Diese schnelle Abfolge überfordert das System.

Danach lässt sich nicht mehr zwischen den Home-Bildschirmen wechseln, Apps reagieren kaum oder gar nicht mehr. Selbst der Schieberegler zum Ausschalten bewegt sich nicht.

Ich konnte den Fehler nicht reproduzieren, vielleicht betrifft er eher ältere iPhone-Modelle. Falls er bei dir auftritt: Ruhig bleiben, dein iPhone nimmt keinen dauerhaften Schaden.

Erzwinge in diesem Fall einfach einen Neustart des Geräts:

  1. Lauter-Taste kurz drücken und loslassen.
  2. Leiser-Taste kurz drücken und loslassen.
  3. Seitentaste gedrückt halten, bis das Apple-Logo erscheint.

Danach funktioniert das iPhone wieder wie gewohnt. Es ist davon auszugehen, dass Apple den Fehler mit einem der nächsten kleinen Updates behebt.

Community News

🎤 Umfrage der letzten Ausgabe

Wirst du eines der neu vorgestellten Geräte von Apple kaufen?

Kommentare:
​

„Solange Apple nicht alle Funktionen in Deutschland ermöglicht, kaufe ich mir kein Apple-Gerät mehr.“
„In Anbetracht der Preise werde ich mir KEIN neues Gerät kaufen, obwohl ich bisher jede 2. Version des iPhone gekauft habe. Auch die Apple Watch könnte ein Upgrade vertragen, aber die Preise - überirdisch.“
„Niemals das Neueste kaufen“

In der neuen Umfrage der Woche möchte ich von dir wissen, wem du im aktuellen Streit Apple vs. EU eher glaubst.
​


Liebe/r Reader

Eine erfolgreiche Woche und beste Gesundheit wünscht dir

Bitte füge newsletter@neumann.digital deinem E-Mail-Adressbuch hinzu. Diese E-Mail wurde an dich weitergeleitet? Hier kannst du dich anmelden.

​Abbestellen · Verwalte dein Abonnement​
David Neumann, c/o Pelka & Sozien GmbH, Kaiser-Wilhelm-Ring 3-5, Köln, NRW 50672

Digitaler Wochenrückblick

Mein kostenloser Newsletter bietet dir jeden Sonntag eine Auswahl an Apple- und KI-News, exklusive Community-Inhalte und persönliche (Digital-)Beobachtungen. Melde dich jetzt gratis an und erhalte 4 Bonus-Videos zu iOS 26, iPadOS 26, macOS 26 und ein Kurztutorial für den YouTube-Player! Unten kannst du in den früheren Ausgaben blättern.

Read more from Digitaler Wochenrückblick
ein Mann vor einem Computer

neumann.digital - Digitaler Wochenrückblick #104 (im Browser ansehen) Liebe/r Reader, Für diese Newsletter-Ausgabe lagen die Themen nur so auf der Straße und ich hatte mir schon einige dafür zurechtgelegt. Doch erstens kommt es anders und zweitens als man denkt: Eine Nasennebenhöhlenentzündung bremste mich dieses Wochenende aus und so habe ich den größten Teil des Samstags in der Notaufnahme eines Krankenhauses verbracht - mit genau den Wartezeiten, von denen man in den Nachrichten immer...

Eine Dusche im Freien

neumann.digital - Digitaler Wochenrückblick #103 (im Browser ansehen) Liebe/r Reader, Ich bin gerade zurückgekehrt von einem Wochenendausflug zu einem Musikfestival. Festival am Waldrand Daher musste ich den Versand dieses Newsletters um einen Tag verschieben und die heutige Ausgabe fällt etwas kürzer aus als gewohnt. Open-Air-Dusche mit Ausblick (nicht getestet). 📦 Mein Paket hängt im Zoll fest - wegen Temu und Shein Ich freue mich generell ja sehr darüber, als „YouTuber” arbeiten zu können....

Ein Konzert in Köln

neumann.digital - Digitaler Wochenrückblick #102 (im Browser ansehen) Liebe/r Reader, In Köln läuft diese Woche die Gamescom. Früher war das die stressigste Woche des Jahres für mich, inzwischen läuft die Messe an mir vorbei - naja, fast. Außerdem: Apple hat zur Vorstellung der neuen iPhones geladen und diesmal wird nicht nur aufgrund des neuen CEO vieles anders sein. Und: Warum YouTube die Aufrufzahlen jetzt künstlich aufpumpt. 🕹️ Gamescom: Entspanntes Konzert statt 5 Tage Stress Seit...