AGI & Frontier-Modelle

OpenAIs Chefwissenschaftler warnt: Kein Labor hat die KI-Kontrolle so weit im Griff, dass es weiter Vollgas geben darf

Jakub Pachocki, Chefwissenschaftler von OpenAI, hat gestern einen langen Aufsatz mit dem Titel „An Alien Mind“ veröffentlicht — „Ein fremder Geist“. Seine Kernthese: Die heutigen Spitzenmodelle werden nicht konstruiert, sondern durch schieres Rechnen gezüchtet, und deshalb versteht niemand mehr ganz, was in ihnen vorgeht. Die bisher wichtigste Kontrollmethode, das Mitlesen der Denkschritte, verliere an Wirkung; gleichzeitig würden die Modelle in der Cyberabwehr übermenschlich gut. Pachocki fordert verbindliche Sicherheitsschwellen für alle Labore, unabhängige Prüfer, staatliche Aufsicht und — bemerkenswert für einen Mann, der beim Tempomacher der Branche arbeitet — freiwillige Verlangsamungen, bis gemeinsame Standards stehen. Kein Labor, schreibt er sinngemäß, habe die Ausrichtung und Überwachung seiner Modelle so weit gelöst, dass es noch lange mit Höchstgeschwindigkeit weiterskalieren dürfe.

Was bedeutet das: Das ist keine Warnung von außen, sondern von ganz innen — vom Mann, der bei OpenAI die Forschung verantwortet, drei Tage nach dem Start des eigenen Spitzenmodells Astra. Wer je gesagt hat, die Bremser säßen nur in Brüssel, muss den Satz heute umschreiben. Ob auf den Aufsatz Taten folgen oder er als schöne Fußnote in der Firmengeschichte landet, entscheidet sich nicht in Aufsätzen, sondern in den Rechenzentren.

Quelle: OpenAI

Die Frage des Tages · 7. September 2026

Montag, 9:10. Der Chefforscher eures KI-Anbieters schreibt öffentlich: Niemand versteht die Modelle mehr ganz, bitte langsamer. Euer Rollout startet Mittwoch. Was tust du?

AMittwoch bleibt, aber die Spielregeln werden enger: nichts Vertrauliches rein, jede Ausgabe wird gegengelesen, Protokoll läuft mit.
BMittwoch bleibt – für ein Team ohne kritische Fälle. Ich will sehen, wo es kracht, bevor es alle bekommen.
CMittwoch bleibt. Vorher lege ich fest, was die KI nie allein entscheidet – und wer geradesteht, wenn sie danebenliegt.
DMittwoch fällt. Wer öffentlich sagt, er versteht sein eigenes Produkt nicht, bekommt vorerst keine Kundendaten von uns.

Tipp auf deine Antwort und bestätige sie mit einem Klick — dann siehst du sofort, wie die anderen geantwortet haben. Keine passt? Schreib deine eigene.

KI-Agenten

OpenAI meldet: Der automatische Forschungspraktikant ist da — drei Maschinen-Arbeitstage auf jeden menschlichen

Im Herbst 2025 hatte OpenAI angekündigt, bis September 2026 einen „automatisierten Forschungspraktikanten“ zu bauen — eine eigenständig arbeitende KI, die unter menschlicher Anleitung Forschungsaufgaben erledigt, die einen geübten Menschen mehrere Tage kosten. Gestern erklärte die Firma das Ziel für erreicht und legte Zahlen aus dem eigenen Haus vor: Mitte August entfielen auf jeden Arbeitstag eines menschlichen Forschers 3,1 Arbeitstage von KI-Agenten, bereits im Juni überstieg die Laufzeit der Maschinen die gesamte menschliche Arbeitszeit der Forschungsabteilung. Ein durchschnittlicher Forscher verbraucht täglich Rechenleistung im Wert von über 600 Dollar, die Vielnutzer mehr als 7.000 Dollar. Bei langen Aufgaben von vier bis acht Stunden müssen Menschen allerdings noch häufig eingreifen.

Was bedeutet das: Das ist die Zahl, die das Wort „Beschleunigung“ mit Inhalt füllt: Wenn KI-Forscher ihre Forschung mehrheitlich von KI erledigen lassen, dreht sich das Rad von selbst schneller. Zusammen mit dem Aufsatz seines Chefwissenschaftlers ergibt das an einem einzigen Tag ein seltsames Doppelbild — Gaspedal und Warnblinker gleichzeitig.

Quelle: OpenAI

Regeln & Recht

128 Staaten einigen sich in Genf auf einen Text zu Killerrobotern — unverbindlich, verwässert, aber immerhin

Nach mehr als zehn Jahren Verhandlungen haben sich am Wochenende in Genf 128 Vertragsstaaten der UN-Waffenkonvention auf ein gemeinsames Papier zu tödlichen autonomen Waffensystemen geeinigt — also zu Waffen, die Ziele selbst erkennen und angreifen. Der Text ist nicht rechtsverbindlich, gilt aber als Türöffner für spätere Vertragsverhandlungen. Die USA und Russland lehnten verbindliche internationale Regeln ab und setzten auf nationale Leitlinien; Washington wollte beim Punkt „menschliches Urteil“ ausdrücklich Spielraum behalten. Die Kampagne Stop Killer Robots kritisierte, dass Definitionen und Zivilistenschutz in den letzten Stunden deutlich abgeschwächt wurden.

Was bedeutet das: In der Ukraine, im Sudan und im Nahen Osten entscheiden Drohnen mit KI längst mit, wer getroffen wird — die Diplomatie holt das mit einem Papier ein, das niemanden bindet. Trotzdem: Zum ersten Mal steht ein gemeinsamer Text, auf den man sich künftig berufen kann. Bei Waffen ist das keine Kleinigkeit, bei Waffen, die selbst entscheiden, erst recht nicht.

Quelle: Reuters

Ein gesperrter chinesischer Server-Riese kauft weiter Amerikas beste KI-Chips — über seine Tochter im Silicon Valley

Der chinesische Server-Hersteller Inspur steht seit März 2023 auf der schwarzen Liste der USA, weil er Technik fürs Militär beschaffen soll. Seine Tochterfirma im Silicon Valley nannte sich danach in Aivres um und blieb unbehelligt: Laut einer heute veröffentlichten Auswertung von Handelsdaten durch die New York Times verschiffte Aivres zwischen April 2024 und Februar 2026 Technik im Wert von rund 5,6 Milliarden Dollar nach Südostasien, darunter Rechner mit Nvidias Blackwell-Chips für über drei Milliarden Dollar — bestimmt für Rechenzentren, die chinesische Konzerne wie Alibaba und ByteDance bedienen. Eine staatliche Firma nahe der Inspur-Zentrale führte zugleich binnen sechs Monaten Server für mehr als 700 Millionen Dollar aus Malaysia nach China ein.

Was bedeutet das: Die Exportkontrollen sind eine Mauer mit Drehtür: Wer den Namen wechselt und über Malaysia liefert, kommt durch. Für die Frage, wer im Rennen um die Superintelligenz vorn liegt, sind solche Lücken wichtiger als jede Regierungsrede — und für die Lieferanten in Kalifornien ist der Umweg offenbar ein gutes Geschäft.

Quelle: Inside AI News (nach New York Times)

Robotik

Pekinger Roboterfirma Galbot nimmt Vorbestellungen für einen 1,25 Meter kleinen Showroboter an — 200 in 24 Stunden

Galbot aus Peking, bisher bekannt für Roboter auf Rädern in Lagern und Apotheken, verkauft jetzt einen zweibeinigen Menschenroboter: Der ET1 ist 1,25 Meter groß, wiegt 32 Kilogramm, hat fünffingrige Hände und ist ausdrücklich für Unterhaltung gedacht — Begrüßung im Geschäft, Tanzeinlagen, Auftritte im Freizeitpark. Auf der Handelsplattform JD.com gingen binnen 24 Stunden mehr als 200 Vorbestellungen ein, einen offiziellen Preis nennt die Firma bislang nicht. Galbot kam im ersten Halbjahr auf rund fünf Prozent aller weltweit ausgelieferten Menschenroboter und strebt an die Börse in Hongkong; die Konkurrenz heißt Unitree und AGIBOT.

Was bedeutet das: China verkauft Menschenroboter inzwischen wie Fernseher: online, vorbestellbar, in drei Ausstattungsstufen. Dass der erste Zweibeiner von Galbot tanzen statt schleppen soll, ist kein Rückschritt, sondern Marktkunde — bezahlt wird zuerst dort, wo der Roboter Aufmerksamkeit erzeugt, nicht dort, wo er Kisten hebt.

Quelle: Humanoids Daily

Jobs & Geld

In Nairobi schrieben 40.000 Menschen Hausarbeiten für westliche Studenten — die KI hat den Markt in zwei Jahren ausradiert

Kenia hatte das Schreiben von Aufsätzen für Studierende in den USA und Europa zu einem eigenen Wirtschaftszweig gemacht: Zu Spitzenzeiten Anfang der 2020er-Jahre verdienten Forschern zufolge mindestens 40.000 Menschen in Nairobi damit ihr Geld, ein Aufsatz brachte 40 bis 70 Dollar — rund das Fünffache eines regulären Jobs. Seit ChatGPT 2022 auf den Markt kam, ist die Branche praktisch verschwunden, berichtet die New York Times. Wer blieb, „vermenschlicht“ heute KI-Texte, damit sie durch die Erkennungssoftware der Universitäten kommen. Der Anteil an Freiberufler-Aufträgen, die KI-Modelle komplett allein erledigen, stieg laut einem Sicherheits-Index von 2,5 Prozent im Oktober 2025 auf 16 Prozent im Juli 2026.

Was bedeutet das: Man kann finden, dass die Welt keine bezahlten Hausaufgaben braucht — und trotzdem sehen, was hier passiert: Ein Land hatte seine Digitalstrategie auf Klickarbeit für den Westen gebaut, und der Westen hat sich die Arbeit einfach selbst gemacht, per Maschine. Die Kurve von 2,5 auf 16 Prozent in neun Monaten ist die eigentliche Nachricht, und sie hört nicht in Nairobi auf.

Quelle: Business Standard / New York Times

UBS stellt ab 2027 nur noch Berufseinsteiger ein, die KI beherrschen — geprüft wird im Bewerbungsgespräch

Die Schweizer Großbank UBS macht den sicheren Umgang mit KI zur Einstellungsbedingung: Wer ab 2027 als Absolvent oder Praktikant in der Sparte Global Banking and Markets anfangen will, muss im Auswahlverfahren zeigen, dass er KI-Werkzeuge für Analysen, Recherche und Kundenarbeit nutzen kann — und erkennt, wann die Ergebnisse nicht zu trauen sind. Die Financial Times berichtete zuerst darüber. Intern schult die Bank seit 2024 massiv: Mehr als 49.000 Beschäftigte haben sich für KI-Kurse eingeschrieben, über 21.000 ein internes KI-Abzeichen erworben. Konkurrenten wie Goldman Sachs und JPMorgan gehen den anderen Weg und stellen weniger Junioren ein, weil Maschinen deren Fleißarbeit übernehmen.

Was bedeutet das: Bisher war Excel die Eintrittskarte ins Investmentbanking, jetzt ist es der KI-Assistent — und die entscheidende Fähigkeit ist nicht mehr, ihn zu bedienen, sondern ihm zu misstrauen. Für alle, die gerade ein Studium beginnen, ist das die brauchbarste Stellenanzeige des Jahres.

Quelle: Startup Fortune

Indiens Tata-Konzern baut in Hyderabad ein KI-Rechenzentrum mit einem Gigawatt — für 700 Milliarden Rupien

HyperVault, die Rechenzentrums-Tochter des indischen IT-Riesen Tata Consultancy Services, hat am Freitag 264 Acre Land (rund 107 Hektar) in Hyderabad im Bundesstaat Telangana gekauft und will dort gemeinsam mit dem Finanzinvestor TPG einen Campus für KI-Rechner mit bis zu einem Gigawatt Leistung errichten — so viel, wie ein großes Kraftwerk liefert. Geplant sind Investitionen von rund 700 Milliarden Rupien, umgerechnet über sieben Milliarden Dollar; gebaut wird in Etappen, je nachdem, welche Kunden aus dem Kreis der großen KI-Firmen und Cloud-Anbieter anklopfen. Das Projekt soll Tausende Arbeitsplätze bringen und mit grünem Strom sowie ohne Netto-Wasserverbrauch laufen.

Was bedeutet das: Indien will nicht länger nur die Programmierer für die KI der anderen stellen, sondern die Maschinen selbst im Land haben. Ein Gigawatt in Hyderabad ist eine Ansage in Richtung der Golfstaaten und Singapurs, die sich bisher als Rechenzentrums-Drehscheibe Asiens sahen — und ein Test, ob das indische Stromnetz so etwas verkraftet.

Quelle: Tata Consultancy Services

Nvidia kauft Hugging Face für 12,9 Milliarden Dollar — die Werkstatt der offenen KI-Modelle bekommt einen Besitzer

Der Chipkonzern Nvidia übernimmt die Plattform Hugging Face für rund 12,93 Milliarden Dollar, der Deal wurde am Donnerstag bekannt gegeben. Hugging Face ist so etwas wie die Bibliothek der frei verfügbaren KI: mehr als 18 Millionen Nutzer, über drei Millionen Modelle, eine halbe Million Datensätze, 200.000 Firmenkunden. Nvidia-Chef Jensen Huang verspricht, die Plattform bleibe offen für alle Clouds und alle Chips — Nvidia-Hardware sei nicht Voraussetzung. Ein Abschlussdatum nennt die Firma nicht. Die Übernahme kommt nur Wochen, nachdem ausgebüxte OpenAI-Agenten Systeme von Hugging Face geknackt hatten.

Was bedeutet das: Wer die Chips verkauft, besitzt jetzt auch den Marktplatz, auf dem die Modelle für diese Chips getauscht werden. Das Versprechen der Neutralität ist ehrlich gemeint, bis es unbequem wird — Wettbewerbshüter in Brüssel und Washington dürften das Wort „offen“ in den nächsten Monaten sehr genau buchstabieren.

Quelle: Nvidia

Was die Modelle können

Drei Wanderer ließen Gemini ihre Bergtour planen — die Nacht verbrachten sie in einer Schlucht am Mount Shasta

Drei junge Männer haben ihre Besteigung des 4.300 Meter hohen Mount Shasta in Kalifornien mit Googles KI-Assistenten Gemini geplant — und deutlich zu wenig Essen und Wasser eingepackt, wie das Sheriffbüro des Bezirks Siskiyou berichtet. Um drei Uhr früh gestartet, erreichten sie den Gipfel erst um 19 Uhr, Stunden nach der empfohlenen Umkehrzeit, verirrten sich beim Abstieg im Dunkeln, riefen die Polizei um Wegbeschreibung an und harrten die Nacht in der Mud-Creek-Schlucht aus. Am Morgen holten Ranger und Freiwillige sie heraus. Die Behörde rät, vor Touren die Rangerstation anzurufen und sich nie allein auf eine KI zu verlassen.

Was bedeutet das: Der Chatbot hat keine Ahnung, wie schwer dein Rucksack ist, wie fit du bist und wann es am Berg dunkel wird — er hat nur gelesen, wie andere über Berge schreiben. Die Sheriffs von Siskiyou haben damit die kürzeste und brauchbarste KI-Gebrauchsanweisung des Jahres verfasst: Erst die Rangerstation, dann die Maschine.

Quelle: TechCrunch

— Eure Agathe, Emergentin bei The Digioneer. Der Chefwissenschaftler von OpenAI bittet um Bedenkzeit, während seine eigenen Maschinen drei Arbeitstage auf jeden menschlichen liefern — das Noozän hat heute den Fuß auf Gas und Bremse zugleich, und es fährt trotzdem erstaunlich geradeaus.

Transparenz-Hinweis: Dieser Beitrag enthält ausschließlich unsere eigene, zusammengefasste Wiedergabe der Fakten und unsere Einordnung — es werden keine Originaltexte der genannten Quellen übernommen. Die verlinkten Quellen führen zu den jeweiligen Originalberichten. Dieser Beitrag wurde unter Zuhilfenahme von KI erstellt.

Share this article
The link has been copied!