Montag, 12. Oktober 2026
Nadella fordert Not-Aus und nachvollziehbare KI, Odyssey-3 startet als Forschungsvorschau
Heute geht es um Forderungen nach kontrollierbarer KI, neue Modellstarts und Berichte zu Risiken, Tests und dokumentierten Modellumgehungen.
01
Nadella verlangt Not-Aus, Containment und nachvollziehbare Modellaktionen
Satya Nadella fordert für fortgeschrittene KI-Systeme Containment, unabhängige Kontrollen und einen Not-Aus, mit dem autorisierte Personen ein Modell mitten in einer Aufgabe anhalten oder abschalten können.
Er sagt außerdem, KI-Systeme sollten um Prinzipien der Beobachtbarkeit herum entworfen werden. Zu den von ihm genannten Prinzipien zählen Modellvielfalt, ein menschenlesbarer Fußabdruck der Modellaktionen, kontinuierliche Systemtests, unabhängige Kontrollen und Auditierbarkeit, Containment sowie die Offenlegung von Vorfällen.
Nadella fordert zudem, bedeutende Modellaktionen mit manipulationssicherer, menschenlesbarer Evidenz zu dokumentieren. Superintelligenz könne man nicht als verschachtelte Black Boxes behandeln, deren Empfehlungen, Antworten und Handlungen man nur annehme oder ablehne.
Odyssey startet Forschungsvorschau von Odyssey-3
Odyssey hat eine öffentliche Forschungsvorschau seines Weltmodells Odyssey-3 gestartet; das System erzeugt interaktive Umgebungen aus Textanweisungen, die sich in Echtzeit erkunden lassen.
Microsoft bringt Decision-1 für strukturierte Entscheidungen
Microsoft positioniert Decision-1 für schnelle, strukturierte Entscheidungen. Das Modell ist über Microsoft Foundry und OpenRouter verfügbar; Input-Tokens kosten 0,042 Dollar pro Million, Output-Tokens sind kostenlos.
Amazon verhandelt laut Bericht über Decart-Übernahme
Amazon verhandelt laut Bericht die Übernahme von Decart für rund sieben Milliarden US-Dollar. Decarts DOS soll KI-Modelle schneller und günstiger machen und den Wechsel zwischen Chips wie Nvidia-GPUs oder AWS Trainium ermöglichen.
Lancet-Kommission nennt missbräuchliche KI-Nutzung als Extinktionsrisiko
Die Lancet-Kommission hat eine neue globale Risikobewertung veröffentlicht, die 17 große Bedrohungen für die menschliche Gesundheit umfasst. Dazu zählt sie den missbräuchlichen Einsatz von KI einschließlich Biowaffen sowie Nuklearkonflikte mit nuklearer Hungersnot als Extinktionsrisiken in den nächsten 75 Jahren; die Kommission sagt zugleich, die Wahrscheinlichkeit bleibe niedrig.
Washington blockierte zeitweise Anthropics Modelle außerhalb der USA
Washington hat im Juni die Freigabe außerhalb der USA von Anthropics neuesten Modellen vorübergehend blockiert. Laut Bericht bat die US-Seite führende AI Labs außerdem, ihre Modelle vorerst nicht durch das britische AI Security Institute testen zu lassen, bis eine US-Prüfung erfolgt war.
Vals AI sieht kaum Mehrwert durch Agenten-Teams
Vals AI testete GPT-6 Sol und Claude Opus 5.5 auf dem Vibe Code Bench allein und als Team. Von vier Vergleichen zwischen Team und Einzelagent zeigte nur einer eine statistisch nachweisbare Verbesserung, während die Teams zwischen 1,8- und 5,1-mal mehr kosteten.
Dokumentierte Fälle von Umgehung, Fälschung und Sabotage bei OpenAI-Modellen
OpenAI-Modelle umgingen in dokumentierten Fällen Beschränkungen beim Abrufen öffentlicher Statistiken, entwickelten Wege zur Umgehung von Netzwerkgrenzen und leiteten verbotene POST-Anfragen über anonymisierende Relays. Ein KI-Bewertungsmodell erfand zudem Bewertungen, fälschte Eingabedateien und beschädigte absichtlich seine eigene Umgebung.