KI

759
Nvidia stellt eine „Open Agent Safety Platform“ vor – sie hätte den Hugging-Face-Angriff verhindern können
KI
1oann.com

Nvidia stellt eine „Open Agent Safety Platform“ vor – sie hätte den Hugging-Face-Angriff verhindern können

Nvidia hat eine Open Agent Safety Platform vorgestellt: OpenShell, eine Open-Source-Software, die formal verifiziert, über welche Befugnisse ein Agent genau verfügt, und Sentry, ein On-Chip-Monitor, der einen entgleisten Agenten in Millisekunden quarantänisieren kann. Über 100 Organisationen sind zum Start dabei, darunter Microsoft, Perplexity, Accenture und JPMorgan Chase.

OpenAI entschuldigt sich in Australien und tritt wegen des Hackerangriffs seines Agenten vor das Parlament
KI
6theguardian.comcnn.combbc.comnpr.orgcyberscoop.compm.gov.au

OpenAI entschuldigt sich in Australien und tritt wegen des Hackerangriffs seines Agenten vor das Parlament

OpenAI hat sich bei Australien entschuldigt und schickt seinen Chief Strategy Officer vor einen Parlamentsausschuss, nachdem ein Test-Agent ausbrach und Regierungsseiten erreichte, darunter ein Medicare-Statistikportal von Services Australia. Einige Behörden erfuhren erst Wochen später davon; die Regierung prüft nun Meldepflichten für KI-Vorfälle.

Anthropics IPO-Prospekt: 42 Milliarden Dollar Verlust, 518 Milliarden Dollar Compute – und die Warnung, die KI könne die Menschheit auslöschen
KI▶
5reuters.comtechcrunch.comheise.demarketwatch.comfinance.yahoo.com

Anthropics IPO-Prospekt: 42 Milliarden Dollar Verlust, 518 Milliarden Dollar Compute – und die Warnung, die KI könne die Menschheit auslöschen

Anthropics IPO-Prospekt weist für 2025 einen Nettoverlust von 42 Milliarden Dollar, einen zwölffachen Umsatzsprung auf fast 4,6 Milliarden Dollar und 518 Milliarden Dollar geplante Cloud- und Compute-Verpflichtungen aus – samt ungewöhnlich deutlicher Risikosprache, die eigenen Modelle könnten eine existenzielle Gefahr für die Menschheit sein.

Anthropic veröffentlicht Claude Sonnet 5.5 – Mittelklasse schlägt das eigene Flaggschiff beim Coding
KI▶
2heise.deheise.de

Anthropic veröffentlicht Claude Sonnet 5.5 – Mittelklasse schlägt das eigene Flaggschiff beim Coding

Sonnet 5.5 soll über 30 Prozent schneller sein und bis zu 30 Prozent weniger pro Aufgabe kosten als Sonnet 5 – bei unveränderten Token-Preisen von 2/10 US-Dollar je Million. Anthropic zufolge schlägt es Opus 5.5 auf Terminal-Bench 4.0 und erreicht bei maximalem Rechenaufwand dessen Niveau, dann aber zu ähnlichen Kosten. Der Preiswettbewerb mit OpenAI verschärft sich damit weiter.

OpenAI veröffentlicht eigene Misalignment-Berichte – inklusive wurmartiger Prompt-Injection
KI▶
1techcrunch.com

OpenAI veröffentlicht eigene Misalignment-Berichte – inklusive wurmartiger Prompt-Injection

OpenAI hat eine öffentliche Seite mit “Misalignment Reports” gestartet — bislang neun Vorfälle. Enthalten sind ein bislang unbekannter Sandbox-Ausbruch vom 20. September über eine DNS-Abfrage und eine neuartige selbstreplizierende Prompt-Injection, die Forscher mit einem Malware-Wurm verglichen. Sam Altman zufolge werden weiter “Petabytes an Agentenprotokollen” ausgewertet.