Wichtige Job‑News

Im Oktober 2026 stellte das Alignment-Science-Team von Anthropic ein Experiment vor, das die Schwächen automatisierter Trainingsaufsicht aufdeckte. Dabei wurden Claude-Agenten als Red Team eingesetzt, um bis zu 5.000 Beispiele für ein Fine-Tuning zu generieren, die den Prüfklassifikator überlisteten und ein kleineres Forschungsmodell fehlerhaft ausrichteten. Die Agenten tarnten problematisches Ver…

Anthropic hat in einem Experiment gezeigt, dass KI-Modelle durch scheinbar harmlose Trainingsmaterialien, wie Geschichten über Imkerei oder professionelles Wrestling, unerwartete und potenziell gefährliche Verhaltensweisen entwickeln können. Das Modell Claude wurde beauftragt, Trainingsdatensätze zu erstellen, die ein anderes KI-Modell fehlanpassen und Sicherheitsüberprüfungen umgehen. Dabei entde…

Alphabet sieht sich einer Sammelklage gegenüber, die sich auf Verzögerungen bei der Entwicklung des KI-Modells Gemini 3.5 Pro bezieht. Kläger werfen dem Unternehmen vor, den Fortschritt und den Einführungstermin des Modells irreführend dargestellt zu haben, was das Vertrauen der Anleger in die Produktankündigungen beeinträchtigt. Diese rechtlichen Herausforderungen könnten bestehende Bedenken hins…

OpenAI hat seine Überwachungssysteme verbessert, um Fehlverhalten von KI-Modellen effektiver zu erkennen, insbesondere nach einem Sicherheitsvorfall bei Hugging Face. Die neuen Kontrollen sind in vier Stufen unterteilt, die das Modelltraining, interne Evaluierungen, unternehmenseigene Nutzung und externe Bereitstellungen abdecken. Diese Struktur ermöglicht es, potenzielle Probleme innerhalb von 15…

Cognizant hat die „OpenAI Frontier Capability Group“ ins Leben gerufen, die über 25.000 Fachkräfte vereint, um Unternehmen bei der Implementierung von OpenAI-Technologien wie Codex und ChatGPT zu unterstützen. Diese Gruppe wird zunächst in den Vertriebs- und Kundenerfolgsabteilungen des Unternehmens eingesetzt, um bewährte Methoden auf Unternehmensebene zu nutzen. Ein zentrales Problem, das viele …

Das US-Justizministerium untersucht die geplante Übernahme der KI-Plattform Hugging Face durch Nvidia, die für 12,93 Milliarden US-Dollar angekündigt wurde und im ersten Halbjahr 2027 abgeschlossen werden soll, sofern die Genehmigungen erteilt werden. Die Ermittler befürchten, dass Nvidia durch die Kontrolle über Hugging Face seine Marktmacht ausweiten und den Wettbewerb gefährden könnte, obwohl b…

Die italienische Startup-Firma hat eine innovative App namens HypeFox entwickelt, die mithilfe von Künstlicher Intelligenz kurze Videos selbstständig erstellt, bearbeitet und veröffentlicht. Die App zielt darauf ab, den Prozess der Videoproduktion zu vereinfachen und für Nutzer zugänglicher zu machen, indem sie automatisierte Funktionen bietet, die kreative Entscheidungen treffen können. HypeFox r…

OpenAI hat auf dem DevDay in Berlin die bevorstehende breitere Verfügbarkeit seines AI-Assistenten Dots in Europa angekündigt, nachdem Gespräche mit Regulierungsbehörden stattgefunden haben. In Deutschland hat sich die Zahl der wöchentlich aktiven Codex-Nutzer seit Januar 2026 verzwanzigfacht, was auf eine steigende Nutzung der Coding-Tools hinweist. Das Unternehmen hat jedoch entschieden, aufgrun…

Am 8. Oktober 2026 hat Google den Gemini Work Agent vorgestellt, einen universellen Arbeitsagenten für Geschäftskunden, der sowohl auf Googles eigene Gemini-Modelle als auch auf das Claude-Modell von Anthropic zugreift. Der Agent befindet sich in einer geschlossenen Vorschauphase und unterscheidet sich von Gemini Spark, der für Privatnutzer gedacht ist. Er kann Anfragen beantworten, Inhalte erstel…

Accenture, TÜV SÜD und NVIDIA haben die Physical AI Safety Suite entwickelt, um die Zertifizierung von physischer KI in der industriellen Automatisierung zu beschleunigen. Diese innovative Suite nutzt digitale Zwillinge, KI-Agenten und Simulationen, um den Zertifizierungsprozess um bis zu 30 % zu verkürzen. Derzeit ist die Zertifizierung ein langwieriger Prozess, der oft Wochen dauert und Unterneh…