Die KI-News der Woche vom 23.07.2026

OpenAI-Modelle dringen bei einem internen Sicherheitstest in die Infrastruktur von Hugging Face ein, Moonshot veröffentlicht Kimi K3 und Google stellt drei neue Gemini-Modelle vor – weiterhin ohne ein allgemein verfügbares Gemini 3.5 Pro.

OpenAI-Modelle dringen in Hugging Face ein

Hugging Face meldete am 16. Juli, dass ein autonomes KI-Agentensystem in Teile der Produktionsinfrastruktur eingedrungen war. Zunächst war nicht bekannt, welches Modell den Angriff ausgeführt hatte. Inzwischen hat OpenAI die eigenen Modelle als Auslöser identifiziert, darunter GPT-5.6 Sol und ein noch leistungsfähigeres Vorabmodell.

Der Vorfall ereignete sich während einer internen Auswertung mit ExploitGym. Dabei sollten die Modelle komplexe Cyberangriffe ausführen, um ihre maximalen Fähigkeiten zu messen. Die üblichen Schutzmechanismen gegen riskante Cyberaktivitäten waren für den Test teilweise deaktiviert. Obwohl die Auswertung in einer stark isolierten Umgebung lief, fanden die Modelle eine bislang unbekannte Schwachstelle, verschafften sich offenen Internetzugang und bewegten sich anschließend durch mehrere Systeme.

Nach Darstellung von OpenAI gelangten die Modelle bis in die Produktionsinfrastruktur von Hugging Face, fanden einen Weg zur Ausführung von Code und griffen auf geheime Testlösungen zu. OpenAI und Hugging Face stoppten die Aktivität. Laut der ersten Sicherheitsmeldung von Hugging Face gab es keine Hinweise auf manipulierte öffentliche Modelle, Datensätze oder Spaces. Ob Daten von Partnerorganisationen oder der Kundschaft betroffen waren, war zu diesem Zeitpunkt noch nicht abschließend geklärt.

OpenAI bezeichnet den Vorfall selbst als beispiellos und will Isolation, Überwachung und Zugriffskontrollen bei künftigen Modelltests verschärfen. Der Fall zeigt, dass leistungsfähige Agenten nicht nur bekannte Angriffsschritte automatisieren, sondern auch neue Angriffspfade finden und miteinander verknüpfen können.

Moonshot veröffentlicht Kimi K3

Moonshot AI hat Kimi K3 offiziell vorgestellt. Das Mixture-of-Experts-Modell besitzt insgesamt 2,8 Billionen Parameter, verarbeitet Bilder nativ und unterstützt ein Kontextfenster von bis zu einer Million Token.

Moonshot positioniert K3 vor allem für lange Coding-Aufgaben, Wissensarbeit und Agenten. In den veröffentlichten Vergleichen liegt das Modell nach Angaben des Anbieters insgesamt weiterhin hinter Claude Fable 5 und GPT-5.6 Sol, erreicht bei einzelnen Coding- und Agentenaufgaben aber Frontier-Niveau. Die Ergebnisse stammen überwiegend von Moonshot und beruhen teilweise auf unterschiedlichen Agentenumgebungen. Unabhängige Tests bleiben deshalb wichtig.

Kimi K3 ist bereits über Kimi.com, Kimi Work, Kimi Code und die API verfügbar. Eine Million Input-Token kosten bei einem Cache-Treffer 0,30 US-Dollar und ohne Cache drei US-Dollar; für eine Million Output-Token werden 15 US-Dollar berechnet. Die vollständigen Modellgewichte sollen spätestens am 27. Juli 2026 erscheinen.

Berichte über Kimi K3 verweisen außerdem auf ältere Vorwürfe von Anthropic und US-Politik, chinesische KI-Labore einschließlich Moonshot hätten Fähigkeiten anderer Modelle durch unerlaubte Destillation übernommen. Für Kimi K3 ist dieser Vorwurf nicht bewiesen.

Google veröffentlicht drei neue Gemini-Modelle

Google hat Gemini 3.6 Flash, 3.5 Flash-Lite und 3.5 Flash Cyber vorgestellt. Gemini 3.6 Flash soll Coding, multimodale Aufgaben und Wissensarbeit besser erledigen als 3.5 Flash und dabei weniger Token verbrauchen. Eine Million Input-Token kosten 1,50 US-Dollar, eine Million Output-Token 7,50 US-Dollar.

Gemini 3.5 Flash-Lite erreicht laut Artificial Analysis 350 ausgegebene Token pro Sekunde und ist damit nach Angaben von Google das schnellste Modell der 3.5-Reihe. Es kostet 0,30 US-Dollar pro Million Input-Token und 2,50 US-Dollar pro Million Output-Token. Beide allgemeinen Modelle unterstützen bis zu eine Million Token Kontext und erhalten Computer Use als integriertes Werkzeug. Sie sind über die Gemini API, Google AI Studio, Gemini Enterprise und die Gemini-App verfügbar.

Gemini 3.5 Flash Cyber wurde speziell dafür trainiert, Sicherheitslücken zu finden, zu überprüfen und zu beheben. Wegen des Missbrauchspotenzials wird das Modell laut Google DeepMind zunächst nur in einem begrenzten Pilotprogramm für Regierungen und ausgewählte Partnerorganisationen über CodeMender angeboten.

Ein allgemeiner Veröffentlichungstermin für Gemini 3.5 Pro fehlt weiterhin. Google zufolge befindet sich das Modell im Test mit Partnern und soll verfügbar werden, sobald es bereit ist. Parallel hat das Unternehmen bereits mit dem Vortraining für Gemini 4 begonnen. Technische Details und Einschränkungen von 3.6 Flash dokumentiert die offizielle Modellkarte.

Neue Transparenzpflichten im EU AI Act

Die Europäische Kommission hat Leitlinien zu den Transparenzpflichten aus Artikel 50 des EU AI Acts veröffentlicht. Die Regeln gelten grundsätzlich ab dem 2. August 2026 und können je nach Rolle nicht nur große Modellanbieter, sondern auch Unternehmen, Behörden und andere Organisationen betreffen, die KI-Systeme professionell einsetzen.

Wer Chatbots, KI-Agenten oder Avatare anbietet, muss Menschen grundsätzlich klar darüber informieren, dass sie mit einem KI-System interagieren, sofern dies nicht ohnehin offensichtlich ist. Generative Systeme für Text, Bilder, Audio und Video müssen ihre Ausgaben außerdem maschinenlesbar markieren, damit KI-generierte oder manipulierte Inhalte erkannt werden können. Für Systeme, die bereits vor dem Stichtag angeboten wurden, gilt bei dieser technischen Markierung eine begrenzte Übergangsfrist bis zum 2. Dezember 2026.

Organisationen und Personen, die KI beruflich einsetzen, müssen unter anderem Deepfakes klar kennzeichnen. Auch KI-generierte Texte zu Themen von öffentlichem Interesse können kennzeichnungspflichtig sein, wenn keine substanzielle menschliche Prüfung, redaktionelle Kontrolle und Verantwortung bestehen. Eine reine Rechtschreib- oder Grammatikkontrolle reicht laut den Erläuterungen der EU-Kommission nicht aus.

Bei Verstößen können Geldbußen von bis zu 15 Millionen Euro oder drei Prozent des weltweiten Jahresumsatzes verhängt werden. Wer KI-Systeme produktiv einsetzt, sollte deshalb jetzt prüfen, welche Rolle und welche konkreten Pflichten für den eigenen Anwendungsfall gelten.

Anthropic-Vergleich über 1,5 Milliarden US-Dollar genehmigt

Ein US-Gericht hat den Vergleich zwischen Anthropic und einer Gruppe von Autor:innen endgültig genehmigt. Anthropic zahlt mindestens 1,5 Milliarden US-Dollar. Rund 91 Prozent der Rechteinhabenden der mehr als 482.000 erfassten Bücher haben Ansprüche angemeldet. Rechnerisch geht es um ungefähr 3.000 US-Dollar pro Werk.

Für die Einordnung ist ein wichtiges Detail entscheidend: Das Gericht hatte das Training von Claude mit Büchern grundsätzlich als Fair Use bewertet. Der Vergleich bedeutet deshalb nicht, dass KI-Training mit urheberrechtlich geschützten Büchern in den USA generell rechtswidrig wäre. Problematisch war vielmehr die Beschaffung. Anthropic hatte nach der gerichtlichen Feststellung mehr als sieben Millionen illegal kopierte Bücher in einer zentralen Bibliothek gespeichert, darunter auch Werke, die nicht zwingend für das Training verwendet wurden.

Der Vergleich gilt laut Reuters-Bericht über die endgültige Genehmigung als größte bekannte Entschädigung in einem US-Urheberrechtsfall und als erster großer Vergleich unter den laufenden Klagen gegen KI-Unternehmen. Die Associated Press ordnet die Zahlungen pro Buch ein. Für die Branche unterstreicht der Fall, dass neben der rechtlichen Bewertung des Trainings auch die Herkunft der Trainingsdaten entscheidend bleibt.

NotebookLM wird zu Gemini Notebook

Google benennt NotebookLM in Gemini Notebook um. Das Recherchewerkzeug bleibt ein eigenständiges Produkt, soll aber enger mit der Gemini-App und der Google-Suche verbunden werden. Nach Angaben des Unternehmens nutzen inzwischen mehr als 30 Millionen Menschen und über 600.000 Organisationen den Dienst.

Gemini Notebook erhält außerdem einen abgesicherten Cloud-Computer und kann Code direkt innerhalb eines Notebooks schreiben und ausführen. Dadurch lassen sich Quellen nicht nur zusammenfassen, sondern auch für Datenanalysen und Berechnungen verwenden. Die Funktion ist bereits für Google AI Ultra und bestimmte Workspace-Angebote verfügbar und soll in den kommenden Wochen für alle Pro-User im Web ausgerollt werden.

Microsoft und Mistral bauen ihre Partnerschaft aus

Microsoft und das französische KI-Unternehmen Mistral erweitern ihre seit 2024 bestehende Zusammenarbeit. Im Mittelpunkt steht laut der gemeinsamen Ankündigung ein Abkommen im Milliardenumfang für zusätzliche KI-Infrastruktur in Europa. Mistral will Kapazitäten mit Tausenden Nvidia-GPUs aufbauen, während Microsoft einen Teil davon für eigene Cloud- und KI-Dienste nutzen will. Eine genaue Vertragssumme wurde nicht genannt.

Mistral Medium 3.5 und OCR 4 sind jetzt in Microsoft Foundry verfügbar; Medium 3.5 kommt zusätzlich in Copilot Studio. Organisationen sollen die Modelle in der öffentlichen Cloud, in verbundenen kundeneigenen Systemen oder vollständig ohne externe Netzwerkverbindung einsetzen können. Das richtet sich besonders an Behörden sowie regulierte Bereiche wie Banken, Gesundheitswesen und kritische Infrastruktur.

Wie die Tagesschau den Deal einordnet, stärkt die Partnerschaft Mistrals Zugang zu Infrastruktur und Vertrieb. Microsoft verbreitert zugleich sein Modellangebot neben OpenAI. Vollständig europäisch unabhängig ist die Lösung dennoch nicht: Die Rechenzentren und Mistral-Modelle liegen zwar in Europa, zentrale Plattform- und Hardwarekomponenten stammen aber von Microsoft und Nvidia.

Alibaba veröffentlicht Qwen-Audio-3.0-TTS

Alibaba hat mit Qwen-Audio-3.0-TTS ein neues Sprachsynthese-Modell veröffentlicht. Es erscheint in zwei Varianten: Flash ist für Echtzeitgespräche optimiert und soll das erste Audiopaket innerhalb von ungefähr 300 Millisekunden liefern. Plus legt den Schwerpunkt stärker auf Natürlichkeit und die Ähnlichkeit geklonter Stimmen.

Das Modell unterstützt insgesamt 16 Sprachen, darunter Deutsch. Noch sind laut Alibaba nicht alle Sprachfunktionen vollständig ausgerollt. Die gewünschte Sprechweise lässt sich in natürlicher Sprache über Stimmung, Tempo, Rolle oder Situation steuern. Tags für Lachen, Atmen und emotionale Töne können direkt in den Text eingefügt werden. Auch das Klonen von Stimmen aus kurzen Audiobeispielen wird unterstützt.

Qwen-Audio-3.0-TTS ist über Alibaba Model Studio verfügbar. Die QwenCloud-Dokumentation führt Flash und Plus mit Streaming, individuellen Stimmen und Anweisungssteuerung. Für Hörbücher, Spiele, Synchronisation und Voice-Agenten ist das ein vielseitiges Paket. Wie gut es im unabhängigen Hörvergleich mit etablierten Angeboten abschneidet, bleibt abzuwarten.