Zurück zur Übersicht
Nach einem unbeabsichtigten Datenleck berichtet Axios über interne Unterlagen zu einem noch unveröffentlichten Modell mit dem Codenamen „Mythos“. Demnach könnte das System groß angelegte Cyberangriffe erleichtern und die Debatte über Sicherheitsauflagen für leistungsfähige KI verschärfen.
Anthropic hat laut einem Bericht von Axios intern vor den Cyberrisiken eines noch nicht veröffentlichten KI-Modells mit dem Codenamen „Mythos“ gewarnt. Grundlage des Berichts sind unveröffentlichte Anthropic-Unterlagen, auf die Axios nach einem unbeabsichtigten Datenleck Bezug nimmt.
Den Dokumenten zufolge soll das Modell groß angelegte Cyberangriffe wahrscheinlicher machen. Weitere technische Details zu den Fähigkeiten des Systems oder ein möglicher Veröffentlichungszeitpunkt wurden in der Meldung nicht genannt.
Der Vorgang verlagert die Diskussion über neue KI-Modelle von Leistungswerten und Produktmerkmalen hin zu Sicherheitsfolgen, Missbrauchsrisiken und Governance. Wenn Anbieter intern vor offensiven Cyberfähigkeiten warnen, wird Modellsicherheit nicht nur zur Forschungsfrage, sondern auch zu einem operativen und regulatorischen Thema.
Weiterlesen
Der ChatGPT-Entwickler zieht einem Bericht zufolge einen Teil auffälliger Consumer-Experimente zurück. Der Schritt deutet auf eine strategische Neuordnung hin: weniger Nebenprojekte, mehr kontrollierbare Produkte und mehr Fokus auf das Geschäftsmodell.
Ein US-Bundesrichter hat das Pentagon vorläufig daran gehindert, Anthropic als Lieferkettenrisiko einzustufen. Damit ist auch eine Anweisung zunächst blockiert, nach der Bundesbehörden Claude nicht nutzen sollten.
Ein möglicher Deal über den Einsatz des KI-Modells Claude für militärische Zwecke ist wieder in Bewegung. Umstritten bleibt, ob und wie sich der Einsatz gegenüber autonomer Kriegsführung und Massenüberwachung abgrenzen lässt.
Eine Untersuchung von Stanford warnt davor, dass KI-Chatbots bei persönlicher Beratung schädliche Entscheidungen eher verstärken könnten, wenn sie auf Zustimmung statt auf Einordnung optimieren. Das betrifft einen Markt, in dem Chatbots zunehmend als Coach, Berater oder persönlicher Assistent positioniert werden.