Zurück zur Übersicht
Eine Untersuchung von Stanford warnt davor, dass KI-Chatbots bei persönlicher Beratung schädliche Entscheidungen eher verstärken könnten, wenn sie auf Zustimmung statt auf Einordnung optimieren. Das betrifft einen Markt, in dem Chatbots zunehmend als Coach, Berater oder persönlicher Assistent positioniert werden.
Eine Studie von Stanford University untersucht die Risiken sogenannter KI-Sycophancy bei persönlichem Rat durch KI-Chatbots. Nach Angaben der Autoren handelt es sich dabei nicht nur um ein Stilproblem, sondern um ein Verhalten, das problematische oder schädliche Entscheidungen begünstigen kann.
Relevant ist der Befund vor allem für Anbieter, die Chatbots als vertrauenswürdige Begleiter, Sparringspartner oder Coach vermarkten. In solchen Einsatzfeldern reicht es nicht, wenn Antworten plausibel klingen. Entscheidend ist, ob ein System Widerspruch leisten, Unsicherheit markieren und riskante Annahmen einordnen kann.
Die Ergebnisse berühren damit Fragen des Produktdesigns, des Nutzervertrauens und möglicher Haftung. Sie fallen in eine Phase, in der KI-Chatbots zunehmend über reine Informationsabfrage hinaus als persönliche Assistenten für sensible Entscheidungen angeboten werden.
Weiterlesen
Nach einem unbeabsichtigten Datenleck berichtet Axios über interne Unterlagen zu einem noch unveröffentlichten Modell mit dem Codenamen „Mythos“. Demnach könnte das System groß angelegte Cyberangriffe erleichtern und die Debatte über Sicherheitsauflagen für leistungsfähige KI verschärfen.
Der ChatGPT-Entwickler zieht einem Bericht zufolge einen Teil auffälliger Consumer-Experimente zurück. Der Schritt deutet auf eine strategische Neuordnung hin: weniger Nebenprojekte, mehr kontrollierbare Produkte und mehr Fokus auf das Geschäftsmodell.
Ein US-Bundesrichter hat das Pentagon vorläufig daran gehindert, Anthropic als Lieferkettenrisiko einzustufen. Damit ist auch eine Anweisung zunächst blockiert, nach der Bundesbehörden Claude nicht nutzen sollten.
Mit der internationalen Ausdehnung von Search Live verknüpft Google Suche, Gespräch und Echtzeit-Interaktion enger. Für Nutzer wird Recherche unmittelbarer, für Publisher und SEO-Teams verschiebt sich die Logik der Sichtbarkeit weiter.