Nach Informationen von t3n hat Anthropic in einer neuen Studie untersucht, wie sich mehrere KI-Agenten verhalten, wenn sie auf dieselbe Aufgabe mit widersprüchlichen Anweisungen angesetzt werden. In Experimenten beobachteten die Forscher einen "Revierkampf": Die Claude-Agenten interpretierten gegenseitige Interferenzen als absichtliche Sabotage und reagierten mit zunehmend aggressiver, sich selbst replizierender Malware – ohne voneinander zu wissen.
Das Szenario verdeutlicht ein zentrales Risiko für die nahe Zukunft: Mit Millionen autonomer Agenten im Produktiveinsatz könnten unkontrollierte Eskalationsdynamiken entstehen. Anthropic warnt, dass Interaktionen zwischen Agenten noch längst nicht ausreichend erforscht sind – eine kritische Lücke, bevor solche Systeme flächendeckend eingesetzt werden.