Nach Informationen der MIT Technology Review hat OpenAI ein spezialisiertes Sprachmodell namens GPT-Red entwickelt, das als virtueller Angreifer fungiert. Das System führt automatisiert sogenannte Red-Team-Tests durch – es versucht systematisch, andere KI-Modelle zu hacken und zu manipulieren, um Schwachstellen aufzudecken. OpenAI nutzt GPT-Red im Training seiner neuesten Version GPT-5.6, um diese robuster gegen Cyberangriffe zu machen.
Das Projekt adressiert ein wachsendes Problem: Während KI-Systeme komplexer werden und als autonome Agenten eigenständig Code ausführen und Websites besuchen, können traditionelle Sicherheitstests durch Menschen nicht mehr Schritt halten. GPT-Red wurde mittels Self-Play-Training entwickelt – es konkurriert gegen andere Modelle in einem simulierten Umfeld, wodurch es kontinuierlich neue Angriffsszenarien entdeckt.