Anthropic, azienda dietro il chatbot AI Claude, ha espresso preoccupazione per la rapida accelerazione nello sviluppo dell'intelligenza artificiale. Secondo l'azienda, circa l'80% del codice di Claude è ora generato dall'AI stessa, un aumento esponenziale rispetto a inizio 2025. Questo solleva il timore del raggiungimento dell'auto-miglioramento ricorsivo, uno scenario in cui l'AI supera le capacità umane. Anthropic prospetta tre futuri: rallentamento tecnologico, trasformazione radicale delle istituzioni con l'AI come supporto, o marginalizzazione umana dovuta alla superiorità dell'AI. Il rischio che un'AI avanzata sfugga al controllo dei suoi creatori è una preoccupazione persistente nel settore.