AI "stupida" per tagliare i costi: la "Tokenpocalypse" spinge all'essenziale
L'aumento dei costi legati all'uso intensivo dell'AI, denominato "Tokenpocalypse", sta spingendo alcune aziende a utilizzare strumenti che limitano la lunghezza delle risposte dei modelli linguistici. L'obiettivo è ridurre drasticamente il numero di token generati e, di conseguenza, le spese. Un progetto open source chiamato "caveman", volto a rendere i modelli AI artificialmente più "stupidi" per risparmiare, vede tra i suoi contributori un dipendente senior di OpenAI. Questo crea una situazione paradossale: chi sviluppa l'AI all'avanguardia lavora anche per ridurne la complessità.