LLM Tarifini Sorgulayan İki Makale
Modern LLM çağında, standart tarif iki temel üzerine kurulmuştur: sabit bir tokenleştirici ve bir sonraki token tahmini. Metinler tokenlere dönüşür ve model bir sonrakini tahmin ederek öğrenir. Şu anda iki çalışma, bu tarife zıt yönlerden meydan okuyor. Meta'nın Byte Latent Transformer (BLT) projesi, gerçekten tokenlere ihtiyaç olup olmadığını sorguluyor. [...]