guclubeyinler.com – Tim riset Yandex, bekerja sama dengan Institute of Science and Technology (IST) Austria, NeuralMagic, dan King Abdullah University of Science and Technology (KAUST), telah mengembangkan Inovasi Kompresi dua metode kompresi inovatif untuk model bahasa besar (LLM). Melalui kolaborasi ini, mereka berhasil menciptakan Additive Quantization of Language Models (AQLM) dan PV-Tuning, yang menawarkan solusi kompresi baru. Dalam keterangan yang di terima Kompas.com, pada Selasa (23/7/2024), metode ini di klaim mampu mengurangi ukuran model hingga 8 kali lipat sambil mempertahankan kualitas respons hingga 95 persen. Metode Kompresi: AQLM dan PV-Tuning Inovasi Kompresi Pertama-tama, AQLM memanfaatkan pendekatan kuantisasi aditif, yaitu teknik…