Model collapse
Model collapse (dapat diterjemahkan sebagai keruntuhan model) adalah penurunan kualitas model pembelajaran mesin yang terjadi ketika model dilatih secara berula…
Model collapse (dapat diterjemahkan sebagai keruntuhan model) adalah penurunan kualitas model pembelajaran mesin yang terjadi ketika model dilatih secara berulang menggunakan data sintetis yang dihasilkan oleh model lain atau oleh versi sebelumnya dari model tersebut. Dalam proses ini, informasi mengenai distribusi data asli dapat semakin hilang dari satu generasi model ke generasi berikutnya.[1]
Istilah ini terutama digunakan dalam pembahasan model generatif, termasuk model bahasa besar. Namun, fenomena yang serupa juga telah dipelajari pada beberapa jenis model generatif lain, seperti variational autoencoder dan model campuran Gaussian.[1] Model collapse bukan sekadar kesalahan pada satu keluaran. Istilah ini merujuk pada proses degeneratif yang berlangsung lintas generasi pelatihan.
Karakteristik
Penelitian mengenai model collapse membedakan dua tahap utama. Pada keruntuhan awal, model mulai kehilangan informasi pada bagian ekor distribusi data. Bagian tersebut dapat mencakup contoh yang jarang muncul atau kelompok minoritas. Perubahan ini mungkin sulit dikenali karena ukuran kinerja rata-rata masih dapat terlihat membaik.[1]
Pada keruntuhan lanjut, model kehilangan lebih banyak variasi dan mulai menghasilkan keluaran yang semakin mirip. Distribusi keluaran model dapat menyimpang jauh dari distribusi data asli dan memiliki keragaman yang lebih rendah.[1]
Dampak tersebut berbeda dari sekadar pengurangan akurasi pada satu tugas. Model yang mengalami model collapse dapat tetap menghasilkan keluaran yang tampak masuk akal, tetapi gagal merepresentasikan keragaman, kasus langka, atau karakteristik penting yang terdapat dalam data asli.
Mekanisme
Model collapse dapat terjadi ketika keluaran model generatif dimasukkan kembali ke dalam kumpulan data pelatihan tanpa penyaringan atau tanpa mempertahankan proporsi data asli. Kesalahan kecil yang muncul pada satu generasi kemudian dapat ikut menjadi data pelatihan untuk generasi berikutnya. Pengulangan proses tersebut dapat menyebabkan kesalahan terakumulasi.
Penelitian yang memperkenalkan istilah model collapse mengaitkan proses tersebut dengan beberapa sumber kesalahan. Sumber-sumber itu mencakup kesalahan pengambilan sampel, keterbatasan kemampuan model dalam memperkirakan fungsi atau distribusi, serta keterbatasan prosedur pembelajaran.[1] Dalam model yang lebih kompleks, beberapa jenis kesalahan tersebut dapat saling memperkuat.
Secara sederhana, prosesnya dapat digambarkan sebagai berikut:
- Model awal dilatih menggunakan data yang sebagian besar berasal dari sumber asli.
- Model tersebut menghasilkan data sintetis.
- Data sintetis digunakan untuk melatih model generasi berikutnya.
- Model baru menghasilkan data sintetis lain yang kembali digunakan dalam pelatihan.
- Setelah proses berulang, sebagian informasi dan variasi dari distribusi data asli dapat berkurang.
Model collapse tidak selalu berarti bahwa setiap penggunaan data sintetis akan menyebabkan model gagal. Hasilnya bergantung pada cara data dibuat, dicampurkan, diseleksi, dan digunakan. Pelatihan yang tetap mempertahankan data asli dapat memberikan hasil yang berbeda dari pelatihan yang hanya menggunakan keluaran sintetis secara berulang.
Model bahasa
Model bahasa besar memerlukan kumpulan data yang sangat besar. Apabila semakin banyak teks di internet dihasilkan oleh model bahasa, data tersebut berpotensi masuk ke dalam korpus yang digunakan untuk melatih model generasi berikutnya. Dalam skenario ini, model baru dapat belajar dari keluaran model lama alih-alih dari teks yang ditulis manusia.
Sebuah penelitian yang diterbitkan dalam Nature melaporkan bahwa penggunaan tanpa pandang bulu konten hasil model dalam pelatihan dapat menyebabkan model kehilangan informasi dari bagian ekor distribusi data asli. Penelitian tersebut menunjukkan contoh model collapse pada beberapa kelas model generatif dan menyimpulkan bahwa data yang berasal dari interaksi manusia tetap penting untuk mempertahankan informasi asli.[1]
Penelitian lain mengenai pelatihan model bahasa dengan teks sintetis menemukan penurunan keragaman leksikal, sintaktis, dan semantis setelah proses penyempurnaan dilakukan secara berulang. Penurunan tersebut terutama terlihat pada tugas yang membutuhkan tingkat kreativitas yang lebih tinggi.[2] Hasil ini tidak berarti bahwa seluruh model bahasa pasti mengalami keruntuhan, tetapi menunjukkan risiko ketika teks sintetis digunakan tanpa pengendalian kualitas dan tanpa campuran data asli yang memadai.
Hubungan dengan konsep lain
Model collapse memiliki hubungan dengan beberapa masalah lain dalam pembelajaran mesin, tetapi tidak identik dengan masalah-masalah tersebut.
- Pelupaan katastrofik merujuk pada hilangnya kemampuan model terhadap tugas atau pengetahuan sebelumnya ketika model mempelajari informasi baru. Model collapse berfokus pada perubahan distribusi data akibat penggunaan keluaran model dalam pelatihan generasi berikutnya.
- Keracunan data adalah manipulasi data pelatihan yang ditujukan untuk memengaruhi perilaku model. Model collapse dapat terjadi tanpa serangan yang disengaja, misalnya karena data sintetis digunakan berulang kali tanpa kurasi.
- Mode collapse adalah masalah yang dikenal dalam pelatihan jaringan adversarial generatif, ketika model menghasilkan variasi keluaran yang terlalu sedikit. Istilah tersebut berbeda dari model collapse, meskipun keduanya sama-sama dapat menyebabkan hilangnya keragaman.
Dampak terhadap pengumpulan data
Model collapse menimbulkan pertanyaan mengenai cara mengelola korpus data yang dikumpulkan dari internet. Jika sumber asli bercampur dengan konten sintetis dalam jumlah besar, proses pengumpulan data pada masa mendatang dapat menjadi semakin sulit karena asal-usul dan kualitas setiap dokumen tidak selalu diketahui.
Dampak yang mungkin terjadi antara lain berkurangnya representasi contoh yang jarang, penyempitan keragaman bahasa, serta meningkatnya kemiripan antara keluaran model. Dalam konteks bahasa, berkurangnya keragaman dapat memengaruhi kosakata, struktur kalimat, gaya penulisan, dan kemampuan model untuk menangani cara berbahasa yang tidak umum.[2]
Mitigasi
Tidak ada satu metode yang menjamin penghapusan model collapse dalam semua kondisi. Beberapa pendekatan yang dibahas dalam penelitian dan praktik pengembangan model meliputi:
- mempertahankan proporsi data yang berasal dari sumber manusia atau sumber asli;
- membedakan dan mendokumentasikan asal-usul data pelatihan;
- menyaring, menguji, dan menilai kualitas data sintetis sebelum digunakan kembali;
- menghindari pelatihan berulang yang hanya bergantung pada keluaran model sebelumnya;
- mengevaluasi keragaman keluaran, termasuk kinerja pada contoh yang jarang atau kelompok minoritas; dan
- menggunakan data sintetis sebagai pelengkap, bukan sebagai pengganti menyeluruh bagi data asli.
Efektivitas pendekatan tersebut bergantung pada jenis model, distribusi data, tujuan pelatihan, dan cara evaluasi. Karena itu, penggunaan data sintetis perlu disertai dokumentasi dan pemantauan terhadap perubahan distribusi keluaran dari waktu ke waktu.
Lihat pula
- Kecerdasan buatan generatif
- Model bahasa besar
- Data sintetis
- Jaringan adversarial generatif
- Pelupaan katastrofik
Referensi
- ^ a b c d e f Shumailov, Ilia; Shumaylov, Zakhar; Zhao, Yiren; Papernot, Nicolas; Anderson, Ross; Gal, Yarin. "AI models collapse when trained on recursively generated data". Nature. 631: 755–759. 2024. doi:10.1038/s41586-024-07566-y.
- ^ a b Guo, Yanzhu; Shang, Guokan; Vazirgiannis, Michalis; Clavel, Chloé. "The Curious Decline of Linguistic Diversity: Training Language Models on Synthetic Text". Findings of the Association for Computational Linguistics: NAACL 2024. 2024. doi:10.48550/arXiv.2311.09807.
Content Disclaimer
Informasi ini disarikan dari Wikipedia dan disajikan kembali untuk tujuan edukasi. Konten tersedia di bawah lisensi CC BY-SA 3.0. Kami tidak bertanggung jawab atas ketidakakuratan data yang bersumber dari kontribusi publik tersebut.
- The information displayed on this website is sourced in part or in whole from Wikipedia and has been adapted for the purpose of restating it. We strive to provide accurate and relevant information, however:
- There is no guarantee of absolute accuracy. Wikipedia is an open, collaborative project that can be edited by anyone, so information is subject to change.
- It is not intended to constitute professional advice. The content displayed is for informational and educational purposes only. For important decisions (e.g., medical, legal, or financial), please consult a professional.
- Content copyright. Wikipedia is licensed under the Creative Commons Attribution-ShareAlike License (CC BY-SA). This means that content may be reused with appropriate attribution and shared under a similar license.
- Responsible use. Any risk arising from the use of information from this website is entirely the responsibility of the user.