KOMBINASI TEKNIK EMBEDDING DAN MAX-OVER-TIME POOLING UNTUK MENINGKATKAN CONVOLUTIONAL NEURAL NETWORK DALAM ANALISIS SENTIMEN

Analisis sentimen adalah proses menganalisis dokumen teks untuk menentukan
apakah suatu teks memiliki nuansa tertentu seperti positif atau negatif. Untuk
menganalisis sentimen data teks dalam jumlah besar, CNN sebagai metode
pembelajaran mendalam telah menunjukkan hasil yang baik pada penelitian
sebelumnya. Terdapat bagian CNN yang dapat disesuaikan untuk meningkatkan
performanya untuk tugas analisis sentimen. Penelitian ini bertujuan meningkatkan
performa CNN dalam tugas analisis sentimen dengan menggabungkan CNN
dengan beberapa teknik embedding dan max-over-time pooling. Teknik embedding
yang dibandingkan adalah Word2vec arsitektur CBOW dan Skip-gram serta Glove,
sedangkan dataset yang digunakan adalah MR, CR, dan SST-2. Hasil menunjukkan
bahwa Word2vec dan Glove memiliki performa yang kompetitif tergantung pada
dataset yang digunakan dan pengurangan dimensi embedding dapat mengurangi
resiko overfitting dan memberikan akurasi yang lebih baik dibandingkan penelitian
sebelumnya. Penggunaan mode non-static mendapatkan akurasi yang jauh lebih
baik dibandingkan static. Hal ini menunjukkan bahwa performa model lebih
dipengaruhi oleh arsitekturnya dibandingkan dengan penyematannya. Hal ini
disebabkan oleh kebutuhan untuk memperbarui embedding selama pelatihan model
menggunakan jaringan saraf konvolusional (CNN). Dengan demikian, peningkatan
akurasi yang diperoleh cenderung tidak signifikan.
Kata Kunci : Analisis Sentimen, NLP, CNN, Glove, Word2vec