Mengenal OpenAI GPT-3

Model belajar terbaru OpenAI kembali viral; sama seperti pendahulunya. Banyak pengguna internet yang memuji kemampuannya yang intuitif, mulai dari menulis artikel, menjawab pertanyaan hingga menulis baris kode dan pekerjaan rumit lainnya.

Pengertian GPT-3

Generative Pre-trained Transformer 3 (GPT-3) adalah model bahasa yang memanfaatkan deep learning untuk menghasilkan teks (output) mirip manusia. Tidak hanya dapat menghasilkan teks, tetapi juga dapat menghasilkan kode, cerita, puisi, dan lain-lain. Karena kemampuan dan alasan ini, GPT-3 telah menjadi topik hangat di bidang pemrosesan bahasa alami (NLP, cabang pembantu penting dari ilmu data).

GPT-3 diperkenalkan oleh Open AI pada awal Mei 2020 sebagai penerus dari GPT-2. GPT-3 dianggap lebih baik dan lebih besar dari GPT-2 karena memiliki lebih dari 175 miliar parameter yang dilatih. Forbes mengungkapkan bahwa sekitar 570GB informasi teks telah dikumpulkan dengan merayapi internet (metode ini dikenal sebagai CommonCrawl), juga teks lain yang dipilih oleh OpenAI, termasuk Wikipedia. Sejauh ini, GPT-3 adalah model terbesar yang dilatih sejauh ini jika dibandingkan dengan model bahasa lainnya.

Language Model

Language Model adalah alat statistik untuk memprediksi kata berikutinya secara berurutan. Singkatnya, Language Model adalah distribusi probabilitas atas urutan kata. Language Model memiliki banyak jenis yaitu:

• Penandaan Part of Speech (PoS)
• Mesin penerjemah
• Klasifikasi teks
• Pengenalan suara
• Pengambilan informasi
• Pembuatan artikel berita

Contoh GPT3

Salah satu contoh penggunaan GPT-3 yang paling inovatif adalah ChatGPT. ChatGPT merupakan varian dari model GPT-3 yang dioptimalkan untuk dialog manusia. ChatGPT dibuat gratis untuk umum selama pratinjau penelitiannya untuk mengumpulkan umpan balik pengguna. ChatGPT dirancang sebagian untuk mengurangi kemungkinan tanggapan yang berbahaya atau menipu. Hasil akhirnya, ChatGPT akan menjadi salah satu AI yang cerdas karena telah menerima berbagai masukan dari penggunanya selama ini.

Contoh umum lainnya adalah Dall-E. Dall-E adalah jaringan saraf penghasil gambar AI yang dibangun di atas versi 12 miliar parameter dari GPT-3. Dall-E dilatih pada kumpulan data pasangan teks-gambar dan dapat menghasilkan gambar dari permintaan teks yang dikirimkan pengguna. ChatGPT dan Dall-E dikembangkan oleh OpenAI.