Siapakah para pionir AI? Analisis komprehensif tentang revolusi pembelajaran mendalam – Gambar: Xpert.Digital
Lupakan ChatGPT: Makalah Google tahun 2017 'Attention Is All You Need' adalah alasan sebenarnya di balik ledakan AI
Apa yang dimaksud dengan Era Pembelajaran Mendalam (Deep Learning)?
Era Deep Learning merujuk pada periode sejak tahun 2010 di mana perkembangan kecerdasan buatan telah mengalami percepatan fundamental karena beberapa terobosan teknologi. Era ini menandai titik balik dalam sejarah AI, karena untuk pertama kalinya prasyarat yang diperlukan untuk melatih jaringan saraf kompleks bersatu: daya komputasi yang memadai, kumpulan data yang besar, dan algoritma yang lebih baik.
Istilah pembelajaran mendalam (deep learning) merujuk pada jaringan saraf berlapis-lapis yang dapat secara otomatis mengekstrak fitur abstrak dari data. Berbeda dengan pendekatan sebelumnya, sistem ini tidak lagi perlu diprogram secara manual untuk mengenali fitur-fitur spesifik; sebaliknya, mereka mempelajari pola-pola ini secara independen dari data pelatihan.
Berkaitan dengan ini:
Mengapa Revolusi Pembelajaran Mendalam dimulai pada tahun 2010?
Tahun 2010 merupakan tahun yang sangat penting, karena tiga perkembangan krusial terjadi secara bersamaan. Pertama, basis data ImageNet dirilis, berisi lebih dari 10 juta gambar berlabel dalam 1000 kategori, sehingga untuk pertama kalinya menyediakan kumpulan data yang cukup besar untuk melatih jaringan saraf dalam (deep neural networks).
Kedua, unit pemrosesan grafis (GPU) telah menjadi cukup kuat untuk memungkinkan pemrosesan paralel sejumlah besar data. Platform CUDA NVIDIA, yang diperkenalkan pada tahun 2007, memungkinkan para peneliti untuk melakukan perhitungan intensif yang diperlukan untuk pembelajaran mendalam.
Ketiga, peningkatan algoritma, khususnya penggunaan fungsi aktivasi ReLU sebagai pengganti fungsi sigmoid tradisional, telah secara signifikan mempercepat pelatihan. Konvergensi ini akhirnya memungkinkan untuk mempraktikkan fondasi teoretis dari tahun 1980-an.
Terobosan apa yang menandai awal Revolusi Pembelajaran Mendalam (Deep Learning)?
Terobosan penting terjadi pada tanggal 30 September 2012, dengan kemenangan AlexNet dalam kompetisi ImageNet. Jaringan saraf konvolusional yang dikembangkan oleh Alex Krizhevsky, Ilya Sutskever, dan Geoffrey Hinton ini mencapai tingkat kesalahan 5 besar sebesar 15,3 persen, lebih dari 10 poin persentase lebih baik daripada algoritma peringkat kedua.
AlexNet adalah kombinasi sukses pertama dari jaringan saraf dalam (deep neural networks), kumpulan data besar, dan komputasi GPU. Hebatnya, pelatihan tersebut berlangsung hanya dengan dua kartu grafis NVIDIA di kamar tidur Krizhevsky. Keberhasilan ini membuktikan kepada komunitas ilmiah bahwa pembelajaran mendalam (deep learning) tidak hanya menarik secara teoritis tetapi juga unggul secara praktis.
Keberhasilan AlexNet memicu serangkaian perkembangan. Pada awal tahun 2015, model SENet, dengan tingkat kesalahan 2,25 persen, bahkan melampaui tingkat pengenalan manusia pada ImageNet. Peningkatan dramatis hanya dalam beberapa tahun ini menunjukkan potensi luar biasa dari teknologi pembelajaran mendalam.
Apa peran arsitektur Transformer?
Pada tahun 2017, tim Google menerbitkan makalah inovatif berjudul “Attention Is All You Need,” yang memperkenalkan arsitektur Transformer. Arsitektur ini merevolusi pemrosesan bahasa alami dengan sepenuhnya mengandalkan mekanisme perhatian dan menghilangkan kebutuhan akan jaringan saraf berulang (recurrent neural networks).
Yang membuat transformer istimewa adalah kemampuannya untuk pemrosesan paralel: Sementara model sebelumnya harus bekerja secara berurutan, kata demi kata, transformer dapat memproses seluruh kalimat secara bersamaan. Mekanisme self-attention memungkinkan model untuk memahami hubungan antara semua kata dalam sebuah kalimat, terlepas dari posisinya.
Arsitektur Transformer menjadi dasar bagi semua model bahasa utama modern, dari BERT dan GPT hingga Gemini. Makalah aslinya telah dikutip lebih dari 173.000 kali pada tahun 2025 dan dianggap sebagai salah satu karya ilmiah paling berpengaruh di abad ke-21.
Mengapa Google menjadi pelopor AI terkemuka?
Menurut analisis Epoch AI, Google memimpin bidang ini dengan selisih yang cukup besar dengan 168 model AI yang "signifikan". Dominasi ini dapat dijelaskan oleh beberapa keputusan strategis yang dibuat perusahaan sejak awal.
Google berinvestasi besar-besaran dalam penelitian AI sejak awal tahun 2000-an dan menyadari potensi jaringan saraf sejak dini. Akuisisi DeepMind pada tahun 2014 membawa keahlian tambahan bagi perusahaan. Yang terpenting, peluncuran kerangka kerja TensorFlow sebagai sumber terbuka pada tahun 2015 mempercepat pengembangan AI di seluruh dunia.
Kontribusi Google terhadap arsitektur Transformer sangat signifikan. Makalah yang diterbitkan pada tahun 2017 oleh para peneliti Google ini meletakkan dasar bagi AI generatif saat ini. Berdasarkan hal tersebut, Google mengembangkan BERT (2018), yang merevolusi pemrosesan bahasa alami, dan kemudian model Gemini.
Integrasi erat antara riset dan pengembangan produk di Google semakin berkontribusi pada visibilitasnya yang tinggi. Model AI terintegrasi langsung ke dalam layanan Google seperti pencarian, YouTube, dan Android, yang berkontribusi pada penggunaan praktis dan dengan demikian memenuhi kriteria untuk model yang "patut diperhatikan".
Berkaitan dengan ini:
Bagaimana Microsoft, OpenAI, dan Meta berkembang?
Microsoft menempati peringkat kedua dengan 43 model AI yang patut diperhatikan. Perusahaan ini mendapat manfaat dari kemitraan strategisnya dengan OpenAI, di mana Microsoft menginvestasikan beberapa miliar dolar. Kolaborasi ini memungkinkan Microsoft untuk mengintegrasikan model GPT lebih awal ke dalam produk-produk seperti Bing dan Copilot.
OpenAI, dengan 40 model, menempati peringkat ketiga meskipun baru didirikan pada tahun 2015. Pengembangan seri GPT, dari GPT-1 (2018) hingga model terkini seperti GPT-4 dan o3, menjadikan OpenAI sebagai pengembang terkemuka model bahasa skala besar. ChatGPT, yang dirilis pada tahun 2022, mencapai satu juta pengguna dalam waktu lima hari, membawa AI ke perhatian publik.
Meta (Facebook) mengembangkan seri LLaMA dengan 35 model sebagai alternatif sumber terbuka untuk model berpemilik. Model LLaMA, terutama LLaMA 3 dan LLaMA 4 yang lebih baru, menunjukkan bahwa model sumber terbuka dapat bersaing dengan solusi berpemilik.
Berkaitan dengan ini:
Apa yang membuat model AI "patut diperhatikan"?
Epoch AI mendefinisikan model AI sebagai "patut diperhatikan" jika memenuhi setidaknya satu dari empat kriteria. Pertama, model tersebut harus menunjukkan peningkatan teknis dibandingkan dengan tolok ukur yang diakui. Kedua, model tersebut harus mencapai tingkat sitasi yang tinggi, yaitu lebih dari 1.000 sitasi. Ketiga, relevansi historis dapat menjadi kriteria, meskipun model tersebut sekarang secara teknis sudah usang. Keempat, kegunaan praktis yang signifikan juga dipertimbangkan.
Definisi ini tidak hanya berfokus pada kemajuan teknologi, tetapi juga pada dampak dan relevansi aktual di bidang ilmiah dan ekonomi. Oleh karena itu, suatu model dapat dianggap penting jika model tersebut memiliki penerapan praktis yang luas, meskipun model tersebut belum tentu yang paling canggih secara teknologi.
Basis data Epoch AI terdiri dari lebih dari 2.400 model pembelajaran mesin dari tahun 1950 hingga saat ini, menjadikannya koleksi terbesar yang tersedia untuk umum dari jenisnya. Kumpulan data komprehensif ini memungkinkan analisis yang beralasan tentang perkembangan AI selama lebih dari 70 tahun.
Bagaimana AI berkembang sebelum era Deep Learning?
Sejarah kecerdasan buatan sebelum tahun 2010 ditandai oleh siklus optimisme dan kekecewaan. Pada tahun 1950-an dan 1960-an, terdapat optimisme yang besar, yang dilambangkan oleh Perceptron karya Frank Rosenblatt (1957). Jaringan saraf awal ini membangkitkan harapan akan kedatangan kecerdasan buatan yang akan segera terjadi.
Musim dingin AI pertama dimulai pada awal tahun 1970-an, dipicu oleh buku Marvin Minsky dan Seymour Papert tentang batasan perseptron (1969). Laporan Lighthill tahun 1973 untuk Parlemen Inggris menyebabkan pemotongan drastis dalam pendanaan penelitian. Periode ini berlangsung hingga sekitar tahun 1980 dan secara signifikan memperlambat penelitian AI.
Dekade 1980-an menyaksikan pemulihan melalui sistem pakar seperti MYCIN, sebuah sistem diagnostik medis. Pada saat yang sama, pada tahun 1986, Geoffrey Hinton, David Rumelhart, dan Ronald Williams mengembangkan algoritma backpropagation, yang membuat jaringan saraf dapat dilatih. Sejak tahun 1989, Yann LeCun mengembangkan LeNet, sebuah jaringan saraf konvolusional awal untuk pengenalan tulisan tangan.
Musim dingin AI kedua terjadi pada akhir tahun 1980-an, ketika harapan tinggi terhadap sistem pakar dan mesin LISP pupus. Fase ini berlangsung hingga tahun 1990-an dan ditandai dengan skeptisisme terhadap jaringan saraf.
Landasan teknologi apa yang memungkinkan pembelajaran mendalam (deep learning)?
Tiga terobosan penting memungkinkan revolusi pembelajaran mendalam. Pengembangan GPU yang canggih sangat mendasar, karena memungkinkan pemrosesan paralel sejumlah besar data. Platform CUDA NVIDIA dari tahun 2007 membuat komputasi GPU dapat diakses untuk pembelajaran mesin.
Persyaratan kedua adalah kumpulan data yang besar dan berkualitas tinggi. ImageNet, yang diterbitkan oleh Fei-Fei Li pada tahun 2010, adalah yang pertama menawarkan kumpulan data dengan lebih dari 10 juta gambar berlabel. Jumlah data ini diperlukan untuk melatih jaringan saraf dalam secara efektif.
Peningkatan algoritma menjadi pilar ketiga. Penggunaan fungsi aktivasi ReLU sebagai pengganti fungsi sigmoid secara signifikan mempercepat pelatihan. Metode optimasi yang lebih baik dan teknik regularisasi seperti dropout membantu mengatasi masalah overfitting.
Bagaimana perkembangan biaya komputasi untuk pelatihan AI?
Biaya pelatihan untuk model AI telah meningkat secara eksponensial. Model Transformer asli hanya membutuhkan biaya $930 untuk pelatihan pada tahun 2017. BERT-Large sudah menelan biaya $3.300 pada tahun 2018, sementara GPT-3 menghabiskan sekitar $4,3 juta pada tahun 2020.
Model-model modern mencapai biaya yang bahkan lebih ekstrem: GPT-4 diperkirakan menelan biaya $78,4 juta, sementara Gemini Ultra milik Google, dengan biaya sekitar $191,4 juta, mungkin merupakan model termahal yang pernah dilatih hingga saat ini. Tren ini mencerminkan peningkatan kompleksitas dan ukuran model.
Menurut Epoch AI, daya komputasi yang dibutuhkan untuk pelatihan meningkat dua kali lipat setiap sekitar lima bulan. Perkembangan ini jauh melampaui Hukum Moore dan menunjukkan pesatnya perkembangan penelitian AI. Pada saat yang sama, hal ini menyebabkan konsentrasi pengembangan AI di tangan beberapa perusahaan yang memiliki sumber daya yang dibutuhkan.
Berkaitan dengan ini:
Apa saja tantangan yang ada untuk pengembangan AI lebih lanjut?
Pengembangan AI menghadapi beberapa tantangan signifikan. Model penalaran yang dioptimalkan untuk pemikiran logis yang kompleks dapat mencapai batas skalabilitasnya paling cepat pada tahun 2026. Biaya komputasi yang sangat besar membatasi jumlah pemain yang dapat berpartisipasi dalam penelitian AI mutakhir.
Masalah teknis seperti halusinasi, di mana sistem AI menghasilkan informasi palsu, belum sepenuhnya terpecahkan. Pada saat yang sama, pertanyaan etis muncul dari kemungkinan menghasilkan konten yang tampak realistis secara menipu, seperti yang ditunjukkan oleh gambar AI Paus yang mengenakan mantel bulu angsa yang viral.
Ketersediaan data pelatihan berkualitas tinggi semakin menjadi kendala. Banyak model telah dilatih menggunakan sebagian besar data internet yang tersedia, sehingga diperlukan pendekatan baru untuk menghasilkan data.
Bagaimana perkembangan AI memengaruhi masyarakat?
Revolusi pembelajaran mendalam (deep learning) telah memberikan dampak sosial yang sangat besar. Sistem AI digunakan di bidang-bidang penting seperti diagnostik medis, keuangan, dan kendaraan otonom. Potensi perubahan positifnya sangat besar, mulai dari mempercepat penemuan ilmiah hingga mempersonalisasi pendidikan.
Pada saat yang sama, risiko baru muncul. Kemampuan untuk menciptakan konten palsu yang realistis mengancam integritas informasi. Lapangan pekerjaan dapat terancam oleh otomatisasi, dengan Kementerian Tenaga Kerja Federal memperkirakan bahwa pada tahun 2035 tidak akan ada pekerjaan yang mungkin dilakukan tanpa perangkat lunak AI.
Konsentrasi kekuatan AI di tangan beberapa perusahaan teknologi menimbulkan pertanyaan tentang kontrol demokratis atas teknologi yang ampuh ini. Para ahli seperti Geoffrey Hinton, salah satu pelopor pembelajaran mendalam, telah memperingatkan tentang potensi bahaya sistem AI di masa depan.
Para pionir AI di era Deep Learning telah menciptakan teknologi yang berpotensi mengubah umat manusia secara fundamental. Kepemimpinan Google dalam mengembangkan 168 model AI penting, diikuti oleh Microsoft, OpenAI, dan Meta, menunjukkan konsentrasi kekuatan inovasi di tangan beberapa pemain kunci. Revolusi Deep Learning, yang dimulai pada tahun 2010 dan diprakarsai oleh terobosan seperti AlexNet dan arsitektur Transformer, telah mengubah kehidupan kita sehari-hari dan akan melakukannya lebih mendalam lagi di masa depan. Tantangannya terletak pada pemanfaatan teknologi yang ampuh ini untuk kepentingan umat manusia sekaligus meminimalkan risikonya.
Berkaitan dengan ini:
Pakar industri transformasi AI, integrasi AI, dan platform AI Anda
☑️ Bahasa bisnis kami adalah bahasa Inggris atau Jerman
☑️ BARU: Korespondensi dalam bahasa ibu Anda!
Konrad Wolfenstein
Saya dan tim saya dengan senang hati siap membantu Anda sebagai penasihat pribadi Anda.
Anda dapat menghubungi saya dengan mengisi formulir kontak di sini wolfenstein@xpert.digital:atau cukup hubungi saya di +49 7348 4088 965. Alamat email saya adalah
Saya sangat menantikan proyek bersama kita.
