Apa Itu AI, Sebenarnya? Bagaimana Ia Belajar, Menghasilkan, dan Keliru

Anda mungkin telah menggunakan kecerdasan buatan beberapa kali sebelum menyelesaikan sarapan. Layanan email memindahkan pesan mencurigakan dari pandangan. Peta membandingkan rute yang memungkinkan. Kamera ponsel menemukan wajah atau tanaman. Layanan musik mengurutkan ulang daftar. Tak satu pun momen itu terlihat seperti mesin fiksi ilmiah. Mereka tampak seperti perangkat lunak biasa yang membuat penilaian kecil atas nama Anda.

Itulah salah satu alasan AI bisa terasa lebih sulit dipahami daripada seharusnya. Antarmuka menunjukkan jawaban tetapi menyembunyikan mesinnya: tujuan yang dipilih seseorang, contoh yang digunakan untuk membangun model, sinyal yang diberikan sebagai masukan, dan pengujian yang menentukan apakah hasilnya cukup baik. AI generatif menambah lapisan kebingungan lain karena dapat menjelaskan dirinya sendiri dalam bahasa yang halus, bahkan ketika penjelasannya tidak lengkap atau salah.

Panduan ini membuka mesin itu tanpa berpura-pura bahwa setiap sistem AI bekerja dengan cara yang sama. Panduan ini mengikuti satu pertanyaan praktis dari awal hingga akhir: apa yang harus terjadi sebelum mesin dapat mengubah masukan menjadi keluaran, dan apa yang harus Anda periksa sebelum mempercayai hasilnya?

Definisi AI yang berguna

Definisi terbaru OECD mendeskripsikan sistem AI sebagai sistem berbasis mesin yang menyimpulkan dari masukannya cara menghasilkan keluaran, seperti prediksi, konten, rekomendasi, atau keputusan, yang dapat memengaruhi lingkungan fisik atau virtual. Sistem yang berbeda bervariasi dalam otonomi dan apakah mereka terus beradaptasi setelah digunakan.

Kata kerja yang penting adalah menyimpulkan. Kalkulator tradisional mengikuti aturan yang sepenuhnya menentukan cara mengubah angka menjadi jawaban. Model AI sering menangani situasi di mana menulis setiap aturan dengan tangan tidak praktis. Model tersebut memperkirakan keluaran yang berguna dari pola, batasan, atau hubungan yang dipelajari. Keluaran itu bisa sangat baik, biasa saja, atau sangat menyesatkan tergantung pada tugas dan kondisinya.

AI karena itu bukan satu produk, satu algoritme, atau pikiran digital. AI adalah payung yang mencakup banyak sistem. Pengklasifikasi spam, pengenal ucapan, prediktor struktur protein, dan model bahasa semuanya dapat sesuai dengan definisi sambil berbagi sedikit lebih dari pola masukan-model-keluaran yang luas.

Setiap sistem AI lebih dari sekadar model

Diskusi publik sering memperlakukan model sebagai seluruh mesin. Dalam praktiknya, model adalah satu komponen di dalam sistem. Lima bagian layak dipisahkan:

• Tujuan: apa yang sistem optimalkan untuk diprediksi, diperingkat, dihasilkan, atau diputuskan.
• Masukan: informasi yang tersedia pada saat digunakan, seperti piksel, kata, pembacaan sensor, lokasi, atau perilaku masa lalu.
• Model: mekanisme yang dipelajari atau direkayasa yang memetakan masukan ke hasil.
• Keluaran dan antarmuka: label, skor, rute, gambar, kalimat, atau tindakan yang ditampilkan kepada seseorang atau diteruskan ke sistem lain.
• Evaluasi dan umpan balik: pengujian, pemantauan, koreksi, dan keputusan manusia yang digunakan untuk menilai apakah sistem bekerja dalam kondisi nyata.

Pertimbangkan perencanaan rute. Tujuannya mungkin untuk meminimalkan perkiraan waktu perjalanan. Masukan mencakup jaringan jalan, lokasi saat ini, penutupan, dan sinyal lalu lintas. Model memperkirakan biaya rute yang memungkinkan. Antarmuka menyajikan satu atau lebih pilihan. Umpan balik tiba saat lalu lintas berubah dan perjalanan selesai. Hasil yang berguna berasal dari seluruh rantai, bukan dari algoritme yang terisolasi.

Tujuannya juga perlu diteliti. Sistem dapat mengoptimalkan target yang ditetapkan dan tetap menghasilkan hasil yang tidak disukai orang. Rute yang tercepat rata-rata mungkin mencakup belokan yang membuat stres. Rekomendasi yang dioptimalkan untuk klik mungkin bukan rekomendasi yang membuat seseorang paling terinformasi. Komputer tidak menemukan tujuan manusia yang tepat secara otomatis. Orang mendefinisikan target, memilih apa yang dapat diukur, dan menerima tradeoff.

Bagaimana mesin belajar dari contoh

Misalkan distributor apel ingin mengidentifikasi buah yang memar dari gambar kamera. Program berbasis aturan mungkin memeriksa warna dan bentuk menggunakan ambang batas yang ditulis oleh insinyur. Itu bisa berhasil dalam pengaturan terkontrol, tetapi apel asli bervariasi dalam varietas, kematangan, pencahayaan, sudut, dan tekstur permukaan. Pendekatan pembelajaran mesin menggunakan banyak contoh dan menyesuaikan model sehingga prediksinya semakin cocok dengan hasil yang diketahui.

Selama pelatihan, model membuat prediksi pada contoh, mengukur seberapa jauh prediksi tersebut dari hasil yang diinginkan, dan memperbarui parameter numerik untuk mengurangi kesalahan itu. Detailnya berbeda di seluruh algoritme, tetapi loopnya dapat dikenali: prediksi, ukur, sesuaikan, ulangi. Model tidak menyimpan aturan verbal seperti setiap bercak gelap adalah memar. Model tersebut mencocokkan hubungan matematis yang dapat menggabungkan banyak sinyal visual.

Pelatihan, validasi, pengujian, dan inferensi

Istilah-istilah ini menggambarkan momen yang berbeda dan tidak boleh digabungkan menjadi satu:

• Data pelatihan digunakan untuk menyesuaikan parameter model.
• Data validasi membantu memilih pengaturan dan membandingkan versi sementara pengembangan masih berlangsung.
• Data pengujian disimpan terpisah untuk memperkirakan bagaimana model yang dipilih menangani contoh yang tidak dipelajarinya secara langsung.
• Inferensi adalah saat model terlatih menerima masukan baru dan menghasilkan keluaran.

Model yang berkinerja cemerlang pada contoh yang familiar tetapi buruk pada contoh baru belum mempelajari pola yang diinginkan dengan cukup baik. Model tersebut mungkin telah menyesuaikan detail insidental dalam set pelatihannya. Machine Learning Crash Course Google memperlakukan set data, generalisasi, overfitting, evaluasi, sistem produksi, dan keadilan sebagai bagian terpisah dari pembelajaran mesin praktis untuk alasan ini. Skor pelatihan saja bukan deskripsi yang andal tentang perilaku dunia nyata.

Bahkan pengujian yang baik bisa terlalu sempit. Pengklasifikasi apel yang diuji di bawah satu kamera dan satu cahaya gudang mungkin gagal setelah digunakan di bawah yang lain. Ini adalah pergeseran distribusi: kondisi seputar masukan baru tidak lagi menyerupai kondisi yang diwakili selama pengembangan. Sistem nyata membutuhkan pemantauan karena dunia tidak menjanjikan untuk tetap seperti set pengujian.

Jaringan saraf dan pembelajaran mendalam, tanpa mitologi

Jaringan saraf adalah model yang dibangun dari lapisan operasi numerik yang terhubung. Setiap lapisan mengubah representasi menjadi representasi lain. Lapisan awal dalam model gambar dapat merespons struktur visual sederhana; lapisan kemudian dapat menggabungkan sinyal-sinyal itu menjadi pola yang lebih spesifik tugas. Pembelajaran mendalam mengacu pada jaringan saraf dengan banyak lapisan seperti itu, dilatih untuk mempelajari representasi yang berguna dari data.

Kosakata biologis adalah inspirasi historis, bukan bukti bahwa model berpikir seperti otak manusia. Jaringan dapat berisi jutaan atau miliaran parameter yang dapat disesuaikan dan tetap tidak memiliki pengalaman pribadi, niat, atau pemahaman dalam pengertian manusia biasa. Jaringan melakukan perhitungan yang dibentuk oleh arsitekturnya, tujuan pelatihan, data, dan masukan saat ini.

Pembelajaran mendalam sangat efektif di mana masukan mentah itu kompleks, termasuk gambar, audio, bahasa, dan struktur ilmiah. Kekuatannya datang dengan biaya: bisa sulit untuk menjelaskan kombinasi sinyal yang dipelajari mana yang menghasilkan keluaran tertentu, dan kinerja dapat bergantung pada set data besar, komputasi ekstensif, dan evaluasi yang cermat.

Apa yang diubah AI generatif

Pengklasifikasi memilih di antara kategori yang ditentukan. Model generatif menghasilkan materi baru yang menyerupai pola dalam distribusi pelatihannya. Tergantung pada modelnya, materi itu bisa berupa teks, gambar, audio, video, kode, atau struktur ilmiah. Generasi membuat AI terasa lebih kreatif dan percakapan, tetapi tidak menghilangkan mesin statistik yang mendasarinya.

Model bahasa besar, atau LLM, memproses teks sebagai token. Token bisa berupa kata, bagian kata, tanda baca, atau unit kecil lainnya. Dengan token yang sudah ada dalam konteks, model memperkirakan distribusi atas token berikutnya yang mungkin, memilih satu sesuai dengan pengaturan decoding sistem, menambahkannya, dan mengulangi. pengantar model bahasa besar Google menjelaskan prediksi urutan ini secara langsung.

LLM modern umumnya menggunakan arsitektur Transformer yang diperkenalkan dalam makalah 2017 Attention Is All You Need. Mekanisme perhatiannya memungkinkan model menimbang hubungan antar token dalam konteks daripada memproses setiap kata sebagai item terisolasi. Pelatihan di seluruh koleksi teks besar memungkinkan model menangkap tata bahasa, gaya, fakta berulang, pola penalaran, dan hubungan antar konsep dalam parameternya.

Itu tidak mengubah model menjadi basis data konvensional. Parameternya mengodekan hubungan statistik terdistribusi, bukan perpustakaan rapi dokumen sumber yang selalu dapat dikutip secara akurat. Teks dalam prompt dan dokumen apa pun yang disediakan saat runtime menjadi konteks, tetapi konteks memiliki batas. Beberapa aplikasi menambahkan pencarian, alat, kalkulator, atau pengambilan dokumen di sekitar model. Penambahan itu dapat meningkatkan grounding, namun jawaban akhir mungkin masih menggabungkan bukti yang diambil dengan kata-kata yang dihasilkan dan inferensi yang tidak didukung.

AI yang paling mengesankan seringkali sangat terspesialisasi

Model percakapan menerima perhatian karena siapa pun dapat mengujinya dalam hitungan detik. Tetapi nilai AI tidak terbatas pada percakapan. Sistem yang dibingkai secara sempit dapat memecahkan masalah dengan masukan, keluaran, dan kriteria evaluasi yang lebih jelas:

• Pengenal karakter optik memetakan piksel dalam gambar dokumen ke karakter yang dapat diedit.
• Model penipuan memberi peringkat transaksi untuk peninjauan lebih lanjut daripada menyatakan setiap kasus yang ditandai sebagai kriminal.
• Model cuaca memperkirakan keadaan atmosfer masa depan dari pengamatan dan struktur fisik.
• Model ilmiah memprediksi properti atau struktur molekul yang dapat dibandingkan peneliti dengan eksperimen.

PetexSpace alat gambar-ke-teks PetexSpace mengilustrasikan jenis pertama dari tugas yang terfokus. Masukannya adalah gambar, keluaran yang diinginkan adalah teks yang dapat diedit, dan hasilnya dapat diperiksa langsung terhadap sumbernya. Foto buram, tata letak yang tidak biasa, tulisan tangan, dan pengaturan bahasa yang salah masih dapat mengurangi akurasi. Tugas ini berguna sebagian karena keberhasilan dan kegagalan terlihat.

Contoh ilmiah konkret: AlphaFold

Protein melipat menjadi struktur tiga dimensi yang membantu menentukan bagaimana mereka berfungsi. Penentuan struktur eksperimental sangat penting tetapi bisa lambat dan sulit. Dalam penilaian buta yang dikenal sebagai CASP14, sistem AlphaFold memprediksi banyak struktur protein dengan akurasi yang kompetitif dengan struktur eksperimental dan secara substansial mengungguli metode komputasi lainnya. Makalah AlphaFold yang ditinjau sejawat di Nature menjelaskan model, penilaian, dan perkiraan kepercayaannya.

Contoh ini penting karena dua alasan. Pertama, ini menunjukkan bahwa AI dapat berkontribusi pada masalah ilmiah yang sulit tanpa meniru chatbot. Kedua, sistem melaporkan di mana prediksinya lebih atau kurang andal. Model ilmiah yang berguna tidak hanya menghasilkan struktur yang indah. Model tersebut memberi peneliti bukti tentang ketidakpastian dan hasil yang dapat diuji dalam proses eksperimental yang lebih besar.

Mengapa sistem AI yang cakap masih gagal

Kegagalan bukanlah cacat misterius yang ditambahkan setelah kecerdasan nyata. Itu mengikuti dari bagaimana sistem dibangun dan digunakan. Beberapa mode kegagalan dapat ada pada saat yang sama.

1. Tujuannya tidak lengkap

Target yang terukur biasanya merupakan proksi untuk hasil yang sebenarnya diinginkan orang. Mengoptimalkan proksi dapat menciptakan perilaku aneh di tepinya. Model dapat dengan benar meningkatkan skornya sambil kehilangan kualitas yang tidak pernah diwakili dalam skor itu. Penilaian manusia masuk sebelum pelatihan melalui pilihan tujuan, bukan hanya setelah kesalahan terjadi.

2. Data meninggalkan sesuatu

Contoh pelatihan mencerminkan keputusan pengumpulan dan kondisi historis. Beberapa kelompok, lingkungan, bahasa, perangkat, atau kasus langka mungkin kurang terwakili. NIST mencatat bahwa bias berbahaya dapat tertanam dalam sistem otomatis dan dapat ditingkatkan dalam kecepatan atau skala. karyanya tentang mengidentifikasi dan mengelola bias dalam AI menekankan bahwa bias lebih luas daripada masalah data teknis murni dan harus dipertimbangkan di seluruh sistem.

3. Model generatif dapat menghasilkan kepalsuan yang meyakinkan

NIST menggunakan istilah konfabulasi untuk konten generatif palsu atau salah yang disajikan dengan percaya diri. Profil AI Generatif -nya menjelaskan bahwa perilaku ini mengikuti secara alami dari model yang menghasilkan keluaran yang mendekati pola dalam data pelatihan mereka. Kalimat bisa masuk akal secara statistik tanpa didukung secara faktual. Kutipan yang dibuat-buat sangat berbahaya karena membuat jawaban yang tidak didukung terlihat diteliti.

4. Dunia berubah

Model yang dievaluasi kemarin mungkin menghadapi produk baru, bahasa baru, perilaku baru, atau taktik musuh baru besok. Akurasi bukan properti permanen yang dicetak pada model. Itu adalah pengukuran yang dibuat pada data tertentu, pada waktu tertentu, dalam kondisi tertentu.

5. Orang bisa lebih mempercayai antarmuka daripada bukti

Jawaban yang lancar, nada percaya diri, atau persentase yang tepat dapat menciptakan otoritas yang tidak layak diterima oleh bukti yang mendasarinya. Desain antarmuka dapat menyembunyikan ketidakpastian atau membuat rekomendasi terasa wajib. Risiko akhir karena itu bergantung pada perilaku model dan cara orang diminta untuk menggunakan keluaran.

Berapa banyak pemeriksaan yang dibutuhkan keluaran AI?

Jawabannya harus bergantung pada biaya menjadi salah. Memperlakukan setiap penggunaan sama berbahayanya tidak praktis. Memperlakukan setiap keluaran sama dapat dipercaya lebih buruk. Model tiga zona sederhana membantu.

Eksplorasi berisiko rendah

Bertukar pikiran nama, mengubah nada draf, menghasilkan pertanyaan latihan, atau menjelajahi beberapa cara mengatur catatan biasanya memiliki biaya kesalahan rendah. Anda dapat memeriksa hasilnya secara langsung dan membuang saran yang lemah. Model ini berguna sebagai sumber opsi, bukan sebagai otoritas.

Pekerjaan yang memerlukan verifikasi

Ringkasan penelitian, terjemahan, kode, perhitungan, perbandingan produk, dan penjelasan faktual dapat menghemat waktu, tetapi kesalahan dapat bertahan dari pembacaan cepat. Periksa klaim terhadap sumber primer, jalankan kode, reproduksi perhitungan, bandingkan terjemahan dengan konteks, dan konfirmasi bahwa materi yang dikutip mengatakan apa yang diklaim jawabannya.

Keputusan yang Berdampak Besar

Keputusan medis, hukum, keuangan, pekerjaan, keselamatan, identitas, dan akses memerlukan tinjauan yang berkualifikasi dan proses yang akuntabel. Respons AI tujuan umum tidak boleh menjadi satu-satunya dasar tindakan hanya karena cepat atau fasih. Dalam pengaturan ini, ketidakpastian, banding, dokumentasi, privasi, dan konsekuensi bagi orang yang terkena dampak sama pentingnya dengan kinerja prediktif mentah.

Alur kerja verifikasi yang memakan waktu beberapa menit

1. Pisahkan fakta dari saran. Kerangka yang diusulkan membutuhkan penilaian; klaim tentang hukum, studi, harga, atau peristiwa membutuhkan bukti.
2. Tanyakan dari mana setiap klaim penting berasal. Lalu buka sumbernya daripada mempercayai teks kutipan.
3. Utamakan materi primer bila memungkinkan: makalah penelitian, dokumentasi resmi, kumpulan data asli, regulator, standar, atau catatan langsung.
4. Periksa apakah sumbernya terkini dan apakah mendukung klaim yang tepat, bukan hanya topik umum yang sama.
5. Reproduksi perhitungan dan jalankan kode yang dihasilkan di lingkungan yang aman dengan pengujian yang representatif.
6. Bandingkan kesimpulan yang berdampak besar dengan sumber independen atau orang yang berkualifikasi yang bertanggung jawab atas domain tersebut.
7. Jika bukti tidak dapat diperiksa, turunkan keyakinan Anda atau jangan gunakan keluaran untuk keputusan itu.

Dokumentasi dapat membantu bahkan sebelum Anda mulai. Makalah penelitian tentang Model Cards for Model Reporting mengusulkan pencatatan penggunaan yang dimaksudkan, prosedur evaluasi, keterbatasan, dan kinerja di berbagai kondisi yang relevan. Demo yang dipoles memberi tahu Anda apa yang dapat dilakukan model sekali. Dokumentasi yang baik membantu mengungkap di mana model diuji dan di mana seharusnya tidak digunakan.

Tujuh pertanyaan untuk ditanyakan tentang sistem AI apa pun

1. Keluaran spesifik apa yang dihasilkan sistem ini?
2. Tujuan apa yang dibangun atau disetel untuk dioptimalkan?
3. Informasi apa yang diterimanya sekarang, dan informasi apa yang hilang?
4. Bagaimana ia diuji pada kasus yang berbeda dari contoh pelatihannya?
5. Apakah ia mengungkapkan ketidakpastian, sumber, keterbatasan, atau cara untuk menantang hasilnya?
6. Dapatkah saya memeriksa keluaran secara independen sebelum bertindak?
7. Siapa yang menanggung biaya jika sistem salah?

Pertanyaan-pertanyaan itu lebih mengungkap daripada bertanya apakah suatu alat itu cerdas. Mereka mengalihkan perhatian dari label pemasaran ke sistem yang sebenarnya: tugasnya, buktinya, batasannya, dan konsekuensinya.

Model mental yang perlu diingat

AI adalah metode untuk mengubah masukan menjadi keluaran yang disimpulkan di bawah suatu tujuan. Pembelajaran mesin membangun pemetaan itu dari contoh. Pembelajaran mendalam menggunakan jaringan saraf berlapis untuk mempelajari representasi yang kompleks. AI generatif menciptakan materi baru, dan model bahasa melakukannya dengan berulang kali memprediksi token dari konteks. Tidak satu pun dari mekanisme ini yang menjamin kebenaran, keadilan, relevansi, atau penilaian yang baik.

Bagian yang luar biasa bukanlah bahwa mesin telah menjadi manusia. Ini adalah bahwa sistem matematika yang dirancang dengan cermat dapat menemukan pola yang berguna pada skala yang tidak dapat diperiksa secara manual oleh siapa pun. Respons yang bertanggung jawab bukanlah pemujaan atau penolakan. Ini adalah rasa ingin tahu dengan standar: pahami tugasnya, cari bukti, hormati ketidakpastian, dan pertahankan tanggung jawab manusia di mana konsekuensinya nyata.

Referensi primer dan teknis

• OECD, Explanatory memorandum on the updated definition of an AI system, 2024.
• NIST, Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile, 2024.
• Vaswani et al., Attention Is All You Need, 2017.
• Jumper et al., Highly accurate protein structure prediction with AlphaFold, Nature, 2021.
• Mitchell et al., Model Cards for Model Reporting, 2019.
• Google for Developers, Machine Learning Crash Course and Introduction to Large Language Models.