Search

Bagaimana Cara Kerja XAI?



Explainable Artificial Intelligence (XAI) merupakan bagian penting dari perkembangan Artificial Intelligence (AI). Kehadirannya turut memberi banyak manfaat dalam dunia AI yang sebelumnya dipandang sebagai mystery black box, yakni kondisi ketika sebuah model memberikan informasi tanpa konteks yang komprehensif.


XAI dalam konteks Passive Liveness V4 Identifai adalah model AI yang diprogram untuk dapat memberikan penjelasan sekaligus fleksibilitas untuk mengatur threshold (ambang batas) dalam bentuk scoring. Dengan model seperti ini, tentunya pengguna dapat bisa lebih memahami dan mempercayai hasil yang dikeluarkan oleh XAI.


Hal ini selaras dengan perkembangan AI yang mengharuskan manusia harus bisa memahami dan menelusuri bagaimana suatu algoritma sampai pada suatu hasil. Oleh karena itu, melalui XAI dapat dibayangkan dampak dan potensi bias yang terjadi saat keluar suatu output. Maka, model ini menjadi penting untuk developer yang ingin melakukan fine tuning dan mengerti alasan dibalik setiap output yang diberikan oleh model yang digunakan..


Lebih jauh dari itu, saat developer memahami bagaimana suatu AI menghasilkan output tertentu, akan ada banyak manfaat yang didapat. Suatu penjelasan dapat membantu developer memastikan bahwa sistem telah bekerja sebagaimana mestinya. Mungkin juga, developer mengubah atau menantang suatu output yang dihasilkan.


Setelah mengetahui apa itu XAI dan Sebagian dari manfaatnya, Anda harus paham pula bagaimana XAI bekerja.

Bagaimana Explainable AI (XAI) Bekerja?

Dengan Explainable AI, organisasi bisa mendapatkan akses ke pengambilan keputusan yang mendasari AI dan digunakan untuk melakukan penyesuaian. Explainable AI mampu meningkatkan pengalaman produk atau layanan dengan membantu end user percaya bahwa AI telah membuat keputusan yang tepat.


Terdapat perbedaan antara AI dan XAI. Seperti telah disinggung sebelumnya, XAI menerapkan teknik spesifik dan metode-metode untuk memastikan bahwa keputusan yang diambilnya selama proses Machine Learning (ML) bisa ditelusuri dan dijelaskan.


Sedangkan, AI “biasa” bisa mencapai suatu hasil menggunakan algoritma ML, namun tidak sepenuhnya dipahami bagaimana algoritma tersebut mencapai hasil yang dikeluarkan. Sedangkan melalui XAI dengan transparansi yang tertanam dalam proses Anda, Anda dan end user lebih memahami hasilnya. Ini memungkinkan Anda untuk menjawab pertanyaan sulit seperti:

  • Mengapa perangkat lunak yang digunakan oleh departemen bedah jantung memilih Ibu Linda dari ratusan orang dalam daftar untuk transplantasi jantung?

  • Mengapa autopilot pada kendaraan menghindari kendaraan lain dari jalan, memilih melukai pengemudi tetapi menghindari ibu yang mendorong kereta bayi yang sedang menyeberang jalan?

  • Mengapa sistem pemantauan di bandara memilih untuk mencari Bapak Anto daripada penumpang lain?

  • Mengapa foto yang diunggah Ibu Linda ditolak, padahal pencahayaannya sudah sesuai?


Secara praktis pada akhirnya, XAI bisa memberi kemudahan dalam berbagai bidang, salah satunya perbankan. Dengan pemanfaatan XAI berarti turut meningkatkan pengalaman pelanggan dengan proses persetujuan pinjaman dan kredit yang transparan. Selain itu, dapat pula mempercepat penilaian risiko kredit, manajemen kekayaan, dan risiko kejahatan keuangan. XAI juga membantu mempercepat penyelesaian potensi keluhan dan masalah bahkan meningkatkan kepercayaan dalam penetapan harga, rekomendasi produk, dan layanan investasi.


XAI Sebagai Bagian dari Perkembangan Teknologi yang Penting

Untuk memahami cara kerja AI, Anda perlu memahami cara kerja perangkat lunak. Anda perlu tahu apakah itu beroperasi dengan suatu prasangka atau bias. Dengan kata lain, apakah suatu output merupakan hasil dari suatu input atau sudah ditentukan sebelumnya (terlepas dari inputnya)?


Aspek pertama dapat ditangani oleh sistem XAI adalah dalam model ini, mekanisme dan kriteria yang digunakan perangkat lunak untuk bernalar dan menghasilkan hasil tertentu harus jelas dan nyata. Dengan ini, Anda sudah mulai membangun dasar pengetahuan yang dapat dijelaskan.


Model yang mengandalkan machine learning yang eksklusif seperti pada AI “biasa” cenderung tidak memiliki tingkat transparansi yang sesuai. Akibatnya, di antara komunitas AI sendiri memberi label “sistem kotak hitam” pada AI. Metode ini sepenuhnya bertentangan dengan prinsip-prinsip Explainable AI, dan itulah sebabnya banyak masalah bias menjadi lebih besar di luar kendali.


Tujuan Explainable AI yang etis bukan hanya untuk mengurangi bias, tetapi juga memahami dari mana bias itu berasal. Bias dapat disebabkan oleh beberapa faktor termasuk siapa yang memprogram perangkat lunak, kumpulan data yang digunakan untuk melatih algoritma, atau bahkan dari serangan dunia maya. Semakin cepat Anda dapat menentukan masalahnya, semakin cepat Anda dapat mulai mengoptimalkan model dan membatasi konsekuensi negatifnya.


Pada akhirnya, pendekatan pada AI “biasa” yang menghasilkan "Saya tidak tahu mengapa itu berhasil, tetapi itu berhasil" bukanlah pendekatan yang berkelanjutan untuk AI. Jadi, jika Anda ingin membangun AI dengan cara yang benar, lakukan dari awal dengan kemampuan explainable.


Explainable AI (XAI) dapat menjadi kunci dalam sistem berbasis AI untuk memenuhi tuntutan solusi berbasis AI yang dapat dipahami, transparan, dapat ditafsirkan, dan (konsekuen) terpercaya. XAI memainkan peran mendasar dalam mendapatkan kepercayaan manusia di satu sisi sambil mendukung pedoman, standar, dan peraturan yang ditetapkan di sisi lain.


Anda sedikit banyak telah mengetahui pentingnya dan potensi penggunaan aplikasi XAI di berbagai bidang. IdentifAI melalui passive liveness V4 telah menerapkan XAI dalam sistemnya. Hal tersebut membuat sistem passive liveness IdentifAI lebih baik dalam bekerja. Karena penerapan XAI dalam passive liveness V4 IdentifAI, maka dari itu proses pemeriksaan wajah menjadi lebih baik, karena ukuran wajah dengan frame 300 x 300 p. Gambar input pun akan berisi objek wajah yang terdeteksi, juga memastikan pose (posisi) wajah, serta memastikan objek wajah tidak terhalang oleh objek lain.


Didukung dengan pemeriksaan kualitas gambar yang baik akan mempengaruhi variabel-variabel yang telah ditentukan, seperti tingkat kecerahan gambar, tingkat ketajaman, dan kontras dari gambar itu sendiri. Hal ini akan memudahkan pengguna dalam proses passive liveness jika menerapkan passive liveness V4 milik IdentifAI.


Bagi Anda yang tertarik dan ingin lebih lanjut XAI dan dan produk dari IdentifAI itu sendiri, Anda dapat mengunjungi tautan ini






12 views0 comments