Menurut pemerintah Inggris, 1 dari 6 organisasi di Inggris sudah menerapkan alat AI. Teknologi ini menawarkan potensi luar biasa untuk mempercepat tugas, memperlancar alur kerja, dan memfasilitasi pengambilan keputusan secara real-time.
Meski manfaat AI terasa luas, hasil yang dihasilkan sering kali diambil begitu saja, tanpa memperhatikan integritas datanya. Ini menjadi masalah serius, terutama dalam hal bias yang bisa muncul dari data yang digunakan oleh model AI. Jika data tersebut tidak mewakili secara adil, hasil yang dihasilkan bisa jadi bias dan memperparah diskriminasi.
Bias AI adalah salah satu isu paling menonjol yang dihadapi organisasi saat ini. Untuk mengatasinya, kepercayaan dalam data harus menjadi prioritas utama. Ketidakakuratan, ketidaklengkapan, atau ketidakandalan data dalam pelatihan AI bisa menyebabkan asumsi yang tidak akurat tentang kelompok tertentu, dan ini bisa mendiskriminasikan mereka tanpa disadari.
Data Bias Membentuk Keputusan Bias
Bias dalam AI terjadi ketika teknologi secara tidak adil menggambarkan atau membuat asumsi yang tidak akurat tentang orang-orang karena data latihnya tidak tepat. Misalnya, jika sebuah mesin dilatih dengan data yang bias, ini dapat memengaruhi cara AI otomatisasi dalam melakukan tugas, sering kali merugikan kelompok tertentu.
Bias gender menjadi perhatian yang semakin besar di berbagai industri terkait inisiatif AI mereka. Misalnya, analisis dari London School of Economics (LSE) menemukan bahwa model bahasa besar seperti Google’s Gemma – yang digunakan oleh lebih dari 50 persen otoritas lokal di Inggris untuk mendukung pekerja sosial – dapat memperkenalkan bias gender dalam keputusan perawatan.
Analisis LSE menunjukkan bahwa istilah yang berkaitan dengan masalah kesehatan serius, seperti “cacat”, “tidak mampu”, dan “kompleks”, lebih sering muncul dalam deskripsi pria dibandingkan wanita. Ini berpotensi menghalangi wanita untuk mendapatkan pelayanan kesehatan yang sama dan berdampak signifikan pada kesehatan mereka.
Sebuah pola serupa juga ditemukan dalam data perekrutan. Laporan dari Nature menunjukkan bahwa model bahasa besar secara sistematis menggambarkan wanita dalam posisi profesional sebagai lebih muda dan kurang berpengalaman daripada pria. Ini berisiko merugikan wanita dalam karir mereka, mulai dari keputusan perekrutan hingga cara mereka dipersepsikan di tempat kerja.
Seiring dengan semakin banyaknya penggunaan model bahasa besar dalam sektor publik dan swasta, data yang menyebabkan bias dalam sistem ini perlu segera diperbaiki agar tidak semakin memperburuk ketidaksetaraan gender di masyarakat.
Dampak Bias Gender dalam AI
Dengan meningkatnya penggunaan AI berbasis agen, menangani data bias gender menjadi semakin penting. Berbeda dengan model bahasa besar yang menghasilkan output berbasis teks, agen AI bertindak secara otonom dalam parameter yang ditentukan oleh pengguna. Ini membawa risiko bahwa tindakan bias dapat terjadi tanpa pengawasan manusia, dengan implikasi sosial, etis, dan bisnis yang luas.
Selain itu, bias gender tidak hanya memengaruhi wanita; model AI yang beroperasi dengan data yang tidak representatif dapat menyebabkan wawasan pasar yang keliru, pengambilan keputusan yang buruk, dan kerugian finansial untuk organisasi secara keseluruhan.
Adanya bukti bias gender dalam inisiatif AI juga menghadirkan konsekuensi regulasi. Sementara Inggris telah mengadopsi pendekatan kerangka kerja lintas sektor untuk regulasi AI yang mencakup prinsip keadilan dan transparansi, Undang-Undang AI Uni Eropa melangkah lebih jauh dengan mengharuskan data set mewakili populasi secara akurat dan mengurangi bias. Ketidakpatuhan dapat menghadapi penalti hingga £30,5 juta.
Peran Manajemen Data dalam Bias AI
Pengelolaan data yang baik sangat krusial untuk mengidentifikasi dan menangani bias. Organisasi yang mengabaikan elemen-elemen integritas data seperti tata kelola, integrasi, dan wawasan geospasial, berisiko menimbulkan bias dalam inisiatif AI mereka dan dapat menghadapi ketidakpatuhan.
Mengurangi bias AI dimulai dengan mengevaluasi kembali fondasi ini. Manajemen data yang buruk dan infrastruktur TI yang terfragmentasi memainkan peran signifikan dalam menghasilkan bias, karena jika data terisolasi dan tidak mudah diakses, AI hanya terbatasi pada sebagian kecil informasi yang tersedia.
Asumsi yang dihasilkan dapat semakin parah apabila data tidak diperkaya dengan sumber pihak ketiga. Contohnya, jika data yang digunakan untuk melatih AI merujuk pada data historis yang secara tidak proporsional mengecualikan atau merugikan wanita, model dapat memperkuat pola lama dalam pengambilan keputusan, dan bukannya mencerminkan realitas saat ini.
Memastikan Integritas Data untuk Mengurangi Bias Gender
Agar masalah ini teratasi, inisiatif AI harus didukung oleh data yang berkualitas tinggi untuk menghasilkan output yang berarti dan representatif. Ini memerlukan penghapusan silo, penerapan tata kelola yang ketat, dan memperkaya data latih dengan atribut yang disusun dan wawasan spasial yang siap AI.
Ketika data terisolasi di berbagai platform, sulit untuk menciptakan pandangan akurat dari semua informasi, yang dapat mengarah pada rekomendasi yang tidak efektif. Dengan mengintegrasikan data di seluruh lingkungan cloud dan hybrid serta memastikan kelengkapan data, potensi output bias dapat diminimalkan.
Tata kelola juga sangat penting, di mana 71 persen organisasi dengan program governance melaporkan kepercayaan tinggi terhadap data mereka, dibandingkan hanya 50 persen tanpa program tersebut. Kerangka kerja tata kelola yang efektif harus mengintegrasikan keadilan dan transparansi di setiap tahap untuk memastikan kualitas tinggi, nilai, dan keandalan, sehingga mengurangi kemungkinan bias.
Organisasi juga harus memprioritaskan praktik kualitas data yang baik dan observabilitas. Memastikan kelengkapan, akurasi, dan konsistensi data sangat penting untuk menghindari ketidakrepresentasian atau distribusi gender yang tidak seimbang.
Namun, kualitas data bukanlah latihan sekali saja. Dengan menerapkan kemampuan observabilitas data, organisasi dapat terus memantau data yang masuk untuk deteksi anomali, termasuk perubahan representasi gender dari waktu ke waktu.
AI harus didukung oleh fondasi yang kontekstual dan dapat dipercaya, termasuk data pihak pertama yang diperkaya dengan sumber pihak ketiga seperti profil demografis, data alamat yang tepat, dan indikator risiko lingkungan. Ini memberikan pemahaman yang lebih luas tentang bagaimana AI mengambil keputusan.
Selain itu, transparansi sangat penting untuk memantau penggunaan AI dan memastikan kepatuhan. Organisasi harus menunjukkan apa saja data yang mendasari inisiatif AI mereka, sehingga mereka dapat mendeteksi dan menangani masalah kualitas lebih cepat dan lebih mudah.
Integritas Data adalah Kunci untuk Mengatasi Bias Gender dalam AI
Dengan semakin cepatnya pengembangan implementasi AI, jumlah organisasi yang terpapar bias terkait AI tentu akan meningkat. Mengurangi bias gender memerlukan pendekatan proaktif yang menggabungkan strategi data yang kuat dengan pengawasan berkelanjutan terhadap pengambilan keputusan algoritmik.
Sekitar 66 persen orang mengandalkan output AI tanpa menilai akurasinya, sehingga kebutuhan akan integritas data untuk mengurangi bias dalam pengambilan keputusan semakin mendesak. Dengan berinvestasi pada data yang berkualitas tinggi dan representatif, organisasi dapat meminimalkan bias dan memastikan bahwa sistem AI mereka mendukung kesetaraan gender. Hanya dengan cara itu inovasi dapat dilakukan dengan percaya diri.
