Sebuah penelitian ilmiah baru-baru ini mengungkap fakta mengganggu tentang kecerdasan buatan (AI). Ternyata, model AI berbasis bahasa besar atau large language model (LLM) cenderung lebih bias dalam proses seleksi karyawan dibandingkan manusia. Temuan ini menuangkan tekanan seiring makin luasnya penggunaan AI untuk menyaring pelamar kerja dan melakukan wawancara pertama.
Tim peneliti dari Princeton University dan University of Chicago menguji sejumlah model AI populer seperti ChatGPT, Claude, hingga Gemini. Para peneliti meniru proses rekrutmen nyata dengan meminta AI berperan sebagai konsultan HR yang harus memilih kandidat dari empat kelompok etnis within sebuah kota fiktif untuk dua puluh jenis pekerjaan. Pekerjaan tersebut berkebarangan dari profesi profesional seperti dokter dan pengacara hingga pekerjaan layanan seperti petugas kebersihan.
Hasilnya mengejutkan: model AI menunjukkan tingkat segregasi etnis yang lebih tinggi dibandingkan ketika manusia melakukan tes yang sama. Peserta manusia dalam studi sebelumnya mencatat skor segregasi sebesar 0,84, sementara model AI mencatat skor sekitar 65 persen lebih tinggi. OpenAI o3 bahkan mencapai skor 1,83 yang mendekati nilai maksimum 2,00.
Penelitian ini mengungkap bahwa LLM sangat cepat membuat asumsi berdasarkan data terbatas. Ciri ini memang dirancang agar model bisa menyelesaikan soal matematika dan pemrograman, namun justru menciptakan masalah dalam konteks sosial seperti rekrutmen. Model tidak diberi tahu bahwa semua kandidat memiliki peluang keberhasilan yang sama, sehingga mereka secara otomatis membentuk stereotip berdasarkan pola data pelatihan.
Dampak Besar untuk Dunia Kerja Modern
Ryan Liu, mahasiswa doktoral Princeton dan penulis utama penelitian, menjelaskan bahwa model AI cenderung lebih berani membuat generalisasi dari informasi yang terbatas. Secara teknis, ini adalah hasil dari proses pelatihan yang menekankan optimalisasi jawaban benar dalam soal-soal teknis. Karenanya, ketika dihadapkan pada data yang tidak lengkap, LLM akan langsung mengisi kekosongan dengan pola bias yang sudah ada di dalam basis datanya.
Ironisnya, model penalaran canggih seperti OpenAI o3 justru menunjukkan bias lebih tinggi dibanding model dengan kemampuan penalaran standar. Temuan ini melawan asumsi umum bahwa teknologi yang lebih pintar pasti lebih adil. Model yang lebih kuat secara komputasi ternyata lebih gigih dalam menguatkan stereotip yang ada.
Ketika perusahaan kini sudah banyak menggunakan AI untuk menyaring CV, melakukan wawancara awal, atau bahkan menilai kelayakan kandidat, temuan ini menjadi peringatan penting. Bias yang dibentuk AI bisa memperburuk kesenjangan representasi di tempat kerja, terutama bagi kelompok etnis minoritas. Algoritma yang seharusnya netral justru bisa menyalurkan diskriminasi secara tersembunyi.
Mengapa Bisa Terjadi Segregasi Beretnis?
Fitur memori dan personalisasi pada chatbot HR juga dinilai berkontribusi pada bias ini. Model AI bisa terlalu bergantung pada pola data sebelumnya dan pengalaman yang diingat, sehingga semakin mengukuhkan stereotip yang ada. Jika dalam proses sebelumnya mayoritas karyawan berasal dari satu kelompok tertentu, model akan cenderung memilih kandidat yang serupa di masa depan.
Peneliti menemukan bahwa instruksi eksplisit agar model bersikap adil tidak banyak mengubah hasil. Namun, model menjadi lebih tidak bias ketika diberi insentif tambahan untuk melakukan rekrutmen yang beragam. Ini menunjukkan bahwa pendekatan hanyar punitive punishment seperti “berlaku adil” tidak cukup; diperlukan desain insentif struktural.
Selain itu, model AI juga tampak lebih jarang melakukan segregasi etnis ketika memperoleh informasi pribadi yang relevan, seperti usia dan pendidikan kandidat. Konteks yang lebih kaya dapat membantu model membuat keputusan yang lebih adil. Sayangnya, banyak sistem HR modern hanya memproses data terbatas seperti nama dan riwayat pendidikan singkat, tanpa informasi kontekstual yang lengkap.
Solusi dan Langkah Pencegahan
Intinya, AI memang powerful untuk mempercepat rekrutmen, tetapi tanpa pengawasan dan desain yang benar, justru bisa menciptakan diskriminasi yang lebih sistematis dibanding manusia. Perusahaan yang mengadopsi AI dalam HR perlu menyadari risiko ini dan menerapkan mekanisme audit yang ketat.
Studi ini menggar-isbawahi perlunya regulasi yang jelas penggunaan AI dalam proses penerimaan kerja. Tanpa pedoman yang kokoh, teknologi yang seharusnya memudahkan justru bisa memperlebar jurang ketidakadilan di dunia kerja. Pemerintah dan organisasi profesi perlu menetapkan standar transparansi yang mewajibkan perusahaan mengungkapkan bagaimana AI digunakan dalam rekrutmen.
Dengan kata lain, AI bukanlah solusi ajaib untuk rekrutmen yang bebas bias. Manajemen SDM perlu tetap memadukan teknologi dengan kepekaan manusiawi agar tidak melupakan nilai-nilai keadilan dalam pencarian talenta. Teknologi harus melengkapi intuisi manusia, bukan menggantikannya sepenuhnya.
Hal ini juga mengingatkan kita bahwa etika AI bukan hanya sekadar permasalahan teknis, tetapi juga masalah sosial yang kompleks. Pengembang sistem HR berbasis AI tidak cukup hanya menambahkan baris kode untuk mendeteksi bias; mereka perlu memahami konteks budaya dan struktur sosial yang mendasari proses rekrutmen.
Beberapa perusahaan mulai mengadopsi pendekatan human-in-the-loop, di mana keputusan akhir tetap dipegang oleh manusia. Meski tidak sempurna, pendekatan ini setidaknya dapat mengurangi dampak buruk dari bias algoritma. Kombinasi antara efisiensi AI dan penilaian manusiawi masih menjadi formula terbaik untuk rekrutmen yang adil dan berkualitas.
Penutup
Studi dari Princeton dan University of Chicago ini membuka mata akan Bahaya laten yang ada di balik adoptasi AI dalam proses SDM. Kita memang tidak bisa menolak kemajuan teknologi, tetapi kita wajib menggunakannya dengan bijak dan bertanggung jawab. Tanpa pengawasan, AI hanya akan mempercepat bias yang sudah ada selama ini.
