Sebuah penelitian ilmiah baru-baru ini mengungkap fakta mengganggu tentang kecerdasan buatan (AI). Ternyata, model AI berbasis bahasa besar atau LLM cenderung lebih bias dalam proses seleksi karyawan dibandingkan manusia. Temuan ini menuangkan tekanan seiring makin luasnya penggunaan AI untuk menyaring pelamar kerja dan melakukan wawancara pertama.
Tim peneliti dari Princeton University dan University of Chicago menguji sejumlah model AI populer seperti ChatGPT, Claude, hingga Gemini. Para peneliti meniru proses rekrutmen nyata dengan meminta AI berperan sebagai konsultan HR yang harus memilih kandidat dari beberapa kelompok etnis.
Dalam eksperimen tersebut, AI diminta menyeleksi calon karyawan untuk dua puluh jenis pekerjaan, mulai dari dokter, pengacara, hingga petugas kebersihan. Hasilnya mengejutkan: model AI menunjukkan tingkat segregasi etnis yang lebih tinggi dibandingkan ketika manusia melakukan tes yang sama.
Penelitian ini mengungkap bahwa LLM sangat cepat membuat asumsi berdasarkan data terbatas. Ciri ini memang dirancang agar model bisa menyelesaikan soal matematika dan pemrograman, namun justru menciptakan masalah dalam konteks sosial seperti rekrutmen.
Mengapa AI Lebih Ketimbang Manusia?
Ryan Liu, mahasiswa doktoral Princeton dan penulis utama penelitian, menjelaskan bahwa model AI cenderung lebih berani membuat generalisasi dari informasi yang terbatas. Secara teknis, ini adalah hasil dari proses pelatihan yang menekankan optimalisasi jawaban benar dalam soal-soal teknis.
Ironisnya, model penalaran canggih seperti OpenAI o3 justru menunjukkan bias lebih tinggi. Model ini mencapai skor segregasi sebesar 1,83 pada skala penelitian, mendekati nilai maksimum 2,00. Sementara manusia hanya mencapai skor 0,84.
Dampak Bagi Dunia Kerja
Ketika perusahaan kini sudah banyak menggunakan AI untuk menyaring CV dan melakukan wawancara awal, temuan ini menjadi peringatan penting. Bias yang dibentuk AI bisa memperburuk kesenjangan representasi di tempat kerja, terutama bagi kelompok etnis minoritas.
Fitur memori dan personalisasi pada chatbot HR juga dinilai berkontribusi pada bias ini. Model AI bisa terlalu bergantung pada pola data sebelumnya dan pengalaman yang diingat, sehingga semakin mengukuhkan stereotip yang ada.
Solusi Apa yang Bisa Dilakukan?
Para peneliti menemukan bahwa instruksi untuk berlaku adil saja tidak cukup mengubah hasil. Namun, saat model diberikan insentif tambahan untuk melakukan rekrutmen yang beragam, kecenderungan bias berkurang signifikan.
Selain itu, model AI juga tampak lebih sedikit melakukan segregasi etnis ketika diberikan informasi lain yang relevan, seperti usia dan latar belakang pendidikan kandidat. Ini menunjukkan bahwa konteks yang lebih kaya dapat membantu model membuat keputusan yang lebih adil.
Intinya, AI memang powerful untuk mempercepat rekrutmen, tetapi tanpa pengawasan dan desain yang benar, justru bisa menciptakan diskriminasi yang lebih sistematis. Perusahaan yang mengadopsi AI dalam HR perlu menyadari risiko ini dan menerapkan mekanisme audit yang ketat.
Studi ini juga menganjurkan perlunya regulasi yang jelas penggunaan AI dalam proses penerimaan kerja. Tanpa pedoman yang kokoh, teknologi yang seharusnya memudahkan justru bisa memperlebar jurang ketidakadilan di dunia kerja.
Dengan kata lain, AI bukanlah solusi ajaib untuk rekrutmen yang bebas bias. Manajemen SDM perlu tetap memadukan teknologi dengan kepekaan manusiawi agar tidak melupakan nilai-nilai keadilan dalam pencarian talenta.
