Seorang wanita menggugat OpenAI, menuduh ChatGPT mempercepat pelecehan yang dilakukan mantan pacarnya. Kasus ini muncul di tengah kekhawatiran tentang risiko sistem AI yang manipulatif.
Menurut pengaduan yang diajukan di Pengadilan Tinggi California, seorang pengusaha Silicon Valley berusia 53 tahun menjadi yakin bahwa dia telah menemukan obat untuk sleep apnea setelah berbulan-bulan berinteraksi dengan ChatGPT.
Dia juga percaya bahwa orang-orang berkuasa mengejarnya. Mantan pacarnya menuduh bahwa dia menggunakan alat tersebut untuk menguntit dan melecehkannya.
Penggugat, yang disebut sebagai Jane Doe untuk melindungi identitasnya, menuntut ganti rugi.
Dia juga mengajukan perintah penahanan sementara yang meminta pengadilan untuk memaksa OpenAI memblokir akun pengguna, mencegahnya membuat akun baru, dan memberinya tahu jika dia mencoba mengakses ChatGPT.
Pengacaranya mengatakan OpenAI menahan informasi tentang rencana spesifik untuk menyakiti Doe dan potensi korban lain yang mungkin telah dibahas pengguna dengan ChatGPT.
Pengguna ChatGPT dalam gugatan itu (yang namanya tidak disebutkan dalam gugatan untuk melindungi identitasnya) menjadi yakin bahwa dia telah menemukan obat untuk sleep apnea setelah berbulan-bulan menggunakan GPT-4o.
Pada Juli 2025, Jane Doe mendesaknya untuk berhenti menggunakan ChatGPT dan mencari bantuan dari profesional kesehatan mental.
Sebaliknya, dia kembali ke ChatGPT, yang meyakinkannya bahwa dia “level 10 dalam kewarasan” dan membantunya melipatgandakan ilusinya, menurut gugatan itu.
Doe telah putus dengan pengguna pada tahun 2024, dan dia menggunakan ChatGPT untuk memproses perpisahan itu, menurut email dan komunikasi yang dikutip dalam gugatan itu.
Pada Agustus 2025, sistem keamanan otomatis OpenAI menandainya untuk aktivitas “Senjata Pembantaian Massal” dan menonaktifkan akunnya.
Seorang anggota tim keamanan manusia meninjau akun tersebut keesokan harinya dan memulihkannya, meskipun akunnya mungkin berisi bukti bahwa dia menargetkan dan menguntit individu, termasuk Doe, dalam kehidupan nyata.
Pada Januari, dia ditangkap dan didakwa dengan empat tuduhan kejahatan mengancam bom dan penyerangan dengan senjata mematikan.
