CEO OpenAI Sam Altman mengatakan bahwa perusahaannya bukanlah polisi moral setelah menerima reaksi keras atas keputusannya untuk melonggarkan pembatasan dan mengizinkan konten seperti erotika di dalam chatbot ChatGPT, rencananya pada bulan Desember mendatang.
Altman mengatakan OpenAI akan melonggarkan sebagian besar pembatasan karena memiliki tool baru dan telah mampu mengurangi masalah kesehatan mental yang serius. Ia akan mengizinkan lebih banyak konten, termasuk erotika, di ChatGPT untuk orang dewasa yang terverifikasi.
Namun kritik berdatangan soal ini. Salah satunya kelompok advokasi seperti National Center on Sexual Exploitation meminta OpenAI untuk membatalkan keputusannya untuk mengizinkan erotika di ChatGPT.
"Chatbot AI yang diseksualisasikan secara inheren berisiko, menghasilkan bahaya kesehatan mental yang nyata dari keintiman sintetis, semua dalam konteks standar keselamatan industri yang tidak terdefinisi dengan baik," kata Haley McNamara, direktur eksekutif NCOSE.
"Bagaimana mereka akan memastikan bahwa anak-anak tak dapat mengakses bagian-bagian ChatGPT yang khusus untuk dewasa dan menyediakan konten erotika? OpenAI, seperti kebanyakan perusahaan teknologi besar di bidang ini, hanya menggunakan orang seperti kelinci percobaan," kata Jenny Kim, dari firma hukum Boies Schiller Flexner.
Menanggapinya, Altman menyebut OpenAI sangat peduli dengan prinsip memperlakukan pengguna dewasa seperti orang dewasa, tapi tetap tidak akan mengizinkan hal-hal yang membahayakan orang lain.
"Dengan cara yang sama seperti masyarakat membedakan batasan-batasan lain yang sesuai (misalnya, film-film dengan rating R), kami ingin melakukan hal serupa di sini," tulis Altman yang dikutip detikINET dari CNBC.
Kebijakan baru tersebut bertentangan dengan komentar Altman saat tampil di podcast bulan Agustus, di mana ia mengatakan bangga dengan kemampuan OpenAI untuk menolak fitur-fitur tertentu, seperti avatar bot seks di ChatGPT.
Pada bulan September, Komisi Perdagangan Federal meluncurkan penyelidikan terhadap OpenAI dan perusahaan teknologi lainnya tentang bagaimana chatbot seperti ChatGPT dapat berdampak negatif terhadap anak-anak dan remaja. OpenAI juga disebut dalam gugatan kematian sebuah keluarga yang menyalahkan ChatGPT atas kematian anak remaja mereka karena bunuh diri.
OpenAI pun telah mengambil beberapa langkah untuk meningkatkan keamanan di ChatGPT. Mereka meluncurkan serangkaian kontrol orangtua akhir bulan lalu, dan sedang membangun sistem prediksi usia yang secara otomatis akan menerapkan pengaturan yang sesuai untuk remaja bagi pengguna di bawah 18 tahun.
