Perusahaan pengembang teknologi kecerdasan buatan (AI) OpenAI mengatakan bahwa model generatif GPT-4 yang dikembangkannya dapat dimanfaatkan perusahaan media sosial untuk melakukan proses moderasi konten secara lebih efisien.

Menurut laporan Tech Crunch, Rabu, kemampuan tersebut bergantung pada GPT-4 yang dipandu oleh kebijakan dalam membuat penilaian moderasi serta membuat serangkaian contoh konten uji coba yang dapat atau tidak melanggar kebijakan. Penilaian tersebut kemudian akan dilabeli oleh ahli kebijakan yang dapat digunakan untuk menyempurnakan kebijakannya.

“Dengan memeriksa perbedaan antara penilaian GPT-4 dan penilaian manusia, para ahli kebijakan dapat meminta GPT-4 untuk menemukan rasionalisasi di balik labelnya, menganalisis ambiguitas dalam definisi kebijakan, menyelesaikan kebingungan, dan memberikan klarifikasi lebih lanjut dalam kebijakan yang sesuai,” kata OpenAI dalam sebuah pernyataan.

OpenAI mengklaim bahwa dengan menggunakan GPT-4 dapat mengurangi waktu proses moderasi konten bagi perusahaan media sosial hingga beberapa jam dan model tersebut memiliki pendekatan lebih baik dibandingkan model dari pengembang lain.

Moderasi konten merupakan tugas rumit bagi perusahaan media sosial seperti induk Facebook dan Instagram, Meta, yang mengerahkan ribuan moderator di seluruh dunia untuk memblokir konten berbahaya seperti pornografi anak dan gambar kekerasan ekstrem.

Platform moderasi konten berbasis AI bukanlah hal baru. Sebelumnya, Tim Teknologi Kontra Penyalahgunaan dan Jigsaw dari Google, meluncurkan Perspective yang tersedia untuk umum beberapa tahun yang lalu.

Selain itu, beberapa perusahaan teknologi lain juga mengembangkan platform serupa seperti Spectrum Labs, Cinder, Hive dan Oterlu.