Network
“Kami membagikan kemajuan penelitian kami sejak dini untuk mulai bekerja sama dan mendapatkan masukan dari orang-orang di luar OpenAI dan untuk memberikan gambaran kepada publik tentang kemampuan AI yang ada di masa depan," lanjutnya.
Apakah OpenAI Sora aman?
OpenAI telah mengatasi masalah yang ada di dalam ruangan.
Jika Sora mampu menghasilkan video yang begitu realistis, apakah aman untuk diluncurkan ke publik?
OpenAI mengatakan pihaknya berencana menerapkan beberapa langkah keamanan penting sebelum mengintegrasikan Sora ke dalam produk OpenAI.
Hal ini melibatkan kerja sama yang erat dengan tim merah, yang ahli di bidang-bidang seperti misinformasi, konten kebencian, dan bias.
Mereka akan menguji model tersebut secara ketat untuk mengungkap potensi kelemahannya.
OpenAI juga akan membuat alat untuk mengidentifikasi konten yang menyesatkan, seperti pengklasifikasi deteksi yang mampu mengenali video yang dibuat oleh Sora.
Selain itu, OpenAI akan mengadaptasi prosedur keselamatan yang dikembangkan untuk produk seperti DALL·E 3, yang relevan untuk Sora.
Misalnya, pengklasifikasi teks mereka akan menyaring dan menolak permintaan masukan yang melanggar kebijakan penggunaan, seperti permintaan yang berisi kekerasan ekstrem, konten seksual, atau gambar kebencian.
