OpenAI baru saja meluncurkan fitur “Images in ChatGPT” yang memungkinkan pengguna menghasilkan gambar langsung dalam antarmuka ChatGPT. Fitur ini didukung oleh model GPT-4o yang dikenal sebagai omnimodal, karena kemampuannya menghasilkan berbagai jenis data seperti teks, gambar, audio, dan video.
Salah satu peningkatan signifikan dari model ini adalah kemampuannya dalam mengikat, yaitu mempertahankan hubungan yang tepat antara atribut dan objek dalam gambar. Sebagai contoh, model ini dapat dengan akurat menggambarkan 15 hingga 20 objek dengan atribut yang berbeda tanpa banyak kesalahan, sebuah peningkatan dari model sebelumnya yang kerap mengalami kesulitan dalam tugas serupa.
Selain itu, GPT-4o menunjukkan peningkatan dalam mengolah teks pada gambar, memungkinkan pembuatan teks yang lebih tajam dan bebas dari kesalahan ejaan. Meskipun waktu yang dibutuhkan untuk menghasilkan gambar lebih lama dibandingkan model sebelumnya, OpenAI percaya bahwa kualitas dan kemampuan yang ditingkatkan sepadan dengan penantian tersebut.
Untuk mencegah penyalahgunaan, OpenAI telah menerapkan langkah-langkah keamanan yang ketat, termasuk pemblokiran konten berbahaya dan penambahan metadata C2PA untuk menandai gambar yang dihasilkan oleh AI. Pengguna memiliki hak atas gambar yang dihasilkan, selama penggunaan tersebut sesuai dengan kebijakan yang ditetapkan.
Namun, peluncuran fitur ini tidak lepas dari tantangan. Beberapa pengguna melaporkan adanya bias dalam model, di mana permintaan untuk membuat gambar “pria seksi” dipenuhi, sementara permintaan serupa untuk “wanita seksi” ditolak karena melanggar kebijakan konten. CEO OpenAI, Sam Altman, mengakui adanya bug ini dan berjanji untuk segera memperbaikinya.
Selain itu, alat video generasi AI OpenAI, Sora, pun mendapat perhatian karena diduga memerpetuasi bias seksis, rasis, dan ableis. Investigasi menemukan bahwa Sora sering menggambarkan peran pekerjaan dan penampilan fisik berdasarkan stereotip, seperti pilot dan CEO yang selalu digambarkan sebagai pria, sementara wanita ditampilkan sebagai pramugari dan resepsionis. OpenAI menyadari masalah ini dan berkomitmen untuk menguranginya melalui pelatihan data yang lebih beragam dan evaluasi risiko sosial dalam pengembangan AI.
Dengan integrasi fitur pembuatan gambar ke dalam ChatGPT, OpenAI terus berupaya memperluas kemampuan AI dalam menghasilkan konten visual yang realistis dan bermanfaat. Meskipun demikian, tantangan terkait bias dan keamanan tetap menjadi perhatian utama yang perlu ditangani seiring dengan perkembangan teknologi ini.
