Sejak awal kemunculannya, teknologi AI (Artificial Intelligence) yang dibangun oleh perusahaan OpenAI yang berbasis di San Fransisco ini telah memiliki banyak pro dan kontra dalam proses perkembangannya.

ChatGPT di launching pada November 2022, merupakan satu teknologi Chatbot menggunakan kecerdasan AI yang dibuat agar mampu menjawab beragam topik atau tema seperti layaknya diskusi antar manusia secara natural.

Namun, bukan tanpa resiko, seperti basis pada versi sebelumnya, GPT-3, yang diambil dari beragam sumber data di internet, maka bukan hal mustahil jika Chatbot ini belum mampu memfilter kata-kata ataupun konten yang layak untuk dikeluarkan.

Untuk mengurangi “toxic” tersebut, maka OpenAI membangun sebuah sistem pengaman berupa detektor untuk mendeteksinya. Sistem ini dibuat bekerja sama dengan perusahaan label data “Sama“ yang berbasis di Kenya dan mempekerjakan karyawan untuk mengajari ChatGPT agar dapat mengenal dan memfilter kata-kata atau konten negatif.

Dengan mempertimbangkan jumlah target label, kecepatan dan ketepatan, maka timbul resiko besar bagi para pekerja dan munculnya traumatis akibat terpapar banyaknya konten seperti rasisme, kekerasan, dan berbahaya secara berulang-ulang.

Seperti yang dirasakan oleh salah satu karyawan Sama yang mengatakan bahwa telah mengalami penglihatan berulang akibat membaca deskripsi grafis terkait konten fetisisme yang tidak pantas seorang laki-laki dan dipertontonkan kepada anak kecil.

Dan akibat dari hal ini, mengakibatkan perusahaan Sama telah melakukan penghentian kontrak lebih awal dari seharusnya yaitu pada Februari 2022 lalu.

Penulis: Aditiya Anggraeni

Sumber: Dirangkum dari berbagai sumber

Bagaimana pendapat Anda tentang topik ini? Sampaikan pendapat Anda kepada kami. Jangan lupa follow akun Instagram, TikTok, Youtube Digivestasi agar Anda tetap update dengan informasi terkini seputar teknologi aset digital dan investasi aset digital