Kelompok konsumen di 13 negara Eropa mendesak regulator untuk memulai investigasi terhadap risiko potensial yang ditimbulkan oleh AI generatif, seperti ChatGPT, dan memberlakukan legislasi yang ada untuk melindungi konsumen.

Seruan untuk tindakan ini bersamaan dengan rilis laporan baru oleh Forbrukerrådet, organisasi konsumen Norwegia dan anggota Bureau Européen des Unions de Consommateurs (BEUC) yang menyoroti berbagai risiko yang terkait dengan AI generatif, mengidentifikasi regulasi perlindungan yang ada, dan mengidentifikasi area di mana peraturan lebih lanjut perlu dikembangkan.

UE Didorong untuk Menyelidiki AI Generatif

Ursula Pachl, Wakil Direktur Jenderal BEUC, menekankan kekhawatiran seputar sistem AI generatif seperti ChatGPT, dengan mencatat potensi penipuan, manipulasi, dan bahaya bagi individu.

Juga ada kekhawatiran tentang penyebaran disinformasi, penguatan bias, dan aktivitas penipuan yang dimungkinkan oleh sistem AI tersebut.

"Kami mendesak otoritas keselamatan, data, dan perlindungan konsumen untuk segera memulai investigasi dan tidak menunggu untuk mengambil tindakan setelah berbagai kerugian konsumen terjadi. Hukum-hukum ini berlaku untuk semua produk dan layanan, baik yang didukung oleh AI maupun tidak, dan otoritas harus menegakannya," ujar Pachl dalam pernyataan.

Kelompok konsumen mendesak otoritas keselamatan, data, dan perlindungan konsumen untuk segera memulai investigasi daripada menunggu kerugian konsumen terjadi.

Mereka menekankan bahwa hukum yang ada berlaku untuk semua produk dan layanan, termasuk yang didukung oleh AI, dan penting bagi otoritas untuk menegakkannya dengan tegas.

Peraturan komprehensif yang akan datang mengenai sistem AI yang sedang dikembangkan oleh UE dianggap penting untuk memastikan perlindungan konsumen. Regulasi tersebut harus mengharuskan semua sistem AI, termasuk AI generatif, untuk diawasi secara publik dan memperkuat kontrol otoritas publik.

Pembuat kebijakan didesak untuk memerintahkan bahwa hasil yang dihasilkan oleh setiap sistem AI generatif aman, adil, dan transparan bagi konsumen.

BEUC telah menulis kepada otoritas keselamatan konsumen dan perlindungan konsumen pada bulan April, mendesak mereka untuk memulai investigasi karena penyebaran cepat model AI generatif seperti ChatGPT dan bahaya potensial yang terkait dengan penerapannya.

Dewan Perlindungan Data Eropa juga telah membentuk kelompok tugas untuk memeriksa ChatGPT secara khusus.

Ringkasan Risiko AI

Laporan yang diterbitkan oleh Forbrukerrådet memberikan ringkasan tantangan, risiko, dan bahaya saat ini dan masa depan yang ditimbulkan oleh AI generatif.

Beberapa tantangan ini mencakup kekhawatiran terkait kekuasaan, transparansi, dan akuntabilitas, karena beberapa pengembang AI telah membatasi pemeriksaan eksternal, sehingga sulit untuk memahami metode pengumpulan data dan proses pengambilan keputusan.

Laporan tersebut juga menyoroti kasus keluaran yang salah atau tidak akurat, di mana sistem AI generatif dapat menghasilkan konten tanpa pemahaman kontekstual, yang berpotensi menimbulkan bahaya.

Selain itu, laporan tersebut membahas manipulasi atau penipuan konsumen melalui penggunaan bahasa emosional dan pola bicara oleh chatbot AI.

Bias dan diskriminasi yang berasal dari dataset yang bias, serta kerahasiaan, integritas pribadi, dan kerentanan keamanan yang terkait dengan AI generatif, juga ditekankan sebagai keprihatinan yang signifikan.

Dalam cahaya temuan ini, kelompok konsumen mendesak regulator untuk segera mengambil tindakan untuk menyelidiki dan mengatasi risiko yang ditimbulkan oleh AI generatif sambil memastikan kepatuhan terhadap regulasi yang ada dan mengembangkan kerangka kerja yang kokoh untuk sistem AI masa depan.

Sumber: https://www.techtimes.com/articles/292813/20230620/consumer-organization-urges-eu-launch-investigations-risks-generative-ai.htm

Bagaimana pendapat Anda tentang topik ini? Sampaikan pendapat Anda kepada kami. Jangan lupa follow akun Instagram, TikTok, Youtube Digivestasi agar Anda tetap update dengan informasi terkini seputar teknologi aset digital dan investasi aset digital