Google Meluncurkan Fitur Topik Sensitif

Posting : 23 Dec 2020



Google Alphabet Inc tahun ini bergerak untuk memperketat kontrol atas makalah ilmuwannya dengan meluncurkan tinjauan "topik sensitif", dan dalam setidaknya tiga kasus meminta penulis menahan diri untuk tidak menampilkan teknologinya dalam sudut pandang negatif, menurut komunikasi internal dan wawancara dengan peneliti yang terlibat.  dalam pekerjaan.

Prosedur tinjauan baru Google meminta peneliti berkonsultasi dengan tim hukum, kebijakan dan hubungan masyarakat sebelum membahas topik seperti analisis wajah dan sentimen serta kategorisasi ras, jenis kelamin atau afiliasi politik, menurut halaman web internal yang menjelaskan kebijakan tersebut.

"Kemajuan teknologi dan kompleksitas yang berkembang dari lingkungan eksternal kita semakin mengarah ke situasi di mana proyek yang tampaknya tidak ofensif meningkatkan masalah etika, reputasi, peraturan atau hukum," salah satu halaman untuk staf peneliti menyatakan.  Tiga karyawan saat ini mengatakan kebijakan tersebut dimulai pada bulan Juni.

Google menolak berkomentar untuk cerita ini.

Proses "topik sensitif" menambahkan pemeriksaan yang cermat pada tinjauan standar Google atas makalah untuk menemukan jebakan seperti pengungkapan rahasia dagang, kata delapan karyawan saat ini dan mantan karyawan.

Untuk beberapa proyek, pejabat Google telah melakukan intervensi pada tahap selanjutnya.  Seorang manajer senior Google yang meninjau studi tentang teknologi rekomendasi konten tak lama sebelum publikasi musim panas ini mengatakan kepada penulis untuk "berhati-hati untuk memberikan nada positif," menurut korespondensi internal.

Manajer menambahkan, "Ini tidak berarti kita harus bersembunyi dari tantangan nyata" yang ditimbulkan oleh perangkat lunak.

Korespondensi berikutnya dari seorang peneliti kepada pengulas menunjukkan penulis "diperbarui untuk menghapus semua referensi ke produk Google."  Draf yang dilihat menyebutkan YouTube milik Google.

Empat staf peneliti, termasuk ilmuwan senior Margaret Mitchell, mengatakan mereka yakin Google mulai mengganggu studi penting tentang potensi bahaya teknologi.

"Jika kami meneliti hal yang sesuai berdasarkan keahlian kami, dan kami tidak diizinkan untuk mempublikasikannya dengan alasan yang tidak sejalan dengan tinjauan sejawat berkualitas tinggi, maka kami mengalami masalah sensor yang serius," kata Mitchell.

Google menyatakan di situs web publiknya bahwa para ilmuwannya memiliki kebebasan "substansial".

Ketegangan antara Google dan beberapa stafnya mulai terlihat bulan ini setelah ilmuwan Timnit Gebru keluar secara tiba-tiba, yang memimpin tim beranggotakan 12 orang dengan Mitchell yang berfokus pada etika dalam perangkat lunak kecerdasan buatan (AI).

Gebru mengatakan Google memecatnya setelah dia mempertanyakan perintah untuk tidak mempublikasikan penelitian yang mengklaim AI yang meniru ucapan dapat merugikan populasi yang terpinggirkan.  Google mengatakan menerima dan mempercepat pengunduran dirinya.  Tidak dapat ditentukan apakah makalah Gebru menjalani tinjauan "topik sensitif".

Wakil Presiden Senior Google Jeff Dean mengatakan dalam sebuah pernyataan bulan ini bahwa makalah Gebru membahas tentang potensi bahaya tanpa membahas upaya yang sedang dilakukan untuk mengatasinya.

Dean menambahkan bahwa Google mendukung beasiswa etika AI dan "secara aktif berupaya meningkatkan proses peninjauan makalah kami, karena kami tahu bahwa terlalu banyak pemeriksaan dan saldo dapat menjadi tidak praktis."

TOPIK SENSITIF

Ledakan dalam penelitian dan pengembangan AI di seluruh industri teknologi telah mendorong pihak berwenang di Amerika Serikat dan tempat lain untuk mengusulkan aturan penggunaannya.  Beberapa mengutip penelitian ilmiah yang menunjukkan bahwa perangkat lunak analisis wajah dan AI lainnya dapat mengabadikan bias atau mengikis privasi.

Google dalam beberapa tahun terakhir menggabungkan AI di seluruh layanannya, menggunakan teknologi untuk menafsirkan kueri penelusuran yang kompleks, memutuskan rekomendasi di YouTube, dan melengkapi kalimat secara otomatis di Gmail.  Peneliti mereka menerbitkan lebih dari 200 makalah pada tahun lalu tentang pengembangan AI secara bertanggung jawab, di antara lebih dari 1.000 proyek secara total, kata Dean.

Mempelajari layanan Google untuk bias adalah salah satu "topik sensitif" di bawah kebijakan baru perusahaan, menurut laman web internal.  Di antara lusinan "topik sensitif" lainnya yang terdaftar adalah industri minyak, China, Iran, Israel, COVID-19, keamanan rumah, asuransi, data lokasi, agama, kendaraan yang dapat mengemudi sendiri, telekomunikasi dan sistem yang merekomendasikan atau mempersonalisasi konten web.

Makalah Google di mana penulis diberitahu untuk memberikan nada positif membahas rekomendasi AI, yang digunakan layanan seperti YouTube untuk mempersonalisasi umpan konten pengguna.  Sebuah draf yang ditinjau termasuk "kekhawatiran" bahwa teknologi ini dapat mempromosikan "disinformasi, hasil yang diskriminatif atau tidak adil" dan "keragaman konten yang tidak memadai," serta mengarah pada "polarisasi politik."

Sebaliknya, publikasi terakhir mengatakan bahwa sistem dapat mempromosikan "informasi yang akurat, keadilan, dan keragaman konten."  Versi yang diterbitkan, berjudul "Apa yang Anda optimalkan? Menyelaraskan Sistem Pemberi Rekomendasi dengan Nilai Manusia", menghilangkan kredit untuk peneliti Google.

Sebuah makalah bulan ini tentang AI untuk memahami bahasa asing melunakkan referensi tentang bagaimana produk Google Terjemahan membuat kesalahan menyusul permintaan dari pengulas perusahaan, kata sebuah sumber.  Versi yang diterbitkan mengatakan penulis menggunakan Google Terjemahan, dan kalimat terpisah mengatakan bagian dari metode penelitian adalah untuk "meninjau dan memperbaiki terjemahan yang tidak akurat."

Untuk makalah yang diterbitkan minggu lalu, seorang karyawan Google menggambarkan proses tersebut sebagai "jangka panjang," yang melibatkan lebih dari 100 pertukaran email antara peneliti dan pengulas, menurut korespondensi internal.

Para peneliti menemukan bahwa AI dapat mengeluarkan data pribadi dan materi berhak cipta - termasuk halaman dari novel "Harry Potter" - yang telah ditarik dari internet untuk mengembangkan sistem.

Sebuah draf menggambarkan bagaimana pengungkapan tersebut dapat melanggar hak cipta atau melanggar hukum privasi Eropa, kata seseorang yang mengetahui masalah tersebut.  Setelah ulasan perusahaan, penulis menghilangkan risiko hukum, dan Google menerbitkan makalahnya.