<

Twitter Di Bawah Elon Musk Bersandar pada Otomasi untuk Memoderasi Konten Melawan Ujaran Kebencian

Twitter Elon Musk sangat bergantung pada otomatisasi untuk memoderasi konten, menghapus ulasan manual tertentu dan mendukung pembatasan distribusi daripada menghapus ucapan tertentu secara langsung, kata kepala kepercayaan dan keamanan barunya kepada Reuters.

Twitter juga lebih agresif membatasi hastag dan hasil pencarian yang rentan disalahgunakan di area termasuk eksploitasi anak, terlepas dari dampak potensial pada “penggunaan jinak” dari istilah tersebut, kata Wakil Presiden Produk Kepercayaan dan Keamanan Twitter Ella Irwin.

“Hal terbesar yang berubah adalah tim sepenuhnya diberdayakan untuk bergerak cepat dan seagresif mungkin,” kata Irwin pada hari Kamis, dalam wawancara pertama yang diberikan oleh seorang eksekutif Twitter sejak itu. milik Musk akuisisi perusahaan media sosial pada akhir Oktober.

Komentarnya muncul ketika para peneliti melaporkan lonjakan pidato kebencian di layanan media sosial, setelah Musk mengumumkan amnesti untuk akun yang ditangguhkan di bawah kepemimpinan perusahaan sebelumnya yang tidak melanggar hukum atau terlibat dalam “spam yang mengerikan”.

Perusahaan telah menghadapi pertanyaan tajam tentang kemampuan dan kemauannya untuk memoderasi konten berbahaya dan ilegal sejak Musk memangkas setengah dari staf Twitter dan mengeluarkan ultimatum untuk bekerja berjam-jam yang mengakibatkan hilangnya ratusan karyawan lagi.

Dan pengiklan, sumber pendapatan utama Twitter, telah meninggalkan platform karena kekhawatiran tentang keamanan merek.

Pada hari Jumat, Musk berjanji “penguatan signifikan dari moderasi konten dan perlindungan kebebasan berbicara” dalam pertemuan dengan Presiden Prancis Emmanuel Macron.

Irwin mengatakan Musk mendorong tim untuk tidak terlalu khawatir tentang bagaimana tindakan mereka akan memengaruhi pertumbuhan atau pendapatan pengguna, dengan mengatakan keselamatan adalah prioritas utama perusahaan. “Dia menekankan itu setiap hari, beberapa kali sehari,” katanya.

Pendekatan terhadap keselamatan yang dijelaskan Irwin setidaknya sebagian mencerminkan percepatan perubahan yang telah direncanakan sejak tahun lalu seputar penanganan perilaku kebencian dan pelanggaran kebijakan lainnya oleh Twitter, menurut mantan karyawan yang mengetahui pekerjaan itu.

Salah satu pendekatan, yang terkandung dalam mantra industri “kebebasan berbicara, bukan kebebasan menjangkau”, mensyaratkan meninggalkan tweet tertentu yang melanggar kebijakan perusahaan tetapi melarangnya muncul di tempat-tempat seperti garis waktu beranda dan pencarian.

Twitter telah lama menerapkan alat “penyaringan visibilitas” di sekitar informasi yang salah dan telah memasukkannya ke dalam kebijakan resmi perilaku kebencian sebelum akuisisi Musk. Pendekatan ini memungkinkan untuk berbicara lebih bebas sambil mengurangi potensi bahaya yang terkait dengan konten viral yang melecehkan.

Jumlah tweet berisi konten kebencian di Twitter meningkat tajam dalam seminggu sebelum Musk men-tweet pada 23 November bahwa tayangan, atau pandangan, ujaran kebencian menurun, menurut Center for Countering Digital Hate – dalam salah satu contoh peneliti yang menunjukkan prevalensi konten semacam itu, sementara Musk mempromosikan pengurangan visibilitas.

Tweet berisi kata-kata anti-kulit hitam minggu itu meningkat tiga kali lipat dari jumlah yang terlihat pada bulan sebelum Musk mengambil alih, sementara tweet berisi cercaan gay naik 31%, kata para peneliti.

‘Lebih banyak risiko, bergerak cepat’

Irwin, yang bergabung dengan perusahaan pada bulan Juni dan sebelumnya memegang peran keselamatan di perusahaan lain termasuk Amazon.com dan Googlemenolak saran bahwa Twitter tidak memiliki sumber daya atau kemauan untuk melindungi platform.

Dia mengatakan PHK tidak berdampak signifikan terhadap karyawan tetap atau kontraktor yang bekerja pada apa yang disebut perusahaan sebagai divisi “Kesehatan”, termasuk di “area kritis” seperti keselamatan anak dan moderasi konten.

Dua sumber yang mengetahui pemotongan tersebut mengatakan bahwa lebih dari 50 persen unit teknik Kesehatan diberhentikan. Irwin tidak segera menanggapi permintaan komentar atas pernyataan tersebut, tetapi sebelumnya membantah bahwa tim Kesehatan sangat terpengaruh oleh PHK.

Dia menambahkan bahwa jumlah orang yang bekerja di bidang keselamatan anak tidak berubah sejak akuisisi, dan manajer produk untuk tim tersebut masih ada. Irwin mengatakan Twitter mengisi kembali beberapa posisi untuk orang-orang yang keluar dari perusahaan, meskipun dia menolak memberikan angka spesifik untuk tingkat pergantian tersebut.

Dia mengatakan Musk lebih fokus pada penggunaan otomasi, dengan alasan bahwa perusahaan di masa lalu telah keliru menggunakan ulasan manusia yang padat waktu dan tenaga terhadap konten berbahaya.

“Dia mendorong tim untuk mengambil lebih banyak risiko, bergerak cepat, mengamankan platform,” katanya.

Tentang keselamatan anak, misalnya, Irwin mengatakan Twitter telah beralih ke penghapusan otomatis tweet yang dilaporkan oleh tokoh tepercaya dengan rekam jejak menandai postingan berbahaya secara akurat.

Carolina Christofoletti, seorang peneliti intelijen ancaman di TRM Labs yang berspesialisasi dalam materi pelecehan seksual anak, mengatakan dia telah memperhatikan Twitter baru-baru ini menghapus beberapa konten secepat 30 detik setelah dia melaporkannya, tanpa mengakui telah menerima laporannya atau konfirmasi atas keputusannya.

Dalam wawancara pada Kamis, Irwin mengatakan Twitter menghapus sekitar 44.000 akun yang terlibat dalam pelanggaran keselamatan anak, bekerja sama dengan keamanan cyber grup Data Hantu.

Twitter juga membatasi tagar dan hasil pencarian yang sering dikaitkan dengan penyalahgunaan, seperti yang ditujukan untuk mencari pornografi “remaja”. Kekhawatiran masa lalu tentang dampak pembatasan tersebut pada penggunaan istilah yang diizinkan telah hilang, katanya.

Penggunaan “reporter tepercaya” adalah “sesuatu yang telah kami diskusikan di masa lalu di Twitter, tetapi ada beberapa keraguan dan terus terang hanya beberapa penundaan,” kata Irwin.

“Saya pikir kita sekarang memiliki kemampuan untuk benar-benar bergerak maju dengan hal-hal seperti itu,” katanya.

© Thomson Reuters 2022


Tautan afiliasi dapat dibuat secara otomatis – lihat kami Pernyataan etika untuk rincian.
<

About mukhlis.net

blogging and sharing

Leave a Reply

Your email address will not be published.