<

Hai Siri: Asisten Virtual Mendengarkan Anak-Anak dan Menggunakan Data

Di banyak rumah tangga yang sibuk di seluruh dunia, tidak jarang anak-anak meneriakkan arahan ke Apple Siri atau Amazon Alexa. Mereka mungkin membuat permainan dengan menanyakan kepada asisten pribadi yang diaktifkan suara (VAPA) jam berapa sekarang, atau meminta lagu populer. Meskipun ini mungkin tampak seperti bagian biasa dari kehidupan rumah tangga, masih banyak lagi yang terjadi. VAPA terus-menerus mendengarkan, merekam, dan memproses kejadian akustik dalam proses yang dijuluki “eavesmining”, gabungan dari eavesdropping dan datamining. Hal ini menimbulkan kekhawatiran yang signifikan yang berkaitan dengan masalah privasi dan pengawasan, serta diskriminasi, karena jejak sonik kehidupan masyarakat menjadi datafied dan diteliti oleh algoritma.

Kekhawatiran ini meningkat saat kami menerapkannya pada anak-anak. Data mereka terakumulasi selama masa hidup dengan cara yang jauh melampaui apa yang pernah dikumpulkan pada orang tua mereka dengan konsekuensi luas yang bahkan belum kita pahami.

Selalu mendengarkan

Adopsi VAPA berjalan dengan kecepatan yang mengejutkan karena mencakup telepon seluler, speaker pintar, dan produk dengan jumlah yang terus meningkat yang terhubung ke Internet. Ini termasuk mainan digital anak-anak, sistem keamanan rumah yang mendengarkan pembobolan, dan bel pintu pintar yang dapat menangkap percakapan di trotoar.

Ada masalah mendesak yang berasal dari pengumpulan, penyimpanan, dan analisis data sonik yang berkaitan dengan orang tua, remaja, dan anak-anak. Alarm telah dimunculkan di masa lalu — pada tahun 2014, pendukung privasi menyuarakan keprihatinan tentang seberapa besar Amazon Echo sedang mendengarkan, data apa yang dikumpulkan dan bagaimana data akan digunakan oleh mesin rekomendasi Amazon.

Namun, terlepas dari kekhawatiran ini, VAPA dan sistem penyadapan lainnya telah menyebar secara eksponensial. Riset pasar baru-baru ini memperkirakan bahwa pada tahun 2024, jumlah perangkat yang diaktifkan dengan suara akan meledak hingga lebih dari 8,4 miliar.

Merekam lebih dari sekedar ucapan

Ada lebih banyak yang dikumpulkan daripada hanya pernyataan yang diucapkan, karena VAPA dan sistem penyadap lainnya mendengar fitur pribadi dari suara yang tanpa sadar mengungkapkan atribut biometrik dan perilaku seperti usia, jenis kelamin, kesehatan, keracunan, dan kepribadian.

Informasi tentang lingkungan akustik (seperti apartemen yang bising) atau peristiwa sonik tertentu (seperti memecahkan kaca) juga dapat diperoleh melalui “analisis adegan pendengaran” untuk membuat penilaian tentang apa yang terjadi di lingkungan itu.

Sistem penyadapan sudah memiliki rekam jejak terbaru untuk berkolaborasi dengan lembaga penegak hukum dan dipanggil untuk data dalam investigasi kriminal. Hal ini menimbulkan kekhawatiran akan bentuk-bentuk lain dari pengintaian dan profil anak-anak dan keluarga.

Sebagai contoh, pembicara pintar data dapat digunakan untuk membuat profil seperti “rumah tangga yang bising”, “gaya pengasuhan yang disiplin”, atau “remaja bermasalah”. Ini dapat, di masa depan, digunakan oleh pemerintah untuk membuat profil mereka yang bergantung pada bantuan sosial atau keluarga dalam krisis dengan konsekuensi yang berpotensi mengerikan.

Ada juga sistem eavesmining baru yang dihadirkan sebagai solusi untuk menjaga keamanan anak-anak yang disebut “detektor agresi”. Teknologi ini terdiri dari sistem mikrofon yang dimuat dengan perangkat lunak pembelajaran mesin, dengan ragu mengklaim bahwa mereka dapat membantu mengantisipasi insiden kekerasan dengan mendengarkan tanda-tanda peningkatan volume dan emosi dalam suara, dan untuk suara lain seperti kaca pecah.

Memantau sekolah

Detektor agresi diiklankan di majalah keamanan sekolah dan di konvensi penegakan hukum. Mereka telah ditempatkan di ruang publik, rumah sakit dan sekolah menengah dengan kedok untuk dapat mencegah dan mendeteksi penembakan massal dan kasus kekerasan mematikan lainnya.

Tetapi ada masalah serius seputar kemanjuran dan keandalan sistem ini. Salah satu merek detektor berulang kali salah mengartikan isyarat suara anak-anak termasuk batuk, berteriak, dan bersorak sebagai indikator agresi. Ini menimbulkan pertanyaan tentang siapa yang dilindungi dan siapa yang akan dibuat kurang aman oleh rancangannya.

Beberapa anak dan remaja akan dirugikan secara tidak proporsional oleh bentuk mendengarkan yang aman ini, dan kepentingan semua keluarga tidak akan dilindungi atau dilayani secara seragam. Kritik berulang terhadap teknologi yang diaktifkan suara adalah bahwa teknologi itu mereproduksi bias budaya dan rasial dengan menegakkan norma vokal dan salah mengenali bentuk ujaran yang beragam secara budaya dalam kaitannya dengan bahasa, aksen, dialek, dan bahasa gaul.

Kita dapat mengantisipasi bahwa ucapan dan suara anak-anak dan remaja yang mengalami rasisme akan disalahartikan secara tidak proporsional sebagai kedengaran agresif. Prediksi yang meresahkan ini seharusnya tidak mengejutkan karena mengikuti sejarah supremasi kolonial dan kulit putih yang mengakar kuat yang secara konsisten mengawasi “garis warna sonik.” Kebijakan yang baik Eavesmining adalah situs yang kaya akan informasi dan pengawasan karena aktivitas sonik anak-anak dan keluarga telah menjadi sumber data yang berharga untuk dikumpulkan, dipantau, disimpan, dianalisis, dan dijual tanpa sepengetahuan subjek kepada ribuan pihak ketiga. Perusahaan-perusahaan ini berorientasi pada keuntungan, dengan sedikit kewajiban etis terhadap anak-anak dan data mereka.

Tanpa persyaratan hukum untuk menghapus data ini, data terakumulasi selama masa hidup anak-anak, berpotensi bertahan selamanya. Tidak diketahui berapa lama dan seberapa jauh jangkauan jejak digital ini akan mengikuti anak-anak seiring bertambahnya usia, seberapa luas data ini akan dibagikan atau seberapa banyak data ini akan direferensikan silang dengan data lain. Pertanyaan-pertanyaan ini memiliki implikasi serius pada kehidupan anak-anak baik saat ini maupun seiring bertambahnya usia mereka.

Ada segudang ancaman yang ditimbulkan oleh menguping dalam hal privasi, pengawasan dan diskriminasi. Rekomendasi individual, seperti pendidikan privasi informasi dan pelatihan literasi digital, tidak akan efektif dalam mengatasi masalah ini dan menempatkan tanggung jawab yang terlalu besar pada keluarga untuk mengembangkan literasi yang diperlukan untuk melawan penyadapan di ruang publik dan pribadi.

Kita perlu mempertimbangkan kemajuan kerangka kerja kolektif yang memerangi risiko unik dan realitas penyadapan. Mungkin pengembangan Prinsip Praktik Mendengarkan yang Adil — putaran pendengaran pada “Prinsip Praktik Informasi yang Adil” — akan membantu mengevaluasi platform dan proses yang memengaruhi kehidupan sonik anak-anak dan keluarga.

<

About mukhlis.net

blogging and sharing

Leave a Reply

Your email address will not be published.