Minggu lalu, Ava Kofman menulis sekeping yang menarik namun menakutkan dalam The Intercept mengenai Voice RT. Anda mungkin tidak pernah mendengar suara RT sebelum ini kerana ia merupakan salah satu perkara yang dilakukan oleh Kerajaan AS secara rahsia; dalam kes ini, ia sedang membangunkan teknologi yang boleh mengenal pasti seseorang dengan suara suaranya. Pastikan anda membacanya. Maklumat penting semua orang perlu tahu.
Suara kami adalah pengenal pasti biometrik yang sempurna; ia stabil dan unik.
Sekarang idea mengenali seseorang dengan suara mereka mudah difahami. Kami melakukannya setiap hari apabila kita bercakap dengan orang yang dekat dengan kami. Suara seseorang agak unik dan ia tidak mengambil banyak kuasa pemprosesan - sama ada jenis organik di kepala kita atau sejenis silikon dalam alat kami - untuk mengetahui siapa yang anda sedang bicarakan daripada mendengarnya. Tetapi NSA mampu melakukan perkara yang melampau. Mereka mempunyai keupayaan untuk mendengar segala-galanya, di mana-mana. Sekiranya anda menggunakan telefon berbayar di mana-mana sahaja, mereka boleh mendengar. Mereka mungkin mempunyai kuasa untuk melakukannya, dan ini bermakna kita mungkin mempunyai masalah besar yang duduk di atas meja atau meja kopi kami yang disebut Google Home dan Amazon Echo.
Bercakap dengan The Verge, Albert Gidari, pengarah privasi di Stanford Centre for Internet and Society, berkata produk-produk ini "terdedah kepada permintaan kerajaan untuk akses dan pendedahan; saya fikir kerajaan boleh mendapatkan perintah bantuan teknikal untuk memudahkan imbasan, dan di bawah FISA, mungkin untuk membina alat itu juga. " Saya yakin Gidari betul kerana kerajaan sudah boleh memanggil telefon kami, komputer kami, dan juga televisyen kami untuk memudahkan siasatan. Senator Wyden (D., Oregon) dan Paul (R., Kentucky) berpendapat bahawa FISA mungkin disalahgunakan dengan cara ini juga.
Dan ini bukan masalah agensi kerajaan mengintip pada apa yang kita katakan atau lakukan apabila kita bercakap dengan Alexa atau Google Home. Mereka tidak memerlukan maklumat itu; Apa yang mereka mahukan ialah rakaman suara kita.
Kedua-dua rakaman kedai Echo dan Google Home mengenai perkara-perkara yang kita katakan apabila bercakap dengan mereka. Kedua-duanya juga menghantar data suara ke pelayan awan untuk diproses juga. Untungnya, setiap rekod sahaja selepas perkataan panas dikesan dan sebarang data yang meninggalkan peranti anda disulitkan dan tanpa nama. Sama ada mereka boleh memintas dan menyahsulit data, menuntutnya melalui mahkamah, atau menariknya dari peranti yang mereka dengar adalah orang seperti anda dan saya memberitahu Penolong atau Alexa untuk menukar saluran atau memberikan ramalan cuaca - maklumat biasa yang anda tidak cuba menyimpan rahsia. Polis di Bentonville Arkansas mendapati bahawa apabila Amazon Echo telah diangkut dalam kes pembunuhan pada tahun 2016. Tetapi sekali lagi, itu bukan apa NSA mengumpul dengan Voice RT; mereka hanya mahukan beberapa data sampel suara supaya mereka dapat memadankannya semasa melakukan perkara mengintip dalam masa nyata.
Ia bukan apa yang anda katakan. Ia adalah hakikat bahawa anda mengatakan bahawa menjadikannya menarik kepada NSA.
Menggali dokumen yang dibocorkan oleh Edward Snowden, Kofman mendapati bahawa NSA telah mengumpulkan data pengiktirafan suara selama bertahun-tahun. Teknologi ini digunakan untuk mengenal pasti Saddam Hussein dan memadankan beberapa rakaman masa lalu yang ditangkap. Voiceprints untuk Osama Bin Laden dan ahli-ahli Al Qaeda yang lain yang bertaraf tinggi telah dicipta, dan satu memo menceritakan bagaimana Abu Musab al-Zarqawi didapati sebagai penceramah dalam fail audio dalam talian yang CIA sangat berminat. 2004 dan 2012 NSA menapis dan menggunakan teknologi pengiktirafan pembesar suara mereka dalam opera keganasan dan penangkapan dadah antarabangsa.
Jika anda fikir agensi pengintip tertinggi di negara ini mengumpul rekod rawak tentang apa yang dikatakan orang untuk membantu ketika memerangi keganasan atau pengedaran dadah OK, tidak banyak orang yang berhujah dengan anda. Google dan Facebook (dan mungkin setiap syarikat internet lain) mengimbas data yang dikumpulkan untuk perkara-perkara seperti pornografi kanak-kanak atau penyalahgunaan, pelanggaran hak cipta, dan aktiviti keganasan kerana seseorang merasakan ia untuk kebaikan yang lebih baik. Saya tidak akan berdebat. Tetapi Snowden juga mendedahkan bahawa NSA merancang untuk menggunakan teknologi yang sama untuk mengelakkan pemberi maklumat seperti dia mendedahkan tahun-tahun salah laku mereka sebelum Perintah Eksekutif 13587 ditandatangani.
NSA mempunyai rancangan untuk menggunakan taktik yang membantu menangkap Bin Laden untuk mengamati orang Amerika.
Itu terlalu jauh, dan ia mempunyai orang seperti bekas penasihat Rumah Putih kepada Pengarah Perisikan Negara Timothy Edgar yang bimbang tentang privasi kami dan akibat dari agensi kerajaan yang sombong jika mereka menganggap kami telah berkata atau melakukan sesuatu yang mereka tidak suka. Kami semua telah mendengar kes-kes di mana garis sangat nipis berjalan dan menyeberang dan semuanya tidak sah mengikut semangat Perlembagaan. Apabila ia datang kepada suara kami, pakar kebebasan awam fikir Google dan Amazon perlu mengubah bagaimana Home dan Echo berfungsi supaya tiada data suara disimpan.
Suara kami stabil; sesuatu yang saya katakan 10 tahun yang lalu boleh dikenal pasti secara positif menerusi seruan suara yang datang dari saya hari ini. Dengan rakaman suara di tangan, walaupun mereka adalah fail yang mengatakan sesuatu seperti "OK Google, meredakan lampu ruang tamu hingga 50%" adalah mudah untuk menggunakannya terhadap kami untuk sebarang siasatan atau operasi. Saya bayangkan NSA mempunyai banyak data suara yang dapat mengenal pasti seseorang yang menyampaikan minuman kepada pengganas yang dikehendaki di sebuah hotel, atau agen di kaunter tiket di lapangan terbang. Saya juga membayangkan orang-orang yang tidak bersalah ini dipersoalkan dan kemudian berkhidmat dengan perintah gag, walaupun mereka tidak bersalah atas apa-apa jenayah dan NSA dan CIA dan FBI tahu mereka tidak bersalah.
Jangan percaya ceramah bahawa program seperti FISA direka dan digunakan semata-mata untuk melindungi kita. Kami mempunyai banyak bukti yang bertentangan.
Ini perlu dibungkus dan dibahaskan di khalayak ramai. Teknologi yang boleh digunakan untuk mengesan wartawan atau mendedahkan sumber mereka adalah berbahaya apabila tidak digunakan dengan betul dan tidak boleh disembunyikan di belakang dinding klasifikasi kerajaan. Walaupun kumpulan seperti EFF dan Freedom of the Press Foundation cuba untuk membuatnya berlaku, terdapat tekanan pada Google dan Amazon untuk berhenti menyimpan dan menganalisis data suara seperti yang mereka lakukan sekarang. Yang meletakkan peredam pada sistem yang direka untuk menganalisis segala sesuatu dan menjadi lebih pintar. Pembelajaran mesin memerlukan sejumlah besar data untuk menganalisis berulang kali untuk "belajar." Google dan Amazon perlu bimbang tentang mengumpul dan menyimpan semuanya dengan cara yang membuatnya tanpa nama dan bukannya membimbangkan bagaimana mesin pembelajaran mereka boleh belajar tanpa data yang mereka perlukan.
Mesin memerlukan data untuk belajar. Banyak data yang berulang kali berulang.
Menunjuk jari di Alexa dan Pembantu sebagai akar masalah tidak baik untuk sesiapa sahaja yang mendapati mereka berguna. Kita perlu menumpukan perhatian kepada roping kerajaan kita dan menghentikan pengawasan rakyat Amerika yang tidak wajar. Dan ini bukan sekadar satu perkara Amerika Syarikat; Interpol dan GCHQ Britain telah "bekerja rapat" dengan NSA dan program kredit seperti Voice RT sebagai "memainkan peranan penting dalam hubungan kita dengan NSA." China dikatakan mempunyai program yang sama dan kini dapat mengenal pasti puluhan atau mungkin ratusan ribu warganegara China dengan suara suara mereka secara automatik.
Saya tidak percaya NSA mempunyai teknologi rahsia yang boleh mengenal pasti mana-mana kita pada bila-bila masa dan tidak menggunakannya dengan tidak sesuai. Saya bersetuju dengan pakar kebebasan awam bahawa ini adalah jalan yang berbahaya dan harus didedahkan kepada umum. Saya tidak bersetuju dengan menekan Google dan Amazon untuk berhenti berinovasi semasa kami menunggu. Kami melihat masa depan terbuka di depan mata kita dan sehingga mesin "pintar" Google dan Amazon menggunakannya untuk membawanya kepada kami menunjukkan bahawa mereka perlu memerintah, jangan memegang masa depan kembali.
