Tuần trước, Ava Kofman đã viết một tác phẩm thú vị nhưng đáng sợ trong The Intercept about Voice RT. Có lẽ bạn chưa bao giờ nghe đến Voice RT trước đây vì đây là một trong những điều mà Chính phủ Hoa Kỳ thực hiện trong bí mật; trong trường hợp này, nó đã phát triển công nghệ có thể xác định một cách tích cực một ai đó bằng âm thanh giọng nói của họ. Hãy chắc chắn để đọc nó. Đó là thông tin quan trọng mà mọi người cần biết.
Tiếng nói của chúng tôi là định danh sinh trắc học hoàn hảo; Nó ổn định và độc đáo.
Bây giờ ý tưởng nhận ra ai đó bằng giọng nói của họ rất dễ nắm bắt. Chúng tôi làm điều đó mỗi ngày khi chúng tôi nói chuyện với những người gần gũi với chúng tôi. Giọng nói của một người khá độc đáo và không cần nhiều sức mạnh xử lý - cả loại hữu cơ trong đầu hoặc loại silicon trong các thiết bị của chúng ta - để biết bạn đang nói chuyện với ai khi nghe họ nói. Nhưng NSA đã có thể đưa mọi thứ đến mức cực đoan. Họ có khả năng lắng nghe mọi thứ, mọi nơi. Nếu bạn đang sử dụng điện thoại trả tiền ở giữa nơi họ có thể nghe. Họ thậm chí có thể có thẩm quyền để làm điều đó, và điều đó có nghĩa là chúng tôi có thể gặp vấn đề lớn khi ngồi trên đầu giường hoặc bàn cà phê có tên Google Home và Amazon Echo.
Nói chuyện với The Verge, Albert Gidari, giám đốc quyền riêng tư tại Trung tâm Internet và Xã hội Stanford, cho biết các sản phẩm này "dễ bị tổn thương trước nhu cầu truy cập và tiết lộ của chính phủ; Tôi nghĩ rằng chính phủ có thể có lệnh hỗ trợ kỹ thuật để tạo điều kiện cho việc quét và theo FISA, có lẽ để xây dựng công cụ này. " Tôi chắc chắn Gidari đã đúng vì chính phủ đã có thể yêu cầu điện thoại, máy tính và thậm chí cả tivi của chúng tôi để tạo điều kiện cho một cuộc điều tra. Thượng nghị sĩ Wyden (D., Oregon) và Paul (R., Kentucky) nghĩ rằng FISA cũng có thể bị lạm dụng theo cách này.
Và đó không phải là vấn đề của một cơ quan chính phủ do thám những gì chúng ta đang nói hoặc làm khi chúng ta nói chuyện với Alexa hoặc Google Home. Họ không cần thông tin đó; tất cả những gì họ muốn là một bản ghi âm giọng nói của chúng tôi.
Cả cửa hàng Echo và Google Home đều ghi lại những điều chúng ta nói khi nói chuyện với họ. Cả hai cũng truyền dữ liệu giọng nói đến một máy chủ đám mây để xử lý. Rất may, mỗi bản ghi chỉ sau khi từ nóng được phát hiện và mọi dữ liệu rời khỏi thiết bị của bạn được mã hóa và ẩn danh. Cho dù họ có thể chặn và giải mã dữ liệu, yêu cầu dữ liệu thông qua tòa án hoặc lấy nó ngay từ thiết bị, tất cả những gì họ sẽ nghe là những người như bạn và tôi nói với Trợ lý hoặc Alexa thay đổi kênh hoặc đưa ra dự báo thời tiết - thông tin trần tục rằng bạn không cố giữ bí mật. Cảnh sát ở Bentonville Arkansas chỉ phát hiện ra rằng khi một Amazon Echo bị trát hầu tòa trong vụ án giết người năm 2016. Nhưng một lần nữa, đó không phải là những gì NSA đã thu thập với Voice RT; họ chỉ muốn một số dữ liệu mẫu của một giọng nói để họ có thể khớp nó trong khi thực hiện công việc gián điệp trong thời gian thực.
Đó không phải là những gì bạn nói. Đó là sự thật rằng chính bạn nói điều đó làm cho nó thú vị với NSA.
Tìm hiểu kỹ các tài liệu bị rò rỉ bởi Edward Snowden, Kofman nhận thấy NSA đã thu thập dữ liệu nhận dạng giọng nói trong nhiều năm. Công nghệ này đã được sử dụng để xác định Saddam Hussein và khớp với một số bản ghi trong quá khứ đã được ghi lại. Các bản ghi âm cho Osama Bin Laden và các thành viên Al Qaeda cấp cao khác đã được tạo ra, và một bản ghi nhớ cho biết Abu Musab al-Zarqawi được phát hiện là người phát biểu trong các tệp âm thanh trực tuyến mà CIA rất quan tâm. 2004 và 2012 NSA đã tinh chỉnh và sử dụng công nghệ nhận dạng loa của họ trong các hoạt động chống khủng bố và bắt giữ ma túy quốc tế.
Nếu bạn nghĩ rằng cơ quan gián điệp hàng đầu của đất nước thu thập các bản ghi ngẫu nhiên về những gì mọi người nói để hỗ trợ khi chống khủng bố hoặc buôn bán ma túy là OK, thì không nhiều người sẽ tranh luận với bạn. Google và Facebook (và có lẽ là mọi công ty internet khác) quét dữ liệu được thu thập cho những thứ như nội dung khiêu dâm trẻ em hoặc lạm dụng, vi phạm bản quyền và hoạt động khủng bố vì ai đó cảm thấy điều đó tốt hơn. Tôi sẽ không tranh luận. Nhưng Snowden cũng tiết lộ rằng NSA có kế hoạch triển khai công nghệ tương tự để ngăn chặn những người tố giác như anh ta phơi bày những năm tháng sai trái của họ trước khi Sắc lệnh 13587 được ký kết.
NSA có kế hoạch sử dụng các chiến thuật giúp bắt Bin Laden giám sát người Mỹ.
Điều đó đã đi quá xa, và nó có những người như cựu cố vấn Nhà Trắng cho Giám đốc Tình báo Quốc gia Timothy Edgar lo lắng về quyền riêng tư của chúng tôi và những hậu quả từ một cơ quan chính phủ độc đoán nếu họ nghĩ rằng chúng tôi đã nói hoặc làm điều gì đó mà họ không thích. Tất cả chúng ta đã nghe các trường hợp trong đó một đường rất mỏng được đi và cắt ngang và mọi thứ không hoàn toàn hợp pháp theo tinh thần của Hiến pháp. Khi nói đến tiếng nói của chúng tôi, các chuyên gia tự do dân sự cho rằng Google và Amazon cần thay đổi cách thức Home và Echo hoạt động để không có dữ liệu giọng nói được giữ lại.
Tiếng nói của chúng tôi ổn định; một cái gì đó tôi đã nói 10 năm trước có thể được xác định một cách tích cực thông qua một giọng nói đến từ tôi ngày hôm nay. Với bản ghi âm trong tay, mặc dù chúng là các tệp có nội dung như "OK Google, làm mờ đèn phòng khách đến 50%", thật dễ dàng để sử dụng chúng chống lại chúng tôi cho bất kỳ cuộc điều tra hoặc hoạt động nào. Tôi tưởng tượng NSA có nhiều dữ liệu giọng nói có thể xác định một người phục vụ đồ uống cho một kẻ khủng bố bị truy nã tại khách sạn, hoặc nhân viên tại quầy bán vé trong sân bay. Tôi cũng tưởng tượng những người vô tội này đã bị thẩm vấn và sau đó phục vụ với một lệnh bịt miệng, mặc dù họ vô tội với bất kỳ tội ác nào và NSA và CIA và FBI biết họ vô tội.
Đừng tin rằng các chương trình như FISA được thiết kế và sử dụng chỉ để bảo vệ chúng tôi. Chúng tôi có rất nhiều bằng chứng ngược lại.
Điều này cần được làm sáng tỏ và tranh luận trước công chúng. Công nghệ có thể được sử dụng để theo dõi các nhà báo hoặc phơi bày nguồn tin của họ là nguy hiểm khi không được sử dụng đúng cách và không nên ẩn sau bức tường phân loại của chính phủ. Trong khi các nhóm như EFF và Freedom of the Press Foundation cố gắng biến điều đó thành hiện thực, có áp lực buộc Google và Amazon phải ngừng lưu và phân tích dữ liệu giọng nói theo cách họ làm bây giờ. Điều đó đặt khá nhiều damper vào một hệ thống được thiết kế để phân tích mọi thứ và trở nên thông minh hơn. Học máy cần rất nhiều dữ liệu để phân tích nhiều lần để "học". Google và Amazon cần phải lo lắng về việc thu thập và lưu trữ tất cả theo cách giữ cho nó ẩn danh thay vì lo lắng về cách máy học của họ có thể học mà không cần dữ liệu họ cần.
Một máy cần dữ liệu để học. Rất nhiều dữ liệu lặp đi lặp lại nhiều lần.
Chỉ tay vào Alexa và Trợ lý là gốc rễ của vấn đề không tốt cho bất cứ ai thấy chúng hữu ích. Chúng ta cần tập trung vào sự roping trong chính phủ của chúng ta và ngăn chặn sự giám sát không chính đáng của người Mỹ. Và đây không chỉ là một điều của Hoa Kỳ; Interpol và GCHQ của Anh đã "hợp tác chặt chẽ" với NSA và các chương trình tín dụng như Voice RT là "đóng một phần quan trọng trong mối quan hệ của chúng tôi với NSA." Trung Quốc đã được cho là có cùng một loại chương trình và hiện có thể xác định tích cực hàng chục hoặc có thể hàng trăm ngàn công dân Trung Quốc bằng âm thanh giọng nói của họ một cách tự động.
Tôi không tin tưởng NSA có công nghệ bí mật có thể nhận dạng bất kỳ ai trong chúng ta bất cứ lúc nào và không sử dụng nó không phù hợp. Tôi đồng ý với các chuyên gia tự do dân sự rằng đây là một con đường nguy hiểm và nên được công khai. Tôi không đồng ý với việc gây áp lực cho Google và Amazon ngừng đổi mới trong khi chúng tôi chờ đợi. Chúng ta đang nhìn thấy tương lai mở ra trước mắt và cho đến khi các máy móc "thông minh" mà Google và Amazon đang sử dụng để mang nó đến cho chúng ta thấy rằng họ cần phải trị vì, chúng ta đừng kìm hãm tương lai.
