Công nghệ nhận diện khuôn mặt kết hợp với sử dụng trí tuệ nhân tạo đang được tung hô, khắc họa như một cây đũa thần giúp cảnh sát theo dõi và bắt tội phạm nhanh chóng, các doanh nghiệp nắm bắt ý thích của khách hàng, thực ra lại đang làm cho con người trở thành nô lệ.
Hệ thống camera giám sát ở khắp mọi ngóc ngách trong thành phố, trong các hộ gia đình, vốn được trang bị để kiểm soát an ninh, tội phạm. Tuy nhiên, hệ thống này cũng có một lỗ hổng lớn là tạo ra một dung lượng video khổng lồ mà không có một nguồn lực nào đủ để xử lý và phân tích các hình ảnh được ghi lại.
Công nghệ nhận diện khuôn mặt có thể được cài thêm vào hệ thống các camera giám sát sẵn có để theo dõi bất cứ người nào đi qua trong vùng ‘nhìn thấy’ của hệ thống. Đây là một giải pháp hoàn hảo bởi nó vừa rẻ, vừa nhanh, lại quá tiện lợi trong việc áp dụng.
Công nghệ nhận diện khuôn mặt này được cho là nó sẽ giúp xác định, theo dõi và bắt giữ những kẻ tội phạm một cách dễ dàng, trong khi mà cơ quan nghiệp vụ không phải đầu tư nhân lực nội gián như là xây dựng các mối quan hệ, cài cắm điệp viên trong cộng đồng.
Ví dụ như việc giám sát bình thường đòi hỏi cần có hàng trăm nghìn người - tức là cứ mỗi 100 công dân ở Đông Đức thì có một người chỉ điểm - nhưng bây giờ chỉ cần thực hiện bằng công nghệ.
Những tác hại khôn lường của nhận diện khuôn mặt
Tuy nhiên, các kết quả khảo sát đã chứng minh rằng công nghệ nhận diện khuôn mặt hoạt động không hiệu quả đối với những người nằm trong nhóm da màu hay thuộc giới tính thứ ba.
Một nghiên cứu của Đại học Massachuset (MIT) năm 2018 đã chỉ ra rằng, ba hệ thống phân tích khuôn mặt phổ biến chỉ xác định sai 0.8% người trong nhóm đàn ông da trắng nhưng lại xác định sai tới 34.7% người trong nhóm phụ nữ da màu.
Nếu dựa trên hoạt động của phần mềm để triển khai bắt tội phạm, thì nguy cơ bắt nhầm người thật sự nghiêm trọng. Việc bắt nhầm người như thế này có thể dẫn đến những kết quả không thể lường trước, đặc biệt trong các quốc gia hay sử dụng bạo lực trong nghiệp vụ khai thác thông tin từ kẻ tình nghi.
Trên thực tế hiện nay, những công nghệ nhận diện khuôn mặt đang được quảng bá và cung cấp tràn lan trên thị trường với giá rẻ mạt. Đặc biệt các công nghệ này được sử dụng cũng tràn lan, mặc dù chưa hề có các quy định của pháp luật là một điều rất đáng lo ngại cũng như sự tường minh trong sử dụng nó.
Mặt khác, những cơ quan cảnh sát hiện nay cũng đang thiếu kinh nghiệm trong triển khai sử dụng công nghệ này, họ thường chỉ căn cứ vào hướng dẫn sử dụng của các công ty bán công nghệ để đưa thành tiêu chuẩn áp dụng trong điều tra, giám sát tội phạm, mà bỏ qua các yếu tố liên quan đến nhân quyền hoặc quyền tự do cá nhân… của mỗi công dân.
Nếu các thiết bị sử dụng phần mềm nhận diện khuôn mặt của các công ty có xuất xứ từ Trung Quốc được áp dụng một cách rộng rãi thì dân chúng sẽ trở thành chuột bạch cho đủ loại thí nghiệm khác nhau.
Hiện nay, một ứng dụng công nghệ tối tân khác đã ra đời kết hợp với phần mềm nhận diện khuôn mặt để nâng cấp sự giám sát mạnh hơn nữa, đó là công nghệ nhận diện khuôn mặt dựa trên trí tuệ nhân tạo (AI). Điều này đã dẫn đến việc các cơ quan cảnh sát, các doanh nghiệp kinh doanh sẽ rất dễ dàng đưa ra các kết luận về bản thân chúng ta và hành vi của mỗi con người chúng ta.
-
- Trí tuệ nhân tạo sẽ giúp các cơ quan cảnh sát, các doanh nghiệp kinh doanh dễ dàng đưa ra các kết luận về bản thân chúng ta và hành vi của mỗi con người chúng ta. (Ảnh: Geralt/Pixabay)
Tucker Davey, tại Viện Cuộc sống Tương lai thuộc Đại học Massachusetts, một nhà nghiên cứu về rủi ro sinh tồn của nhân loại cho biết, "điều đó có nghĩa là chúng ta hoàn toàn không cảm thấy tự do nào cả, không có sự riêng tư nào cả, không có hy vọng trốn thoát nào cả, cuộc sống của chúng ta sẽ hoàn toàn bị giám sát".
"Trong các chế độ chuyên chế chuyên quyền, có quá nhiều sự hoang tưởng và đau khổ tâm lý bởi vì người dân luôn sống trong sợ hãi, không biết liệu mình có bị giết vì nói điều gì đó đụng chạm đến ai đó hay không", ông nói tiếp. "Và bây giờ hãy tưởng tượng rằng thậm chí còn không cần đến một câu hỏi nào, mỗi điều bạn nói sẽ được ghi lại và phân tích".
Ngoài việc hỗ trợ nhiệm vụ tăng cường giám sát từng người trên khắp thế giới, AI cũng tạo nền tảng cho sự nở rộ của thông tin sai lệch trên mạng, một công cụ khác của những kẻ độc tài.
Những thông tin siêu giả tạo do AI tạo dựng, vốn có thể lan truyền các thông điệp chính trị bịa đặt và nhắm vào các nhóm nhỏ trên mạng xã theo thuật toán, đang làm cho việc tuyên truyền trở nên thuyết phục hơn. Điều này làm suy yếu an ninh nhận thức của chúng ta - khả năng xác định điều gì là đúng và hành động đúng - điều mà các nền dân chủ đang dựa vào.
Công nghệ nhận diện khuôn mặt đã được áp dụng đại trà ở một số nơi
Công nghệ trí tuệ nhân tạo và nhận diện khuôn mặt hiện đang được ứng dụng để giám sát 11 triệu người Duy Ngô Nhĩ, một nhóm người thiểu số Hồi giáo ở Trung Quốc.
Gần đây tờ New York Times đã đưa tin “Công nghệ nhận diện khuôn mặt được kết nối vào hệ thống camera giám sát ngày một dày đặc ở Trung Quốc, được dành riêng để quan sát người Duy Ngô Nhĩ dựa trên vẻ bề ngoài của họ, ghi lại nhất cử nhất động của họ nhằm phục vụ cho việc đánh giá và tìm kiếm của chính phủ đối với cộng đồng người này. Việc này khiến Trung Quốc trở thành nước tiên phong trong việc áp dụng công nghệ thế hệ mới để theo dõi người dân, có khả năng sẽ thúc đẩy một kỷ nguyên mà sự phân biệt chủng tộc được diễn ra một cách tự động và mặc định”.
Chính quyền và các công ty Trung Quốc đang dùng công nghệ nhận diện khuôn mặt để bắt kẻ tình nghi tại những sự kiện đại chúng lớn và trong cả những hoạt động thường ngày: nhận diện người dân tại sân bay và tại khách sạn, bêu riếu công khai những người vi phạm giao thông và để cá nhân hóa các quảng cáo.
Công nghệ nhận diện khuôn mặt cũng đang được áp dụng rộng rãi trên khắp nước Mỹ, cho mục đích từ an ninh biên giới đến quảng cáo ở siêu thị. Một tập đoàn bất động sản ở New York còn định dùng công nghệ nhận diện khuôn mặt để kiểm soát người dân sống trong các tòa nhà cho thuê giá rẻ của họ.
Chẳng hạn, một khi chúng ta bị “nhận diện” ở tất cả mọi nơi chúng ta đi qua, chúng ta sẽ liên tục bị “lập hồ sơ”. Khi chúng ta bị “lập hồ sơ”, thì mọi hành vi của chúng ta đều có thể dự đoán bằng máy móc.
Một khi hành vi của chúng ta có thể bị “dự đoán” bởi chính phủ và bởi các nhà quảng cáo, chúng ta sẽ mất đi quyền tự chủ (và có lẽ là mất luôn khả năng phân biệt thật và ảo) dưới bàn tay của thuật toán đang tạo ra những dữ liệu về chúng ta còn đáng tin cậy hơn cả những gì chúng ta hiểu về bản thân mình và những người xung quanh.
-
- Công ty Walgreens dùng công nghệ nhận diện khuôn mặt để quảng cáo trên các tủ đông trong siêu thị. Nếu ‘Walgreens’ nhìn thấy bạn đang mua bia vào thời điểm bốn giờ chiều, màn hình sẽ “mời” bạn mua thêm pizza trong tủ đông để ăn cho bữa tối.
Đúng là đôi lúc người ta có thể tạm hi sinh sự tự chủ của mình vì sự tiện lợi, nhưng sẽ là bất thường nếu chúng ta lúc nào cũng bị buộc làm như vậy. Đó là sự nô lệ hóa.
Các biện pháp ngăn ngừa ứng dụng nhận diện khuôn mặt
Nhưng để cấm sử dụng phần mềm nhận diện khuôn mặt hoàn toàn không phải là chuyện đơn giản.
Những người làm luật và các công ty công nghệ như Microsoft hầu hết chỉ đưa ra đề nghị về các khuôn khổ pháp luật là cảnh báo tới người dân rằng chỗ họ đi qua có sử dụng công nghệ nhận diện khuôn mặt.
Tuy nhiên, nếu người dân không có cách nào khác để thoát khỏi việc bị nhận diện tại các địa điểm trên, bất kể là công cộng hay tư nhân, ngoài việc rời khỏi khu vực đó, thì cảnh báo cũng chẳng có ích gì. Và nếu không có cách nào để tránh việc bị nhận diện bởi một hệ thống sẽ có ảnh hưởng khủng khiếp trong tương lai như vậy, thì con người bắt đầu bị nô lệ hóa.
Chính vì vậy, các khuôn khổ luật pháp chặt chẽ và nghiêm khắc để hạn chế việc sử dụng công nghệ nhận diện khuôn mặt là vô cùng quan trọng, nhất là tại thời điểm công nghệ đang phát triển như vũ bão hiện nay.
Một khi công nghệ nhận diện khuôn mặt và trí tuệ nhân tạo được áp dụng rộng rãi trong một môi trường thiếu vắng khuôn khổ pháp luật để kiểm soát nó một cách nghiêm túc, con người sẽ bị bỏ rơi, trở thành công cụ cho doanh nghiệp hay chính phủ khi họ cần đến danh tính và mọi thông tin chi tiết về chúng ta.
Việc sử dụng công nghệ chỉ còn được dẫn dắt bởi lòng tham, lợi nhuận, quyền lực.
Đó là lý do tại sao công nghệ nhận diện khuôn mặt là một công nghệ quan trọng để chúng ta tranh luận và ngày càng nhiều người mong nó bị cấm sử dụng trong xã hội loài người.
Ánh Dương
Theo Tiasang/bbc
