Khoảng cách kỹ thuật số mới là giữa những người chọn không sử dụng thuật toán và những người không
Mọi khía cạnh của cuộc sống đều có thể được hướng dẫn bởi các thuật toán trí tuệ nhân tạo - từ việc chọn lộ trình đi làm vào buổi sáng của bạn, quyết định ai sẽ đi vào một ngày, đến các vấn đề pháp lý và tư pháp phức tạp như lập chính sách dự đoán.
Các công ty công nghệ lớn như Google và Facebook sử dụng AI để có được thông tin chi tiết về kho dữ liệu khách hàng chi tiết khổng lồ của họ. Điều này cho phép họ kiếm tiền từ sở thích tập thể của người dùng thông qua các phương pháp như nhắm mục tiêu vi mô, một chiến lược được các nhà quảng cáo sử dụng để nhắm mục tiêu hẹp các nhóm người dùng cụ thể.
Song song, nhiều người hiện nay tin tưởng vào các nền tảng và thuật toán hơn là chính phủ và xã hội công dân của chính họ. Một nghiên cứu vào tháng 10 năm 2018 đề xuất rằng mọi người chứng minh “ đánh giá cao thuật toán ” , đến mức họ sẽ dựa vào lời khuyên nhiều hơn khi họ nghĩ rằng đó là từ một thuật toán hơn là từ con người.
Trước đây, các chuyên gia công nghệ đã lo lắng về một “ khoảng cách số” giữa những người có thể truy cập máy tính và internet và những người không thể truy cập. Các hộ gia đình ít được tiếp cận với công nghệ số sẽ gặp bất lợi về khả năng kiếm tiền và tích lũy kỹ năng .
Tuy nhiên, khi các thiết bị kỹ thuật số phát triển mạnh mẽ, khoảng cách không còn chỉ là quyền truy cập. Làm thế nào để mọi người đối phó với tình trạng quá tải thông tin và vô số các quyết định thuật toán tràn ngập mọi khía cạnh trong cuộc sống của họ?
Những người dùng thông thái hơn đang điều hướng khỏi các thiết bị và nhận thức được cách các thuật toán ảnh hưởng đến cuộc sống của họ. Trong khi đó, những người tiêu dùng có ít thông tin lại càng dựa nhiều hơn vào các thuật toán để đưa ra quyết định của họ.
[Hình ảnh: StudioM1]
NƯỚC SỐT BÍ MẬT ĐẰNG SAU TRÍ TUỆ NHÂN TẠO
Lý do chính cho sự phân chia kỹ thuật số mới, theo ý kiến của tôi, với tư cách là một người nghiên cứu hệ thống thông tin, là rất ít người hiểu cách hoạt động của các thuật toán . Đối với đa số người dùng, các thuật toán được xem như một hộp đen.
Các thuật toán AI thu nhận dữ liệu, điều chỉnh chúng với một mô hình toán học và đưa ra dự đoán, từ những bài hát bạn có thể yêu thích đến số năm ai đó sẽ phải ngồi tù . Các mô hình này được phát triển và hiệu chỉnh dựa trên dữ liệu trong quá khứ và sự thành công của các mô hình trước đó. Hầu hết mọi người - thậm chí đôi khi chính các nhà thiết kế thuật toán - không thực sự biết những gì diễn ra bên trong mô hình.
Các nhà nghiên cứu từ lâu đã lo ngại về tính công bằng của thuật toán. Ví dụ, công cụ tuyển dụng dựa trên AI của Amazon hóa ra lại loại bỏ các ứng viên nữ . Hệ thống của Amazon đã trích xuất một cách có chọn lọc các từ có giới tính ngầm – những từ mà nam giới có nhiều khả năng sử dụng trong lời nói hàng ngày, chẳng hạn như “thực thi” và “bị bắt”.
Các nghiên cứu khác đã chỉ ra rằng các thuật toán tư pháp có thành kiến về chủng tộc, kết án các bị cáo da đen tội nghiệp lâu hơn những người khác.
Là một phần của Quy định chung về bảo vệ dữ liệu được phê duyệt gần đây ở Liên minh Châu Âu, mọi người có “quyền giải thích” về các tiêu chí mà các thuật toán sử dụng trong các quyết định của họ. Luật này coi quá trình ra quyết định theo thuật toán giống như một cuốn sách công thức. Suy nghĩ cho rằng nếu bạn hiểu công thức, bạn có thể hiểu thuật toán ảnh hưởng đến cuộc sống của bạn như thế nào.
Trong khi đó, một số nhà nghiên cứu AI đã thúc đẩy các thuật toán công bằng, có trách nhiệm và minh bạch , cũng như có thể diễn giải được , nghĩa là họ phải đưa ra quyết định của mình thông qua các quy trình mà con người có thể hiểu và tin tưởng.
Sự minh bạch sẽ có tác dụng gì? Trong một nghiên cứu , học sinh được xếp loại bằng một thuật toán và đưa ra các mức độ giải thích khác nhau về cách điều chỉnh điểm số của bạn bè để đạt được điểm cuối cùng. Những sinh viên có lời giải thích minh bạch hơn thực sự ít tin tưởng vào thuật toán hơn. Điều này, một lần nữa, gợi ý một sự phân chia kỹ thuật số: Nhận thức về thuật toán không dẫn đến sự tự tin hơn trong hệ thống.
Nhưng bạch tật lê không phải là thuốc chữa bách bệnh. Ngay cả khi quy trình tổng thể của thuật toán được phác thảo, các chi tiết vẫn có thể quá phức tạp để người dùng có thể hiểu được. Tính minh bạch sẽ giúp chỉ những người dùng đủ tinh tế mới có thể nắm bắt được sự phức tạp của các thuật toán.
Ví dụ, vào năm 2014, Ben Bernanke, cựu chủ tịch Cục Dự trữ Liên bang, ban đầu đã bị từ chối tái cấp vốn thế chấp bởi một hệ thống tự động . Hầu hết các cá nhân đang nộp đơn xin tái cấp vốn thế chấp như vậy sẽ không hiểu cách các thuật toán có thể xác định mức độ tín nhiệm của họ.
[Hình ảnh: StudioM1 / iStock]
CHỌN KHÔNG THAM GIA HỆ SINH THÁI THÔNG TIN MỚI
Mặc dù các thuật toán ảnh hưởng rất nhiều đến cuộc sống của con người, nhưng chỉ một phần nhỏ những người tham gia đủ tinh vi để tham gia đầy đủ vào cách các thuật toán ảnh hưởng đến cuộc sống của họ .
Không có nhiều thống kê về số người hiểu biết về thuật toán. Các nghiên cứu đã tìm thấy bằng chứng về sự lo lắng về thuật toán , dẫn đến sự mất cân bằng sâu sắc về quyền lực giữa các nền tảng triển khai thuật toán và người dùng phụ thuộc vào chúng .
Một nghiên cứu về việc sử dụng Facebook cho thấy khi những người tham gia biết về thuật toán quản lý nguồn cấp tin tức của Facebook, khoảng 83% người tham gia đã sửa đổi hành vi của họ để cố gắng tận dụng thuật toán, trong khi khoảng 10% giảm mức sử dụng Facebook.
Một báo cáo tháng 11 năm 2018 từ Trung tâm Nghiên cứu Pew cho thấy rằng phần lớn công chúng có mối quan tâm đáng kể về việc sử dụng các thuật toán cho các mục đích cụ thể. Kết quả cho thấy 66% cho rằng các thuật toán tính điểm tài chính cá nhân sẽ không công bằng, trong khi 57% cho rằng tương tự về việc sàng lọc lý lịch tự động.
[Hình ảnh: The Conversation (biểu đồ), Anjana Susarla / Đại học Bang Michigan (dữ liệu)]
Một phần nhỏ các cá nhân thực hiện một số quyền kiểm soát cách các thuật toán sử dụng dữ liệu cá nhân của họ. Ví dụ: nền tảng Hu-Manity cho phép người dùng một tùy chọn để kiểm soát lượng dữ liệu của họ được thu thập . Bách khoa toàn thư trực tuyến Everipedia cung cấp cho người dùng khả năng trở thành một bên liên quan trong quá trình quản lý, có nghĩa là người dùng cũng có thể kiểm soát cách thông tin được tổng hợp và trình bày cho họ.
Tuy nhiên, phần lớn các nền tảng không cung cấp sự linh hoạt như vậy cho người dùng cuối của họ hoặc quyền lựa chọn cách thuật toán sử dụng tùy chọn của họ trong việc quản lý nguồn cấp tin tức của họ hoặc trong việc đề xuất nội dung cho họ. Nếu có các tùy chọn, người dùng có thể không biết về chúng. Khoảng 74% người dùng của Facebook cho biết trong một cuộc khảo sát rằng họ không biết cách nền tảng này đặc trưng cho sở thích cá nhân của họ .
Theo quan điểm của tôi, kiến thức kỹ thuật số mới không phải là sử dụng máy tính hay truy cập internet, mà là hiểu và đánh giá hậu quả của lối sống luôn cắm đầu vào.
Liên quan: Phân chia quyền riêng tư
Lối sống này có tác động có ý nghĩa đến cách mọi người tương tác với những người khác ; về khả năng chú ý đến thông tin mới của họ ; và về mức độ phức tạp của các quá trình ra quyết định của họ .
Sự lo lắng ngày càng tăng về thuật toán cũng có thể được phản ánh bởi những thay đổi song song trong nền kinh tế. Một nhóm nhỏ các cá nhân đang thu được lợi nhuận từ tự động hóa , trong khi nhiều công nhân đang ở trong một vị trí bấp bênh .
Chọn không tham gia quản lý theo thuật toán là một điều xa xỉ - và một ngày nào đó có thể là biểu tượng của sự sung túc chỉ dành cho một số ít người được chọn. Sau đó, câu hỏi đặt ra là những tác hại có thể đo lường được sẽ là gì đối với những người ở phía sai của khoảng cách kỹ thuật số.
Các công ty công nghệ lớn như Google và Facebook sử dụng AI để có được thông tin chi tiết về kho dữ liệu khách hàng chi tiết khổng lồ của họ. Điều này cho phép họ kiếm tiền từ sở thích tập thể của người dùng thông qua các phương pháp như nhắm mục tiêu vi mô, một chiến lược được các nhà quảng cáo sử dụng để nhắm mục tiêu hẹp các nhóm người dùng cụ thể.
Song song, nhiều người hiện nay tin tưởng vào các nền tảng và thuật toán hơn là chính phủ và xã hội công dân của chính họ. Một nghiên cứu vào tháng 10 năm 2018 đề xuất rằng mọi người chứng minh “ đánh giá cao thuật toán ” , đến mức họ sẽ dựa vào lời khuyên nhiều hơn khi họ nghĩ rằng đó là từ một thuật toán hơn là từ con người.
Trước đây, các chuyên gia công nghệ đã lo lắng về một “ khoảng cách số” giữa những người có thể truy cập máy tính và internet và những người không thể truy cập. Các hộ gia đình ít được tiếp cận với công nghệ số sẽ gặp bất lợi về khả năng kiếm tiền và tích lũy kỹ năng .
Tuy nhiên, khi các thiết bị kỹ thuật số phát triển mạnh mẽ, khoảng cách không còn chỉ là quyền truy cập. Làm thế nào để mọi người đối phó với tình trạng quá tải thông tin và vô số các quyết định thuật toán tràn ngập mọi khía cạnh trong cuộc sống của họ?
Những người dùng thông thái hơn đang điều hướng khỏi các thiết bị và nhận thức được cách các thuật toán ảnh hưởng đến cuộc sống của họ. Trong khi đó, những người tiêu dùng có ít thông tin lại càng dựa nhiều hơn vào các thuật toán để đưa ra quyết định của họ.
[Hình ảnh: StudioM1]
NƯỚC SỐT BÍ MẬT ĐẰNG SAU TRÍ TUỆ NHÂN TẠO
Lý do chính cho sự phân chia kỹ thuật số mới, theo ý kiến của tôi, với tư cách là một người nghiên cứu hệ thống thông tin, là rất ít người hiểu cách hoạt động của các thuật toán . Đối với đa số người dùng, các thuật toán được xem như một hộp đen.
Các thuật toán AI thu nhận dữ liệu, điều chỉnh chúng với một mô hình toán học và đưa ra dự đoán, từ những bài hát bạn có thể yêu thích đến số năm ai đó sẽ phải ngồi tù . Các mô hình này được phát triển và hiệu chỉnh dựa trên dữ liệu trong quá khứ và sự thành công của các mô hình trước đó. Hầu hết mọi người - thậm chí đôi khi chính các nhà thiết kế thuật toán - không thực sự biết những gì diễn ra bên trong mô hình.
Các nhà nghiên cứu từ lâu đã lo ngại về tính công bằng của thuật toán. Ví dụ, công cụ tuyển dụng dựa trên AI của Amazon hóa ra lại loại bỏ các ứng viên nữ . Hệ thống của Amazon đã trích xuất một cách có chọn lọc các từ có giới tính ngầm – những từ mà nam giới có nhiều khả năng sử dụng trong lời nói hàng ngày, chẳng hạn như “thực thi” và “bị bắt”.
Các nghiên cứu khác đã chỉ ra rằng các thuật toán tư pháp có thành kiến về chủng tộc, kết án các bị cáo da đen tội nghiệp lâu hơn những người khác.
Là một phần của Quy định chung về bảo vệ dữ liệu được phê duyệt gần đây ở Liên minh Châu Âu, mọi người có “quyền giải thích” về các tiêu chí mà các thuật toán sử dụng trong các quyết định của họ. Luật này coi quá trình ra quyết định theo thuật toán giống như một cuốn sách công thức. Suy nghĩ cho rằng nếu bạn hiểu công thức, bạn có thể hiểu thuật toán ảnh hưởng đến cuộc sống của bạn như thế nào.
Trong khi đó, một số nhà nghiên cứu AI đã thúc đẩy các thuật toán công bằng, có trách nhiệm và minh bạch , cũng như có thể diễn giải được , nghĩa là họ phải đưa ra quyết định của mình thông qua các quy trình mà con người có thể hiểu và tin tưởng.
Sự minh bạch sẽ có tác dụng gì? Trong một nghiên cứu , học sinh được xếp loại bằng một thuật toán và đưa ra các mức độ giải thích khác nhau về cách điều chỉnh điểm số của bạn bè để đạt được điểm cuối cùng. Những sinh viên có lời giải thích minh bạch hơn thực sự ít tin tưởng vào thuật toán hơn. Điều này, một lần nữa, gợi ý một sự phân chia kỹ thuật số: Nhận thức về thuật toán không dẫn đến sự tự tin hơn trong hệ thống.
Nhưng bạch tật lê không phải là thuốc chữa bách bệnh. Ngay cả khi quy trình tổng thể của thuật toán được phác thảo, các chi tiết vẫn có thể quá phức tạp để người dùng có thể hiểu được. Tính minh bạch sẽ giúp chỉ những người dùng đủ tinh tế mới có thể nắm bắt được sự phức tạp của các thuật toán.
Ví dụ, vào năm 2014, Ben Bernanke, cựu chủ tịch Cục Dự trữ Liên bang, ban đầu đã bị từ chối tái cấp vốn thế chấp bởi một hệ thống tự động . Hầu hết các cá nhân đang nộp đơn xin tái cấp vốn thế chấp như vậy sẽ không hiểu cách các thuật toán có thể xác định mức độ tín nhiệm của họ.
[Hình ảnh: StudioM1 / iStock]
CHỌN KHÔNG THAM GIA HỆ SINH THÁI THÔNG TIN MỚI
Mặc dù các thuật toán ảnh hưởng rất nhiều đến cuộc sống của con người, nhưng chỉ một phần nhỏ những người tham gia đủ tinh vi để tham gia đầy đủ vào cách các thuật toán ảnh hưởng đến cuộc sống của họ .
Không có nhiều thống kê về số người hiểu biết về thuật toán. Các nghiên cứu đã tìm thấy bằng chứng về sự lo lắng về thuật toán , dẫn đến sự mất cân bằng sâu sắc về quyền lực giữa các nền tảng triển khai thuật toán và người dùng phụ thuộc vào chúng .
Một nghiên cứu về việc sử dụng Facebook cho thấy khi những người tham gia biết về thuật toán quản lý nguồn cấp tin tức của Facebook, khoảng 83% người tham gia đã sửa đổi hành vi của họ để cố gắng tận dụng thuật toán, trong khi khoảng 10% giảm mức sử dụng Facebook.
Một báo cáo tháng 11 năm 2018 từ Trung tâm Nghiên cứu Pew cho thấy rằng phần lớn công chúng có mối quan tâm đáng kể về việc sử dụng các thuật toán cho các mục đích cụ thể. Kết quả cho thấy 66% cho rằng các thuật toán tính điểm tài chính cá nhân sẽ không công bằng, trong khi 57% cho rằng tương tự về việc sàng lọc lý lịch tự động.
[Hình ảnh: The Conversation (biểu đồ), Anjana Susarla / Đại học Bang Michigan (dữ liệu)]
Một phần nhỏ các cá nhân thực hiện một số quyền kiểm soát cách các thuật toán sử dụng dữ liệu cá nhân của họ. Ví dụ: nền tảng Hu-Manity cho phép người dùng một tùy chọn để kiểm soát lượng dữ liệu của họ được thu thập . Bách khoa toàn thư trực tuyến Everipedia cung cấp cho người dùng khả năng trở thành một bên liên quan trong quá trình quản lý, có nghĩa là người dùng cũng có thể kiểm soát cách thông tin được tổng hợp và trình bày cho họ.
Tuy nhiên, phần lớn các nền tảng không cung cấp sự linh hoạt như vậy cho người dùng cuối của họ hoặc quyền lựa chọn cách thuật toán sử dụng tùy chọn của họ trong việc quản lý nguồn cấp tin tức của họ hoặc trong việc đề xuất nội dung cho họ. Nếu có các tùy chọn, người dùng có thể không biết về chúng. Khoảng 74% người dùng của Facebook cho biết trong một cuộc khảo sát rằng họ không biết cách nền tảng này đặc trưng cho sở thích cá nhân của họ .
Theo quan điểm của tôi, kiến thức kỹ thuật số mới không phải là sử dụng máy tính hay truy cập internet, mà là hiểu và đánh giá hậu quả của lối sống luôn cắm đầu vào.
Liên quan: Phân chia quyền riêng tư
Lối sống này có tác động có ý nghĩa đến cách mọi người tương tác với những người khác ; về khả năng chú ý đến thông tin mới của họ ; và về mức độ phức tạp của các quá trình ra quyết định của họ .
Sự lo lắng ngày càng tăng về thuật toán cũng có thể được phản ánh bởi những thay đổi song song trong nền kinh tế. Một nhóm nhỏ các cá nhân đang thu được lợi nhuận từ tự động hóa , trong khi nhiều công nhân đang ở trong một vị trí bấp bênh .
Chọn không tham gia quản lý theo thuật toán là một điều xa xỉ - và một ngày nào đó có thể là biểu tượng của sự sung túc chỉ dành cho một số ít người được chọn. Sau đó, câu hỏi đặt ra là những tác hại có thể đo lường được sẽ là gì đối với những người ở phía sai của khoảng cách kỹ thuật số.
Nhận xét
Đăng nhận xét