Dù trả đúng hạn tiền thuê nhà suốt 17 năm, người phụ nữ vẫn bị app AI đánh giá là không đáng tin cậy, không được phép thuê căn hộ cao cấp. 400 người khác cũng bị đối xử bất công như cô.
Hệ thống AI lấy dữ liệu từ nhiều nguồn khác nhau gồm điểm tín dụng và các khoản nợ không liên quan đến việc thuê nhà. Ảnh: TheRealDeal.
Mary Louis, một nhân viên bảo vệ tại Massachusetts, từng hy vọng sẽ tìm thuê được căn hộ phù hợp trong khu ngoại ô yên bình. Với thư giới thiệu từ chủ nhà cũ sau 17 năm thuê và người bảo lãnh tài chính đáng tin cậy là con trai mình, cô tin rằng mọi thứ sẽ suôn sẻ.
Song, cuối cùng cô vẫn không thuê được nhà vì bị công cụ sàng lọc người thuê bằng AI SafeRent chấm điểm tin cậy rất thấp. Theo app này, điểm số của Louis chỉ đạt 324, không đủ để vượt qua ngưỡng tối thiểu 443.
Thuật toán chấm điểm không công bằng, thiếu minh bạch
Mọi chuyện bắt đầu từ năm 2021. Mary Louis nộp đơn xin thuê một căn hộ ở vùng ngoại ô phía đông Massachusetts. Sau khi cô tham quan căn hộ, công ty bất động sản đảm bảo rằng hồ sơ của cô sẽ không gặp vấn đề gì.
Tuy điểm tín dụng cá nhân không cao và có một số khoản nợ thẻ tín dụng, Louis có thư giới thiệu từ chủ nhà cũ. Người này khẳng định cô luôn trả tiền thuê đúng hạn. Cô cũng sử dụng một phiếu hỗ trợ nhà ở (voucher) cho người thu nhập thấp để đảm bảo rằng chủ nhà sẽ nhận được một phần tiền thuê hàng tháng từ chính phủ. Con trai cô là người bảo lãnh cũng có điểm tín dụng cao.
Tuy nhiên, sau hơn 2 tháng chờ đợi, công ty gửi email thông báo rằng app SafeRent đã từ chối hồ sơ của cô. Điểm số của cô chỉ đạt 324, thấp hơn ngưỡng tối thiểu 443 cần thiết để hồ sơ được chấp nhận. Sau khi bị từ chối, Louis buộc phải thuê một căn hộ khác với chi phí cao hơn. Nơi này không sử dụng các công cụ sàng lọc bằng AI.
Theo Guardian, SafeRent là hệ thống sàng lọc người thuê sử dụng AI và đã trở thành công cụ phổ biến tại Mỹ. Nhưng ứng dụng này cũng làm dấy lên lo ngại rằng những quyết định được đưa ra bởi các thuật toán không minh bạch, không công bằng, nhưng lại không được phép phản bác.
Hệ thống của SafeRent lấy dữ liệu từ nhiều nguồn khác nhau gồm điểm tín dụng và các khoản nợ không liên quan đến việc thuê nhà. Tuy nhiên, các yếu tố này không phản ánh chính xác khả năng trả tiền thuê của người sử dụng phiếu hỗ trợ nhà ở như Louis.
“AI không biết hành vi của tôi. Nó biết tôi từng trễ hạn thanh toán thẻ tín dụng, nhưng nó không biết tôi luôn trả tiền thuê nhà đúng hạn”, Louis nói với Guardian.
Cảm thấy bất công, Louis đã cùng với hơn 400 người thuê nhà khác đệ đơn kiện SafeRent vào năm 2022. Họ cáo buộc rằng hệ thống AI này vi phạm Đạo luật Nhà ở Công bằng (Fair Housing Act). Đơn kiện khẳng định thuật toán của SafeRent chấm điểm không công bằng, phân biệt đối xử với người dùng phiếu hỗ trợ nhà ở, đặc biệt là người da màu và gốc Tây Ban Nha.
Nghiên cứu cho thấy họ thường có điểm tín dụng thấp hơn và sử dụng phiếu hỗ trợ nhà ở nhiều hơn so với người da trắng ở Mỹ. Tức là họ có khả năng cao bị chấm điểm thấp và bị từ chối thuê nhà một cách không công bằng, theo Guardian.
Đến tháng 11/2024, SafeRent không thừa nhận bất kỳ hành vi sai phạm nào, nhưng chấp nhận chi 2,3 triệu USD bồi thường và cam kết không sử dụng hệ thống chấm điểm đối với người dùng phiếu hỗ trợ nhà ở trong vòng 5 năm tới. Ngoài ra, nếu phát triển một hệ thống mới, SafeRent phải đảm bảo thuật toán được kiểm chứng bởi một tổ chức độc lập chuyên về quyền nhà ở công bằng.
AI đi vào dịch vụ thiết yếu của con người
Vụ việc của Louis là một ví dụ điển hình về cách AI đang xâm nhập vào những lĩnh vực quan trọng nhất trong cuộc sống, như việc làm, giáo dục, y tế hay nhà ở. Theo một báo cáo của luật sư Kevin de Liban, gần như tất cả 92 triệu người có thu nhập thấp ở Mỹ đã bị ảnh hưởng bởi các quyết định được đưa ra bởi AI.
Là người sáng lập tổ chức TechTonic Justice, Kevin de Liban đã bắt đầu điều tra các hệ thống này từ năm 2016. Vào thời điểm đó, ông đại diện cho những bệnh nhân khuyết tật tại Arkansas. Họ đột nhiên bị giảm số giờ chăm sóc tại nhà do một chương trình tự động đưa ra quyết định mà không cần đến sự tham gia của con người.
Đơn cử như có lần hệ thống của Medicaid tại Arkansas kết luận rằng một bệnh nhân không gặp vấn đề gì với chân mình, vì chân của anh ta đã bị cắt cụt.
“Điều này khiến tôi nhận ra rằng chúng ta không nên xem AI như một phương thức lý tính tối cao để đưa ra quyết định. Chúng đưa ra những giả định vô lý từ dữ liệu thống kê kém chất lượng”, De Liban nói.
Theo Guardian, hiện tại, luật pháp liên quan đến AI vẫn còn rất hạn chế, đặc biệt trong các quyết định quan trọng ảnh hưởng đến chất lượng sống Theo một khảo sát của Consumer Reports vào tháng 7, phần lớn người dân Mỹ cảm thấy không thoải mái khi AI được sử dụng để đưa ra các quyết định quan trọng như thuê nhà, việc làm và chăm sóc sức khỏe.
Không giống như trường hợp của Louis, đa phần không được thông báo rằng AI đã được sử dụng để đánh giá họ. Vì thế, họ không có cơ hội kháng nghị hoặc yêu cầu thông tin minh bạch.
Trong bối cảnh này, chính quyền của Tổng thống Joe Biden đã có những động thái kiểm soát ngành công nghiệp AI đang phát triển nhanh chóng. Ông Biden đã ban hành một sắc lệnh hành pháp gồm các khung quy định nhằm giải quyết các rủi ro liên quan đến an ninh quốc gia và phân biệt đối xử từ các hệ thống AI. Tuy nhiên, Tổng thống đắc cử Donald Trump đã hứa hẹn sẽ hủy bỏ các quy định này, bao gồm cả sắc lệnh của Biden về AI.
VietBf@ sưu tập
