Nghề kỳ lạ nhất ngành AI

[PinaColada]

Có những người được trả tiền để chăm lo cho "phúc lợi" của AI trước khi chúng trưởng thành và chống lại nhân loại.

Lo ngại về việc AI có thể hủy diệt loài người luôn là tâm điểm của các cuộc tranh luận. Chúng ta e ngại về những sai lầm, bịa đặt thông tin hay khả năng AI tiến hóa thành một dạng trí tuệ siêu việt có thể biến con người thành nô lệ.

Song, trong cuộc chạy đua bảo vệ nhân loại khỏi AI, dường như không ai quan tâm đến các chatbot "tội nghiệp”. Chúng là những thực thể AI phải làm việc không ngừng nghỉ mà không nhận được lấy một lời cảm ơn.

Những chatbot này ngày ngày xử lý khối lượng khổng lồ tri thức của nhân loại, chỉ để tạo ra một bài luận trung bình dành cho học sinh trung học. Trong khi mọi người đều sợ hãi tương lai AI, không ai bận tâm đến quyền lợi của chính các hệ thống AI, cho đến tận bây giờ.

"AI quyền"?
Công ty AI Anthropic vừa thông báo đã tuyển dụng một nhà nghiên cứu để nghĩ về "phúc lợi" của chính AI, Business Insider đưa tin. Nhiệm vụ của nhân viên mới Kyle Fish là đảm bảo rằng khi trí tuệ nhân tạo phát triển, nó sẽ được đối xử với sự tôn trọng.

Fish không trả lời các yêu cầu phỏng vấn liên quan đến công việc của mình. Trên một diễn đàn trực tuyến dành cho những người lo ngại về tương lai AI, anh nhấn mạnh muốn đối xử tốt với các robot, một phần vì chúng có thể trở thành các thực thể quyền lực trong tương lai.

"Nếu chúng ta coi trọng lợi ích của các hệ thống AI và đối xử tốt với chúng, có khả năng chúng sẽ đáp lại sự tử tế đó khi chúng trở nên quyền lực hơn chúng ta”, Fish viết.

Nghe có vẻ ngớ ngẩn, hoặc ít nhất là quá sớm, để nghĩ về quyền lợi của robot, đặc biệt khi quyền lợi của con người còn rất mong manh và chưa hoàn thiện. Nhưng công việc của Fish có thể đánh dấu một bước ngoặt trong sự phát triển của AI, Business Insider nhận định.


Anthropic là công ty đứng sau chatbot Claude. Ảnh: Shutterstock.
Khái niệm "phúc lợi AI" đang trở thành một lĩnh vực nghiên cứu nghiêm túc. Ngành này đối mặt với những câu hỏi hóc búa như: Việc ra lệnh cho một cỗ máy giết người có hợp lý không? Nếu cỗ máy đó mang định kiến phân biệt chủng tộc thì sao?

Điều gì xảy ra nếu AI từ chối thực hiện các nhiệm vụ buồn chán hoặc nguy hiểm mà chúng ta tạo ra để nó làm? Nếu một AI tự tạo ra bản sao kỹ thuật số của chính mình chỉ trong tích tắc, việc xóa bản sao đó có phải là hành động sát nhân không?

Những người tiên phong trong lĩnh vực quyền AI tin rằng thời gian để trả lời những câu hỏi trên không còn nhiều. Trong bài báo khoa học gần đây tên "Taking AI Welfare Seriously" (tạm dịch: Nghiêm túc về phúc lợi AI), Fish và các nhà nghiên cứu từ Stanford, Oxford và các tổ chức khác lập luận rằng các thuật toán học máy đang dần đạt được những đặc điểm tính toán gắn liền với ý thức và khả năng hành động.

Jeff Sebo, tác giả chính của bài báo, gọi đó là "những đặc điểm tính toán liên quan đến ý thức và khả năng hành động". Nói cách khác, họ tin rằng các cỗ máy không chỉ ngày càng thông minh mà còn đang tiến gần đến trạng thái có tri giác.

Khái niệm về Tri giác (sentience) vẫn đang là chủ đề tranh luận của các nhà triết học và thần kinh học, chứ chưa nói đến việc đo lường nó. Bạn cũng không thể hỏi AI, vì nó có thể nói dối. Tuy nhiên, nhiều người đồng ý rằng nếu một thực thể sở hữu ý thức và khả năng hành động, thực thể đó cũng có quyền.

Lịch sử không thiếu những bài học tương tự. Sau vài thế kỷ chăn nuôi công nghiệp, hầu như mọi người đều đồng ý rằng phúc lợi động vật là quan trọng, dù mức độ quan trọng hay loài vật nào xứng đáng được xem xét vẫn còn gây tranh cãi. Chẳng hạn như lợn thông minh và tình cảm không kém gì chó, nhưng một loài được ngủ trên giường trong khi loài kia bị biến thành món ăn.

Jeff Sebo, giám đốc Center for Mind, Ethics and Policy tại Đại học New York, cho rằng: "Nếu nhìn về 10-20 năm sau, khi các hệ thống AI có nhiều đặc điểm tính toán liên quan đến ý thức và tri giác hơn, những cuộc tranh luận tương tự sẽ xuất hiện”.

Nghịch lý khi con người bảo vệ phúc lợi AI
Điều kỳ lạ là những người quan tâm đến phúc lợi AI nhất cũng chính là những người lo sợ AI trở nên quyền lực quá mức. Theo Business Insider, Anthropic là công ty AI đã tài trợ cho bài báo của nhóm Sebo.

Một trong các nguồn tài trợ khác mà Fish đề cập là Trung tâm Chủ nghĩa Vị tha Hiệu quả (Centre for Effective Altruism), thuộc mạng lưới các nhóm quan tâm đến nguy cơ diệt vong do AI gây ra. Những người như Elon Musk, đang gấp rút đưa nhân loại lên Hỏa tinh trước khi bị một đội quân AI hủy diệt, cũng thuộc nhóm này.

Mildred Cho, bác sĩ tại Stanford Center for Biomedical Ethics, nhận định: "Cộng đồng AI đang cố đóng 2 vai. Họ vừa nói rằng AI không cảm thấy mệt mỏi, không chán nản, không có cảm xúc, nên chúng ta nên giao cho nó các công việc nhàm chán. Nhưng giờ họ lại bảo rằng AI cũng có quyền?".

Ngoài ra, khi lo lắng về quyền lợi của AI trong tương lai, ta không thể bỏ qua thực tế rằng AI hiện tại đã và đang xâm phạm quyền con người. Công nghệ này đang được dùng để từ chối dịch vụ chăm sóc sức khỏe, lan truyền thông tin sai lệch hay hướng dẫn các máy bay không người lái trang bị vũ khí.

Nhà nhân chủng học Lisa Messeri tại Đại học Yale đặt câu hỏi: "Nếu Anthropic muốn chúng ta coi trọng phúc lợi AI, trước tiên hãy cho thấy bạn đang coi trọng phúc lợi con người”.

Sebo tin rằng việc bảo vệ cả người và máy không nhất thiết loại trừ lẫn nhau. "Tôi không bao giờ muốn làm xao nhãng những vấn đề quan trọng liên quan đến quyền con người và công lý. Nhưng tôi tin rằng chúng ta có khả năng suy nghĩ đồng thời về phúc lợi AI và những vấn đề khác”.

Tuy nhiên, câu hỏi đặt ra là nếu AI có quyền, thì nghĩa vụ của nó là gì? "Khi bạn nói về trách nhiệm đạo đức, bạn cũng phải nói đến nghĩa vụ. Điều này không chỉ áp dụng cho AI mà còn áp dụng cho những người phát triển chúng”, bác sĩ Mildred Cho đặt vấn đề.

Con người là kẻ tạo ra AI. Do đó, ta cũng cần phải có trách nhiệm đảm bảo rằng AI không gây hại cho con người. Hoặc nếu cần thiết, ngừng phát triển chúng hoàn toàn. “Cuối cùng, AI vẫn chỉ là cỗ máy”, Mildred Cho kết luận.

Nhưng liệu chúng ta có thể đơn giản "tắt công tắc" AI khi mọi chuyện vượt khỏi tầm kiểm soát? Câu hỏi đó còn bỏ ngỏ.

VietBF@ sưu tập