Câu trả lời cuối cùng của thiên tài vật lý trên Reddit

[june04]

Mối nguy hiểm dành cho thế giới chính là trí tuệ nhân tạo. Thiên tài vật lý đã trả lời các bạn trẻ trên Reddit rất rõ ràng. Đây cũng chính là những lời cuối của ông cho nhân loại.

Stephen Hawking đã ra đi mãi mãi. Điều đó khiến chúng ta chợt nhận ra rằng không có ai là bất tử cả, và cũng cùng lúc ấy cũng hiểu rằng không một vĩ nhân nào biến mất mãi mãi cả: những di sản, những cống hiến của họ vẫn còn đó.

Khi tin Hawking mất được đăng tải trên Reddit, cộng đồng mạng lớn này đã tìm ngay lại bài AMA – Ask Me Anything – Hỏi tôi bất cứ thứ gì nổi tiếng mà Hawking đã thực hiện hai năm trước .

Đây là những gì Hawking đã để lại trên Reddit, đây là những lời khuyên, lời cảnh báo và cả những câu chuyện rất đời thường của Hawking.

Bạn có thể đọc tất cả những câu trả lời ấy ở đây, và dưới đây là một số câu trả lời đáng chú ý của ông về mối nguy mang tên AI – Trí tuệ nhân tạo.

Về sự tiến hóa của AI theo thời gian

Xin chào Giáo sư Hawking, cảm ơn thầy vì đã thực hiện buổi AMA này! Gần đây em có suy nghĩ chút về ý chí sống sót và sinh sản của những cá thể sinh học, và cái cách ý chí ấy đã tiến hóa qua hàng triệu thế hệ sống. Liệu rằng AI có được ý chí ấy không, và liệu nó có thể trở thành mối đe dọa tới nhân loại không?

Câu trả lời:

Một AI được thiết kế nên mà không tiến hóa, sẽ về cơ bản, vẫn có được động cơ hành động và mục tiêu riêng. Tuy nhiên, như Steve Omohundro đã nhấn mạnh, một AI tương lai thông minh sẽ tự phát triển được một ý chí sống sót và sẽ tự kiếm thêm tài nguyên cho mình để thực hiện mất kỳ mục tiêu nào mà nó có, bởi lẽ việc sống sót và có thêm tài nguyên sẽ nâng cao tỉ lệ thành công của mục tiêu nói trên (vì nó là một bộ óc logic, nó sẽ suy nghĩ logic).

Điều này sẽ khiến con người gặp khó khăn, khi mà ta bị hụt mất một phần tài nguyên cho AI.

Về việc liệu ta có cần một "AI có lợi" không

Xin chào Tiến sĩ Hawking, cảm ơn thầy đã thực hiện phiên hỏi đáp AMA này. Em là một sinh viên mới tốt nghiệp với một tấm bằng về Trí tuệ Nhân tạo và Khoa học Nhận thức. Đã học sâu về AI, và đã tận mắt chứng kiến những vấn đề nhân đạo chúng ta gặp phải, về tốc độ một cỗ máy có thể học những thứ cá nhân riêng tư, những cử chỉ của con người và xác định chúng với một tốc độ chóng mặt.

Tuy nhiên, ý tưởng về một trí tuệ nhân tạo "hiểu về mọi thứ xung quanh" hay một hệ thống thông minh thực sự có thể trở thành mối nguy cho con người vẫn còn quá mới lạ với em, đứng về góc nhìn thần kinh học và máy tính mà nói thì ta chưa đạt tới tầm đó.

Ý em muốn hỏi là, trong lời cảnh báo về mối nguy mà trí tuệ nhân tạo mang lại, thầy đang nói về sự phát triển và những đột phá (trong những lĩnh vực như machine learing), hay thầy đang nói rằng ta cần sớm chuẩn bị trong những thứ chắc chắn sẽ tới trong tương lai xa?

Câu trả lời:

Đó là về hai mà em vừa nêu. Giữa những luồng ý kiến của các nhà nghiên cứu AI, mỗi người lại một khác về việc sẽ mất bao lâu để có được một AI ngang bằng con người hay vượt qua con người, vì thế đừng tin một lời khẳng định nào của ai cả.

Nhưng khi một khi nó xuất hiện, nó sẽ hoặc là thứ tuyệt nhất hoặc tệ nhất từng xảy ra với nhân loại, giá trị của nó sẽ thực sự khổng lồ nếu như ta có thể tạo ra được một AI đúng đắn. Ta hãy thay đổi mục tiêu phát triển AI, từ tạo ra một trí tuệ nhân tạo không có định hướng thành tạo ra một AI có lợi.

Có thể cần tới nhiều thập kỷ để làm được điều đó, vì thế hãy bắt đầu nghiên cứu ngay ngày hôm nay, chứ đừng bắt đầu vào cái đêm trước ngày một AI mạnh mẽ được kích hoạt.

Về khả trí tuệ nhân tạo vượt qua được trí tuệ nhân loại

Chào Giáo sư Hawking. Cảm ơn thầy lắm vì đã có cuộc hỏi đáp này ạ! Đầu năm nay thầy, Elon Musk và nhiều tượng đài nổi tiếng của ngành khoa học khác chung tay ký một lý thư cảnh báo nhân loại về tiềm năng nguy hiểm của Trí tuệ Nhân tạo. Lá thư nói rõ rằng:

"Chúng tôi khuyên mọi người nên mở rộng nghiên cứu nhắm tới việc tạo ra một hệ thống AI đáng tin tưởng và có lợi: hệ thống AI của chúng ta phải làm được việc ta muốn chúng làm.

Mặc ta nên mong chờ tương lai này sẽ xảy tới, tuyên bố này sẽ là điểm dựa cho cuộc tranh luận về khả năng một AI có bao giờ vượt mặt được trí tuệ con người hay không".

Câu hỏi của em là:

1. Một người chắc chắn sẽ không bao giờ nghĩ rằng sinh vật mà họ tạo ra sẽ có ngày vượt qua họ. Nhưng thầy đồng ý không? Nếu có, thì thầy nghĩ trí tuệ nhân tạo sẽ trở thành một mối đe dọa theo cách nào?

2. Nếu như có thể tạo ra một trí tuệ nhân tạo vượt qua trí tuệ nhân loại, thầy sẽ đặt ra giới hạn "đủ thông minh" ở đâu? Nói một cách khác, thầy nghĩ rằng ta sẽ tạo ra được AI thông minh mức nào, mà lại đảm bảo được là nó không thể vượt qua ta?

Câu trả lời:

Hoàn toàn có thể xảy ra việc một thứ gì đó có thể thông minh hơn người tiền nhiệm của nó: chúng ta đã tiến hóa, trở nên thông minh hơn tổ tiên vượn người của mình, và hiển nhiên Einstein thông minh hơn cha mẹ của ông.

Còn về câu em hỏi về việc AI có thể giỏi thiết kế hơn con người không, để nó có thể tự hoàn thiện mình mà không cần con người. Nếu như điều này xảy ra, ta sẽ đối mặt với một cơn bùng nổ trí tuệ nhân tạo mà kết quả của nó sẽ là trí tuệ của máy móc vượt qua trí tuệ của ta, tương đương với việc trí tuệ của ta vượt qua trí tuệ loài ốc sên.

Về việc thất nghiệp do công nghệ

Có lẽ em đã tới muộn, nhưng em vẫn muốn hỏi và mong có câu trả lời. Thầy có nghĩ về khả năng thất nghiệp do công nghệ tạo ra không ạ, và quá trình tự động hóa vừa nhanh vừa hiệu quả ta đang tạo ra sẽ khiến nhiều người mất việc?

Cụ thể, thầy có thấy một tương lai mà tại đó người ta làm ít hơn bởi công việc đã được tự động hóa hết rồi không? Thầy có nghĩ người ta sẽ tìm việc hay tự tạo ra việc để làm không?

Cảm ơn vì thầy đã dành thời gian ra trả lời và cảm ơn thầy vì những cống hiến thầy đã thực hiện. Thầy đúng là nguồn cảm hứng cho vô số người.

Câu trả lời:

Nếu như máy móc tạo ra mọi thứ ta cần, kết quả sẽ dựa trên việc những sản phẩm ấy được phân phối như thế nào. Ai cũng có thể có một cuộc sống xa hoa sung túc nếu như tài sản được máy móc tạo ra chia đều cho mọi người, hoặc đa số người sẽ trở nên nghèo khó nếu như chủ nhân những máy móc kia quyết định giữ hết tài sản cho mình.

Cho tới giờ, xu hướng tự động hóa đang hướng về về thứ hai, công nghệ đang làm gia tăng sự bất bình đẳng.

Và đây, là những bài hát, bộ phim Stephen Hawking yêu thích, câu trả lời đời thường giữa những thứ khoa học mà ông nghiên cứu:

Đâu là bài hát yêu thích nhất của thầy?

" Have I Told You Lately " do Rod Stewart trình bày.

Đâu là bộ phim yêu thích nhất mọi thời đại của thầy?

Jules et Jim, bộ phim từ năm 1962.

Đâu là thứ cuối cùng thấy xem trên mạng và thấy nó buồn cười khó tả?

Series truyền hình The Big Bang Theory.