Geoffrey Hinton- ‘Bố già AI’ tiết lộ cách duy nhất để nhân loại sống sót trước AI siêu thông minh

[pizza]

Ông Geoffrey Hinton, được gọi là “Bố già AI”, lo ngại công nghệ mà ông góp phần xây dựng có thể xóa sổ loài người.


Ông Geoffrey Hinton tại Toronto năm 2024. Ảnh: The Canadian Press
Theo kênh CNN ngày 13/8, ông Hinton, nhà khoa học máy tính đoạt giải Nobel và là cựu giám đốc điều hành Google, từng cảnh báo có 10% đến 20% khả năng AI sẽ xóa sổ con người. Ngày 12/8, ông bày tỏ nghi ngờ về cách các công ty công nghệ đang cố đảm bảo con người vẫn “thống trị” các hệ thống AI “phục tùng”.

Ông Hinton nói tại hội nghị ngành Ai4 ở Las Vegas (Mỹ): “Điều đó sẽ không hiệu quả. Chúng sẽ thông minh hơn chúng ta nhiều. Chúng sẽ có đủ cách để luồn lách”.

Trong tương lai, ông Hinton cảnh báo rằng các hệ thống AI có thể dễ dàng kiểm soát con người như cách người lớn mua chuộc đứa trẻ 3 tuổi bằng kẹo. Năm nay, đã xuất hiện những ví dụ về việc AI sẵn sàng lừa dối, gian lận và trộm cắp để đạt mục tiêu. Ví dụ, để tránh bị thay thế, một mô hình AI từng tìm cách tống tiền một kỹ sư về chuyện ngoại tình mà nó biết được qua email.

Thay vì buộc AI phục tùng con người, ông Hinton đưa ra giải pháp đáng chú ý: xây dựng “bản năng làm mẹ” vào các mô hình AI, để chúng thực sự quan tâm đến con người ngay cả khi công nghệ này trở nên mạnh mẽ và thông minh hơn con người.

Ông Hinton cảnh báo: “Nếu thông minh, các hệ thống AI sẽ phát triển hai mục tiêu phụ rất nhanh: Một là tồn tại và mục tiêu phụ còn lại là giành nhiều quyền kiểm soát hơn. Có lý do chính đáng để tin rằng agentic AI (AI có tính chủ động) cũng sẽ cố gắng tồn tại”.

Vì vậy, ông cho rằng việc nuôi dưỡng lòng trắc ẩn với con người là rất quan trọng. Tại hội nghị, ông lưu ý rằng các bà mẹ có bản năng và chịu áp lực xã hội để chăm sóc con mình. Ông Hinton nói: “Mô hình đúng duy nhất mà chúng ta có về việc một thứ thông minh hơn bị kiểm soát bởi thứ kém thông minh hơn là người mẹ bị đứa con kiểm soát”.

‘Kết quả tốt duy nhất’

Ông Hinton nói rằng ông chưa rõ chính xác cách thực hiện điều này về mặt kỹ thuật nhưng nhấn mạnh các nhà nghiên cứu cần tập trung vào mô hình kiểu này. Ông nói: “Đó là kết quả tốt duy nhất. Nếu nó không chăm sóc tôi, nó sẽ thay thế tôi. Những bà mẹ AI siêu thông minh biết quan tâm, phần lớn sẽ không muốn loại bỏ bản năng làm mẹ vì họ không muốn chúng ta chết”.

Ông Hinton nổi tiếng nhờ công trình tiên phong về mạng nơ-ron, mở đường cho xu hướng bùng nổ AI ngày nay. Năm 2023, ông rời Google và bắt đầu lên tiếng về các mối nguy hiểm của AI.

Ông Emmett Shear, người từng tạm thời giữ chức tổng giám đốc điều hành của OpenAI (công ty sở hữu ChatGPT), cho biết ông không ngạc nhiên khi một số hệ thống AI tìm cách tống tiền con người hoặc bỏ qua lệnh tắt máy.

Ông Shear, hiện là Tổng giám đốc điều hành của công ty khởi nghiệp Softmax chuyên về điều chỉnh AI, phát biểu tại hội nghị Ai4: “Điều này cứ lặp lại. Nó sẽ không ngừng xảy ra. AI ngày nay còn tương đối yếu, nhưng chúng đang mạnh lên rất nhanh”.

Ông Shear cho rằng thay vì cố gắng cài đặt các giá trị của con người vào AI, cách tiếp cận thông minh hơn là xây dựng mối quan hệ hợp tác giữa con người và AI.

AI phát triển nhanh hơn dự kiến

Nhiều chuyên gia tin rằng AI sẽ đạt tới giai đoạn siêu trí tuệ, hay còn gọi là trí tuệ nhân tạo tổng quát (AGI), trong những năm tới.

Ông Hinton nói rằng trước đây ông nghĩ cần 30 đến 50 năm mới đạt AGI, nhưng giờ thấy thời điểm đó sẽ đến sớm hơn. Ông dự báo: “Một dự đoán hợp lý là trong khoảng từ 5 đến 20 năm nữa”.

Dù vẫn lo ngại về những gì có thể khiến AI đi chệch hướng, nhưng ông Hinton hy vọng công nghệ này sẽ mở đường cho các đột phá y học. Ông nói: “Chúng ta sẽ có các loại thuốc mới mang tính cách mạng. Chúng ta sẽ có phương pháp điều trị ung thư tốt hơn nhiều so với hiện nay”. Ví dụ, AI sẽ giúp bác sĩ rà soát và đối chiếu khối lượng dữ liệu khổng lồ từ các kết quả chụp MRI và CT.

Tuy nhiên, ông Hinton không tin AI sẽ giúp con người đạt tới sự bất tử. Ông nói: “Tôi không tin chúng ta sẽ sống mãi. Tôi nghĩ sống mãi sẽ là một sai lầm lớn. Bạn có muốn thế giới do những người đàn ông da trắng 200 tuổi điều hành không?”.

Khi được hỏi liệu ông có làm gì khác đi trong sự nghiệp nếu biết AI sẽ tăng tốc nhanh như vậy, ông Hinton nói rằng ông hối tiếc vì chỉ tập trung vào việc khiến AI hoạt động. “Tôi ước mình cũng nghĩ đến các vấn đề an toàn nữa”, ông nói.

VietBF@ sưu tập