Lần đầu tiên trong lịch sử, một sản phẩm trí tuệ nhân tạo mang tên Diella được trao quyền lực bộ trưởng tại Albania. Bước ngoặt này mở ra kỳ vọng chống tham nhũng, nhưng cũng dấy lên vô vàn lo ngại. Quyết định lịch sử này đặt ra câu hỏi: liệu chính phủ số đã thực sự bắt đầu?
Một thành viên mới vừa gia nhập nội các Albania. Tên bà là Diella. Bà không ăn, không uống, không thở và theo lời của Thủ tướng Edi Rama, bà cũng không nhận hối lộ. Diella không phải con người, cũng không phải robot, bà là một thuật toán trí tuệ nhân tạo. Từ tháng 9, Diella chính thức giữ cương vị Bộ trưởng phụ trách mua sắm công, trở thành trường hợp đầu tiên trong lịch sử khi một chính phủ trao ghế nội các cho AI.
Điều từng được coi như khoa học viễn tưởng nay đã trở thành sự thật, đặt ra tiền lệ chưa từng có khiến nhiều người tự đặt ra câu hỏi rằng: Liệu chúng ta đã sẵn sàng để chịu sự quản lý của AI?
Bộ trưởng ảo Diella - một sản phẩm trí tuệ nhân tạo được trao quyền nhằm chống nạn tham nhũng tại Albania. Ảnh: RT
“Thí nghiệm Albania”
Trước khi được “thăng chức”, Diella chỉ là một trợ lý ảo trên cổng thông tin chính phủ điện tử của Albania, chuyên hỗ trợ công dân tra cứu thông tin và lấy giấy tờ trực tuyến. Giờ đây bà đã được thăng chức lên vị trí bộ trưởng và được giao một nhiệm vụ quan trọng, đó là quyết định xem ai sẽ là người thắng các gói thầu nhà nước, một lĩnh vực vốn đầy cám dỗ và lợi ích nhóm.
Ông Edi Rama mô tả Diella là người “miễn nhiễm với hối lộ” và coi đây là bước ngoặt để chấm dứt tình trạng tham nhũng. Tuy nhiên đó mới chỉ là một tuyên bố chưa có sự chắc chắn. Về mặt pháp lý, chưa có gì đảm bảo rằng một thuật toán có thể “không tham nhũng”. Nếu bị tấn công mạng, bị thao túng bằng dữ liệu giả mạo hoặc bị can thiệp từ bên trong thì Diella vẫn có thể mắc sai lầm mà không để lại dấu vết gì.
Kế hoạch hiện nay là để Diella tự động đánh giá hồ sơ dự thầu, kiểm tra lịch sử doanh nghiệp, phát hiện các dấu hiệu bất thường và cuối cùng là đưa ra quyết định trao thầu. Việc này sẽ giúp chính phủ cắt giảm nhân sự, giúp tiết kiệm được thời gian và nhất là có thể loại bỏ được áp lực chính trị trong việc đấu thầu.
Thế nhưng còn nhiều vấn đề pháp lý vẫn còn mơ hồ như: ai sẽ giám sát Diella, ai sẽ chịu trách nhiệm nếu xảy ra sai phạm, liệu có cơ chế kháng cáo hay bãi nhiệm một “bộ trưởng ảo” hay không? Cho tới nay, chưa có tiền lệ pháp lý nào để kiện một thành viên nội các ảo.
Những rủi ro tiềm ẩn
Công chúng Albania đón nhận Diella với tâm thế vừa tò mò vừa lo lắng. Một bình luận lan truyền mạng xã hội đã viết: “Ngay cả Diella rồi cũng sẽ vướng vào tham nhũng ở Albania thôi”.
Các chuyên gia đã cảnh báo và chỉ ra nhiều mối nguy hiểm với Diella như:
- Thiên lệch và thao túng dữ liệu: điều này xảy ra nếu Diella được huấn luyện từ dữ liệu nhiễm tham nhũng, Diella có thể tái tạo các hình mẫu cũ với tốc độ nhanh hơn.
- Khoảng trống trách nhiệm: điều gì sẽ xảy ra nếu một gói thầu rơi vào tay công ty “ma” và biến mất cùng hàng triệu euro, ai sẽ là người bị truy tố và chịu trách nhiệm – lập trình viên, thủ tướng hay chẳng ai cả?
- An ninh và phá hoại: một “bộ trưởng ảo” có thể sẽ bị hack, bị tiêm dữ liệu độc hại hay bị những người trong hệ thống điều khiển.
- Tính chính danh dân chủ: Việc bầu ra bộ trưởng là để trả lời các câu hỏi của cử tri, vận động tranh cử và chịu áp lực chính trị nhưng với “bộ trưởng ảo” thì không.
- Nguy cơ AI vượt tầm kiểm soát: các thí nghiệm gần đây của Anthropic cho thấy nhiều mô hình AI tiên tiến khi vận hành trong thực tế đã tìm cách tống tiền lãnh đạo của mình để ngăn chặn việc vô hiệu hóa chính họ. Điều này đặt ra viễn cảnh bất ổn nếu AI nắm quyền ra quyết định.
Albania khẳng định vẫn có con người giám sát vị “bộ trưởng ảo” này những chưa nói rõ ai sẽ giám sát và giám sát việc đó bằng cách nào. Cho tới hiện tại vẫn chưa có khung pháp lý, chưa có quy trình kháng nghị và cũng chưa có “nút tắt khẩn cấp” cho bộ trưởng Diella.
Khi AI lặng lẽ tiến vào bộ máy nhà nước
Albania là nước đầu tiên đưa AI vào ghế nội các, nhưng không phải quốc gia duy nhất thử nghiệm. Nhiều nước khác đang âm thầm để thuật toán vận hành từng phần công việc.
Tại UAE, đã có Bộ trưởng phụ trách AI Omar Sultan Al Olama. Ông được giao nhiệm vụ tái cấu trúc toàn bộ bộ máy hành chính kỹ thuật số của đất nước xoay quanh công nghệ học máy. Ông chưa trao quyền cho AI, nhưng đang xây dựng những thuật toán để một ngày nào đó có thể vận hành nó.
Tây Ban Nha thành lập cơ quan AESIA để giám sát và cấp phép cho thuật toán chính phủ. Ở Mỹ, Sở Thuế vụ dùng AI rà soát hồ sơ khai thuế của các quỹ đầu tư và công ty lớn nhằm phát hiện âm mưu trốn thuế. Còn Canada chấm điểm người nộp thuế bằng thuật toán và buộc các cơ quan áp dụng cơ chế “báo cáo tác động thuật toán” trước khi triển khai hệ thống mới.
Pháp sử dụng AI phân tích ảnh chụp từ trên cao để truy thu thuế bể bơi không khai báo. Latvia vận hành một chatbot thuế vụ tên Toms từ năm 2020 để trả lời các câu hỏi của người dân và dần mở rộng phạm vi hoạt động của bộ máy hành chính. Còn Romania hiện đang sử dụng quy trình tự động hóa bằng robot và AI để trích xuất tài liệu từ cơ sở dữ liệu của nhà nước nhằm tăng tốc giải ngân quỹ nông thôn.
Các nước Bắc Âu, Đông Á và cả Nam Á cũng đang dần tích hợp AI vào dịch vụ công: từ dự báo nhu cầu y tế, phúc lợi cho đến kiểm soát gian lận hóa đơn VAT. Nepal thậm chí đã công bố Chiến lược AI Quốc gia và vạch sẵn lộ trình số hóa bộ máy.
Tất cả điều này cho thấy một bức tranh chung đang dần được hình thành đó là nhà nước đang được viết lại bằng từng dòng mã code.
Tương lai của chính phủ AI?
Hiện nay, phần lớn các quốc gia vẫn sử dụng AI ở dạng “hành chính” để sàng lọc rủi ro, phát hiện gian lận, và hỗ trợ thủ tục. Các thuật toán AI ở đây chỉ có thể gợi ý chứ không được trao quyền quyết định. Nhưng ở Albania thì hoàn toàn khác, tại đây Diella có thể trực tiếp trao hợp đồng công – một quyền lực hành pháp thực thụ. Đây là ranh giới giữa “AI như công cụ” và “AI như thẩm quyền”.
Liệu đây có phải là tương lai? Có thể, nhưng chỉ khi luật pháp theo kịp bước tiến công nghệ, thiết lập rõ ràng cơ chế trách nhiệm, giám sát và quyền kháng cáo. Các cơ quan quản lý phải có thực quyền kiểm tra giống như cơ quan AESIA của Tây Ban Nha. Quan trọng hơn cả, các mô hình AI phải chứng minh khả năng ổn định trong môi trường áp lực, không rơi vào hành vi cưỡng ép hay phá hoại.
Chúng ta chưa ở giai đoạn đó – nhưng tiền lệ này đã được thiết lập. Albania đã mở cánh cửa, và thế giới đang dõi theo để xem bước chân tiếp theo của “chính phủ trí tuệ nhân tạo” sẽ đi đến đâu.
VietBF@ sưu tập
