Hình ảnh ngụy tạo do AI tuy khó phát hiện ra, nhưng quy luật về vật lý cũng sẽ vạch mặt ra được

[trungthuc]

(Minh họa)
Các ứng dụng AI ngụy tạo ra ảnh nay đã trở nên tinh vi đến mức phần lớn đã loại bỏ ra được những dấu hiệu ban đầu như bàn tay hoặc bàn chân bị biến dạng. Tuy nhiên, các chuyên gia về pháp y hình ảnh gần đây bắt đầu tập trung vào các định luật vật lý mà các mô hình ngôn ngữ lớn chưa (hoặc chưa) nắm hiểu được, chẳng hạn như các định luật chi phối về ánh sáng và phối cảnh.

Một cuộc nghiên cứu được công bố trên tạp chí Science có đưa ra giải thích cho rằng trong khi các phần mềm tạo ảnh hiện đại đang được cải tiến, nâng cấp nhanh chóng, các mô hình đằng sau chúng vẫn về nguyên tắc vẫn không nắm hiểu cách thức hoạt động của ánh sáng và hình học trong thế giới thực tế. Việc đo lường các chi tiết đơn giản như sự phản chiếu hoặc bóng tối vẫn có thể làm lộ ra một bức ảnh được ngụy tạo giả mạo. Theo đó, các chuyên gia cũng lập luận cho rằng, khoảng trống đó hiện là một trong những phương cách đáng tin cậy nhất để phân biệt ra ảnh thật với ảnh giả do AI ngụy tạo ra.

(Minh họa)
Một phần tạo ra sự hiệu quả của những hình ảnh giả mạo này chính là một dạng kịch tính đã được dàn dựng sẵn. Chúng thường có vẻ bên ngoài đúng như cách mà con người kỳ vọng về thực tại: sống động, đậm chất điện ảnh và được "cách điệu" (stylized) theo những khuôn mẫu đã được định hình qua hàng thập kỷ trong phim ảnh và truyền thông đại chúng.

Ông Hany Farid, một giáo sư tại UC Berkeley, California, người được giới chuyên môn rộng rãi coi là một trong những cha đẻ của ngành pháp y về kỹ thuật số, đã và đang khai thác một điểm yếu tinh vi hơn nhiều. Cho đến nay, ông đã thành công trong việc phát hiện và vạch trần các hình ảnh giả mạo do AI tạo ra bằng cách đối chiếu những chi tiết nhỏ nhất với cách thức mà chúng lẽ ra phải xuất hiện trong thực tế. Theo lập luận của ông, các ứng dụng ngụy tạo ảnh qua AI vẫn chưa nắm bắt được một bài học cốt lõi mà bất cứ lớp dạy về mỹ thuật nhập môn nào cũng giảng dạy: khái niệm về điểm tụ.

Chẳng hạn, mặc dù bức ảnh do AI ngụy tạo ra ở trên với hình ảnh những người binh sĩ đang đi hành quân dọc theo một hành lang, lại chứa đựng những khiếm khuyết khá lộ liễu như các dòng chữ bị biến dạng hay những sợi xích dẫn về chổ hư không, nhưng chính những viên gạch lát sàn lại hé lộ một sự sai sót tinh vi hơn nhiều.
Trong thế giới thực tế, các đường thẳng song song, chẳng hạn như các đường gạch lát sàn hay các tấm ván sàn, lẽ ra phải hội tụ tại một điểm tụ nhất định. Việc cho kẻ các đường thẳng trực tiếp lên bức ảnh để xác định vị trí điểm tụ chính là một phương pháp hữu hiệu hầu giúp kiểm chứng tính xác thực của hình ảnh đó.

(Minh họa)
Hình ảnh được phản chiếu ra cũng đem lại một cơ hội khác để áp dụng cùng một phương pháp kiểm tra xác minh. Mặc dù các ứng dụng ngụy tạo ảnh qua AI ngày nay đã có thể tạo ra những hình ảnh phản chiếu trông đủ thuyết phục đối với mắt người, nhưng bất cứ dụng cụ đo đạc thẳng nào cũng có thể phá vỡ ảo giác đó. Nguyên nhân là do các đường nối từ những điểm trên vật thể đến các điểm tương ứng trên hình ảnh phản chiếu của chúng lẽ ra phải chạy song song và hội tụ tại một điểm tụ.

Các bóng nền được tạo ra từi ánh sáng Mặt trời cũng tuân theo những quy tắc tương tự. Mặt trời nằm cách Trái Đất một khoảng quá xa, đến mức các tia sáng của nó gần như song song khi chiếu đến chúng ta. Do đó, các đường nối từ những điểm trên vật thể đến các điểm tương ứng trên bóng nền của chúng cũng phải hội tụ tại một điểm tụ nhất định.

(Minh họa)
Liệu rằng các mô hình LLM có khắc phục được những lỗi này hay không, hoặc khi nào, thì vẫn chưa rõ. Trong khi các lỗi khác của AI đang nhanh chóng bị biến mất, việc đo lường các đường phối cảnh đòi hỏi khá nhiều thời gian và công sức hơn so với những gì mà người xem thông thường sẵn sàng bỏ ra. Việc nắm hiểu các định luật vật lý như vậy cũng có thể vượt quá khả năng của các mô hình AI tạo sinh hiện tại.

Các chuyên gia nghiên cứu cũng cảnh cáo người tiêu dùng cần phải đề phòng cảnh giác về việc sử dụng các ứng dụng phát hiện dựa trên AI. Mặc dù một số công cụ có thể đáng tin cậy hơn mắt người chưa được đào tạo, nhưng chúng có thể gặp khó khăn với dữ kiện đầu vào khác biệt đáng kể so với dữ kiện được cho huấn luyện của chúng.

Một cuộc nghiên cứu khác có bổ sung thêm một khía cạnh bất ngờ: việc xác minh một bức ảnh thật có thể khó hơn việc phát hiện ra ảnh được ngụy tạo giả mạo. Người xem càng xem xét một hình ảnh lâu mà không tìm thấy bất cứ lỗi nào, thì hình ảnh đó càng có nhiều khả năng là "thật", có nghĩa là đôi khi, việc không có lỗi nào chính là bằng chứng cụ thể xác định ra đó là "thật".

Nguồn: techspot