Chỉ cần đổi 1 pixel để đánh lừa AI nhận diện chó thành xe ô tô

- in Tổng Hợp

Việc tìm hiểu trí tuệ nhân tạo từ lâu đã là một chủ đề rất phổ biến cho các nhà nghiên cứu. Gần đây, bằng cách thay đổi một Pixel của bức ảnh, người ta đã đánh lừa được AI trong việc nhận dạng và phân loại ảnh.

Việc tìm hiểu trí tuệ nhân tạo từ lâu đã là một chủ đề rất phổ biến cho các nhà nghiên cứu, và không ít các nghiên cứu đã lừa được AI. Trong một thử nghiệm mới đây của đội ngũ nghiên cứu đại học Kyushu đã chỉ ra rằng, AI rất dễ bị đánh lừa trong việc phân loại ảnh.

Một thuật toán mới đã được giới thiệu trên arVix, trong đó việc thay thế chỉ một 1 pixel trong bức ảnh có độ phân giải 1024 Pixel đã có thể làm cho AI nhận dạng ảnh sai. Các thực nghiệm đã đánh lừa được AI trên 74% tổng số lần thử nghiệm, con số này còn tăng lên cao hơn tới 87% với 5 pixel được chỉnh sửa.

Thực tế, bức ảnh 1024 Pixel là rất nhỏ, và chúng ta cần phải thay đổi nhiều Pixel hơn ở các bức ảnh to hơn để có thể đánh lừa được AI. Việc có thể đánh lừa AI chỉ với một số thay đổi nhỏ cũng làm dấy lên những nỗi lo ngại về các vụ tấn công. Thật khó để có thể cải thiện AI, bởi vì hiện chúng ta vẫn chưa hoàn toàn làm chủ được các công nghệ chế tạo nên trí tuệ nhân tạo.

Nguồn kenh14.vn

Chỉ cần đổi 1 pixel để đánh lừa AI nhận diện chó thành xe ô tô
5 (100%) 2 vote[s]

Bạn có quan tâm tới

Tầm quan trọng dịch vụ vận hành, bảo dưỡng (O&M) đối với nhà máy điện mặt trời

Các nhà máy điện mặt trời muốn hệ