Fox News ngày 15.8 đưa tin các nhà nghiên cứu tại 0Din - một chương trình do Công ty Mozilla (Mỹ) phát triển, chuyên phát hiện và cảnh báo lỗ hổng bảo mật của những công cụ sử dụng trí tuệ nhân tạo (AI) - vừa phát hiện lỗ hổng của AI Gemini, cho phép tin tặc chèn các lệnh ẩn vào phần tóm tắt email.
Hiện nay, mô hình AI Gemini đã tích hợp vào các công cụ của Google phục vụ công việc (Google Workspace) như Gmail, Docs hay Sheets. Thế nhưng, tin tặc được cho là có thể xâm nhập vào tính năng tóm tắt email để đưa các lời nhắc lừa đảo.
Các nhà nghiên cứu vừa phát hiện lỗ hổng trong tính năng tóm tắt AI của Gemini
ẢNH: REUTERS
Nhà nghiên cứu Marco Figueroa của 0Din đã mô phỏng vụ tấn công mạng, khi có thể chèn câu lệnh ẩn vào nội dung email. Khi người dùng sử dụng Gemini để tóm tắt nội dung email, AI này sẽ diễn giải và hành động dựa vào những câu lệnh ẩn mà người dùng không hay biết.
0Din đưa ra dẫn chứng cho thấy phương pháp trên đã khiến Gemini đưa ra cảnh báo sai khi nói rằng mật khẩu Gmail người dùng đã bị xâm nhập, đồng thời cung cấp số điện thoại hỗ trợ giả. Vì bản tóm tắt của Gemini được tích hợp vào Google Workspace nên người dùng thường tin vào những thông tin đó, khiến cách tấn công mạng này tỏ ra hiệu quả.
Về phương pháp, thủ phạm không chèn những đường dẫn hay tập tin đáng ngờ, thay vào đó sử dụng kết hợp các ngôn ngữ lập trình HTML và CSS để chèn câu lệnh ẩn, bằng cách đặt kích thước phông chữ bằng 0 và màu chữ thành màu trắng. Điều này khiến người dùng không thấy câu lệnh trong nội dung Gmail, nhưng Gemini có thể nhận diện được chúng.
Mặc dù Google từ năm 2024 đã triển khai các biện pháp bảo vệ và chống chèn câu lệnh, phương pháp tấn công trên dường như đã vượt qua lớp hàng rào bảo mật của Google. Công ty công nghệ đến từ Mỹ cho biết đang liên tục cập nhật các phương pháp bảo vệ trên không gian mạng, ngoài ra nêu thêm chưa phát hiện những hành vi khai thác lỗ hổng trên một cách rõ rệt.
Trước nguy cơ trở thành nạn nhân của các thông tin lừa đảo do AI tạo ra, giới chuyên gia cảnh báo người dùng trước hết đề cao cảnh giác, có sự kiểm chứng thay vì tin tưởng mù quáng nội dung do AI tạo ra, đồng thời luôn xác minh những thông tin quan trọng như địa chỉ, số điện thoại qua các nguồn chính thống.
Người dùng cũng cần tránh sử dụng tính năng tóm tắt AI đối với những email đáng ngờ, không rõ danh tính người gửi; cẩn thận với email và những tin nhắn lừa đảo. Người dùng cũng có thể tạm thời ngừng sử dụng tính năng tóm tắt AI cho đến khi Google cập nhật những biện pháp bảo vệ mạnh hơn.
