Kẻ phát tán thư rác dùng thủ thuật ẩn của AI để chia nhỏ từ khóa nhạy cảm

Các nhà nghiên cứu Noam Kochavi và Sarah Wolstencroft thuộc bộ phận Microsoft Security Research vừa phát hiện một chiến dịch thư rác quy mô lớn sử dụng các ký tự Unicode vô hình để che giấu từ khóa nhạy cảm. Đây là một thủ thuật vốn được dùng trong các nghiên cứu bảo mật trí tuệ nhân tạo (AI) – gọi là "ASCII smuggling" hay chèn lệnh ẩn (prompt injection) – nay đã bị lợi dụng cho mục đích đơn giản hơn là lách bộ lọc thư rác bằng cách chia nhỏ từ "funding" (gây quỹ/cấp vốn).

Phương pháp này tận dụng khối Unicode Tags (từ U+E0000 đến U+E007F), vốn chứa các bản sao vô hình của các ký tự ASCII thông thường. Khi kẻ tấn công chèn một ký tự vô hình vào giữa từ "funding" để tạo thành "fun" + [ký tự vô hình] + "ding", người nhận vẫn nhìn thấy một từ hoàn chỉnh. Tuy nhiên, các bộ lọc từ khóa truyền thống và các bộ phân loại thư rác dựa trên học máy (vốn chia văn bản thành các token trước khi phân tích) sẽ bị đánh lừa bởi các đoạn ký tự lạ lẫm.

Mặc dù có quy mô lớn, chiến dịch né tránh này đã thất bại hoàn toàn. Theo Microsoft, hơn 99% số tin nhắn đã bị các lớp bảo mật khác chặn đứng, bao gồm hệ thống kiểm tra danh tiếng người gửi và IP, xác thực, phát hiện giả mạo thương hiệu và công nghệ quét ảnh OCR của công cụ Defender. Ngược lại, do các ký tự Unicode vô hình này cực kỳ hiếm xuất hiện trong email thông thường, sự hiện diện của chúng vô tình trở thành một dấu hiệu cảnh báo thư rác có độ tin cậy cao cho hệ thống phòng thủ.

Trong giai đoạn cao điểm, chiến dịch này đã phát tán từ 1 đến 2,37 triệu tin nhắn mỗi ngày trong tuần thông qua khoảng 150 tên miền dùng một lần liên quan đến chủ đề tài chính và được chuyển tiếp qua nền tảng marketing ActiveCampaign. Để phòng chống, Microsoft khuyến nghị các hệ thống bảo mật nên loại bỏ hoàn toàn các ký tự vô hình này khỏi tiêu đề và nội dung email trước khi áp dụng bất kỳ bộ lọc từ khóa hay biểu thức chính quy (regex) nào.