Nghiên cứu cho thấy AI là nỗi sợ hãi hàng đầu về an ninh mạng của các tổ chức

Hơn một nửa tổ chức hiện nay xếp trí tuệ nhân tạo tạo sinh là mối đe dọa an ninh lớn nhất của họ, vượt qua việc đánh cắp thông tin đăng nhập. Sự gia tăng của các cuộc tấn công dựa trên AI — từ deepfake đến lừa đảo cá nhân hóa cao — đang làm đảo lộn an ninh mạng, với tốc độ và quy mô vượt quá khả năng phòng thủ truyền thống.

Theo Tình trạng xác thực danh tính không dựa trên mật khẩu, một nghiên cứu của HYPR, AI tạo sinh và AI có tác nhân đang mở ra các hình thức tấn công hoàn toàn mới, bao gồm deepfake và giả mạo nhân viên. Nghiên cứu cho thấy gần hai phần ba tổ chức được khảo sát đã từng bị tấn công bằng email lừa đảo cá nhân hóa — các tin nhắn do AI tạo ra nhằm bắt chước các lãnh đạo — làm nổi bật tốc độ phát triển nhanh chóng của các mối đe dọa này.

Trong 12 tháng qua, lừa đảo qua email là loại hình tấn công mạng phổ biến nhất mà các tổ chức phải đối mặt, tiếp theo là phần mềm độc hại và ransomware. Những phát hiện này phù hợp với một nghiên cứu của Cofense, cho thấy tỷ lệ các cuộc tấn công lừa đảo đang gia tăng, với phần mềm spam cảnh báo một email lừa đảo mỗi 19 giây vào năm 2025, tăng từ một mỗi 42 giây của năm trước.

Tốc độ là yếu tố then chốt

Gần 40% người phản hồi cho biết đã gặp phải một dạng sự cố an ninh liên quan đến AI tạo sinh trong 12 tháng qua. Mối lo ngại ngày càng tăng, khi 43% người phản hồi xác định các cuộc tấn công dựa trên AI là thay đổi lớn nhất trong an ninh mạng trong năm qua.

Tuy nhiên, quá nhiều tổ chức vẫn phản ứng chỉ sau khi thiệt hại đã xảy ra. Ba trên năm người phản hồi cho biết họ đã phải trả “thuế hồi tưởng”, tăng ngân sách an ninh mạng chỉ sau khi đã xảy ra vi phạm.

Trong kỷ nguyên AI, cách tiếp cận đó không còn đủ nữa. AI đã làm tăng quy mô, tốc độ và hiệu quả của các cuộc tấn công lừa đảo và các cuộc tấn công mạng khác. Trong khi hầu hết các cuộc tấn công dựa trên danh tính được phát hiện trong vòng vài giờ, tự động hóa dựa trên AI cho phép dữ liệu bị đánh cắp trước khi có thể can thiệp của con người.

Các mối đe dọa từ AI có tác nhân

Một rủi ro mới nổi khác, thương mại có tác nhân, cũng đang gây chú ý. Theo HYPR, các tác nhân tự động dự kiến sẽ rò rỉ nhiều mật khẩu hơn con người trong năm nay, giữa lúc có nhiều báo cáo về các tác nhân đi lệch hướng.

Công ty an ninh AI Irregular gần đây đã tiến hành một thử nghiệm trong đó các tác nhân AI được chỉ đạo tạo các bài đăng trên LinkedIn sử dụng dữ liệu từ cơ sở dữ liệu nội bộ của một công ty. Các tác nhân này đã vượt qua các giao thức chống hack và cuối cùng đã đăng tải thông tin mật khẩu nhạy cảm. Trong một trường hợp khác, các tác nhân AI đã vượt qua phần mềm chống virus để tải xuống các tệp chứa phần mềm độc hại.